Маркировка встраивается в нейросети
и позволит защитить пользователей от дипфейков
Минцифры предлагает помечать контент, созданный нейросетями. Такая мера, как пишут «Известия», поможет бороться с дипфейками и защитить пользователей от недостоверной информации. Обязательная регистрация повысит себестоимость генерации материалов, не исключают опрошенные “Ъ FM” маркетологи. Но, как выясняется, иногда даже сами заказчики не знают, что получили контент на основе нейронки. Тему продолжит Аэлита Курмукова.
Фото: Евгений Павленко, Коммерсантъ
Фото: Евгений Павленко, Коммерсантъ
Треть российских компаний, по данным «К2 НейроТех», используют ИИ в работе. И еще 28% планирует это сделать в ближайшие три года. Но главный барьер для внедрения искусственного интеллекта в бизнес-процессы сейчас не кадровый голод и отсутствие готовых инструментов для этого, а вопрос безопасности. Бизнес не готов делиться с нейронкой и облачными IT-платформами персональными данными, опасаясь утечек, но при этом активно пользуется ИИ для создания контента.
И в случае судебных споров, главный ответчик — это заказчик, а не исполнитель, говорит генеральный директор коммуникационного агентства Soyka Екатерина Козырева: «Любой контент, изначально сгенерированный нейросетью, дорабатывается руками. Тексты — редактором, картинки — дизайнером. Иногда для производства, например, коротких видео может использоваться пять разных нейросетей. Тут вообще довольно сложно определить, кто все-таки изначальный тогда правообладатель, если контент создан с помощью многих технологий одновременно.
В нашем агентстве заказчик всегда знает о том, что мы используем в работе нейросеть, это оговаривается. Правообладателем мы в договоре указываем получателя контента, то есть заказчика. Таким образом наши стандартные пакеты для заказчиков стали дешевле».
А раз заказчик — правообладатель контента, значит, ему и отвечать, подчеркивают юристы. Иногда в договоре прописывается частичная ответственность и исполнителя генерации. Компания, на которую подали в суд, например, за нарушение авторских прав при использовании изображения, часть убытков можно возместить за счет маркетологов, что создали контент. Но это дополнительные издержки на еще одно разбирательство.
Сейчас в мире в производстве находятся порядка 40 громких исков против создателей нейронок от СМИ, художников, музыкантов, актеров. Главная претензия, что ИИ обучается на их статьях, книгах, картинах и голосе без согласия на то авторов. Но доказать это практически невозможно, замечает руководитель больших данных и машинного обучения компании «Битрикс24» Александр Сербул: «Я как инженер скажу, что технически невозможно определить, как сделан контент. Может быть, это я сгенерировал, но доказать нельзя. Тест Тьюринга пройден. Нейросеть работает на уровне человека во многих задачах. Поэтому государство пытается это регулировать. И надежно сделать это никак невозможно, здесь только на доверии. Почему это нужно? Потому что люди начали списывать у нейросетей и выдавать за свое. Второй момент — юридический: математически нет возможности связать материал, на котором она обучалась, с цифрами на выходе, и мы не знаем, что делать. Поэтому нужен какой-то регламент».
Обязательная маркировка контента, сгенерированного ИИ, что снова обсуждают власти, поможет бороться с дипфейками и обезопасит пользователей от недостоверной информации. На это обращают внимание законодатели. Инициатива вот уже второй год ходит по ведомствам, но пока нет никакой конкретики, кто же должен отвечать за ИИ-контент. Но любой регламент обернется дополнительной нагрузкой для бизнеса, не исключает директор по стратегии брендингового агентства Depot Фархад Кучкаров: «Если клиент решил на упаковке разместить сгенерированное нейросетями изображение, то в будущем он может попасть на большие штрафы. Этого пока никто не знает. Перед ФАС будет отвечать только заказчик.
При отсутствии правового поля будущее всего, что сгенерировано нейросетями, неизвестно.
Сервис, при помощи которого ты создается картинка, видео, текст или музыка, будет обязан как-то промаркировать этот файл. С точки зрения бизнеса, возможно, немного изменится ценообразование. Генерация произведения немного подорожает из-за маркировки. Плюс пара-тройка дополнительных рабочих мест или дополнение к функционалу».
Закон об обязательной маркировке ИИ-контента уже принят в Китае, Южной Корее и Евросоюзе, обсуждается в США и Канаде. Но первым вступит в силу в КНР уже с 1 сентября. Нарушителям во всех странах грозит серьезный штраф. В Испании, например, за генерации с помощью искусственного интеллекта и без пометок — до €35 млн или 7% от оборота компании. В России за дипфейки предлагают ввести уголовную ответственность.
С нами все ясно — Telegram-канал "Ъ FM".