ИИ получит водяной знак
Почему метки контента нейросетей называют прорывом на рынке
Маркировка ИИ в моделях Claude изменит систему защиты дипломов и подготовки диссертаций. Так считают опрошенные “Ъ FM” эксперты в сфере искусственного интеллекта и ученые. Anthropic ввел специальные водяные знаки в нейросетях из-за требований Евросоюза, но работать новая функция будет по всему миру.
Фото: Dado Ruvic / Illustration / Reuters
Фото: Dado Ruvic / Illustration / Reuters
Anthropic — вторая компания после Google, которая ввела маркировку ИИ-контента. Метку получит любой текст, созданный языковой моделью или чат-ботом Claude. Водяной знак превратят в метаданные или прозрачный паттерн. Они невидимы для читателей, но распознаются машинами. Маркировка сохранится при вставке в другие приложения. Вскоре примеру Anthropic последуют и другие, полагает сооснователь американской IT-компании Finsi AI Андрей Ребров:
«Все к этому шло. С разных сторон начинается явная маркировка AI. Например, компания STEP стала идентифицировать сгенерированную рекламу, потому что хочет помогать настоящим креаторам. Anthropic также заявляет, что маркировки якобы будут добавлять даже в текст, потому что у них нет генерации изображений. При этом заявляется, что на качество это никак влиять не будет. Такой правильный шаг с точки зрения попытки сделать AI-контент более понятным, контролируемым для конечного потребителя».
Аналитики рынка считают, что маркировка усложнит скрытое использование ИИ. Впрочем, IT-эксперт Александр Исавнин уверен, что вскоре пользователи придумают механизм обхода таких ярлыков:
«Тексты нормализуются редакторами, и скрыть информацию добавлением лишних пробелов, невидимых символов довольно сложно. На больших объемах, например, в курсовых, это будет видно, а в небольших сообщениях, типа электронных писем, скорее всего, никто не заметит. Будет другой инструментарий, модели, которые аккуратно меняют текст, чтобы вот эти маркеры были скрыты».
Скрытые метки помогут издателям и преподавателям быстрее находить ИИ-тексты, говорят в Anthropic.
Например, такая практика может распространиться на дипломные и другие научные работы. Студентам эта функция тоже будет полезна, считает профессор Сколтеха Михаил Гельфанд:
«Хорошие преподаватели, хорошие редакции журналов разрешают пользоваться искусственным интеллектом. Потому что это хороший, мощный инструмент, и им не пользоваться — это все равно что со связанными ногами бегать, но требуют явно указывать, что использовалось, какие запросы были. Недобросовестные люди этого не делают. Глупые, недобросовестные люди на этом ловятся, которые поумнее — видимо, нет. Читатель, рецензент или арбитр должен иметь возможность понимать, что было сделано. Жульничать станет труднее. В этом смысле, видимо, на количество недобросовестных текстов это повлияет».
Маркировка не решит проблему списанных у ИИ дипломов и диссертаций, уверена профессор Университета Джорджа Мейсона Анча Баранова:
«Фокус с кодом будет обходиться очень легко: берете этот текст и фотографируете его совершенно любой программой, которая будет читать это изображение. Потом вы заново генерите этот текст, вот и все. Сразу же у вас получается новая запись без всяких водяных знаков. Не очень понятно, как вообще весь этот институт диссертаций — кандидатской, докторской — переродится. Нам придется серьезно пересмотреть вообще сами подходы к этому всему».
Anthropic вскоре предоставит пользователям и бизнесу инструменты для обнаружения маркировки контента.
Однако компания предупредила, что наличие метки не доказывает, что Claude — первоначальный автор материала. При этом маркировка может исчезнуть после редактирования или преобразования файла.