Контенту ужесточают проверку
Структура МТС вложит 150 млн руб. в обновление детектора дипфейков
Новую версию детектора дипфейков МТС (MOEX: MTSS) Web Services планируется интегрировать с мессенджерами и госресурсами, а также выводить на экспорт. Компания заявляет, что вложила в обновление 150 млн руб. Однако пока решение ошибочно признает подделкой до 7,2% реального контента. Компания рассчитывает на быструю адаптацию системы к новым нейросетям, но эксперты указывают на высокий уровень ложных срабатываний как на ключевую проблему таких решений.
Фото: Игорь Иванко, Коммерсантъ
Фото: Игорь Иванко, Коммерсантъ
МТС Web Services (MWS; входит в группу МТС) инвестировала в разработку новой версии детектора дипфейков аудио и видео около 150 млн руб., рассказали “Ъ” в компании. В MWS ожидают, что выручка от реализации продукта составит порядка 100 млн руб., а уже в 2026 году MWS планирует выйти с этим решением в страны СНГ с прогнозируемой выручкой там около 200 млн руб. В настоящее время новый детектор тестируется на платформе «МТС Линк», сервисе МТС «Защитник», с тремя банками, а также «с одним из госсервисов в России», говорят в компании. Детектор MWS разработала в начале года (см. “Ъ” от 9 января).
Дипфейк — технология синтеза контента, основанная на машинном обучении и искусственном интеллекте. Она позволяет накладывать фрагменты контента на исходное изображение, подменяя лицо и голос на видео или звуковой дорожке.
Собеседник “Ъ”, знакомый с планами компании, уточняет, что переговоры об интеграции решения также ведутся с «крупным мессенджером», а также что рассматриваются несколько вариантов интеграции: встраивание детектора непосредственно в продукт или создание отдельного бота, который позволит пользователям проверять контент.
Точность распознавания по аудиодорожке составила 84% для видео, созданных популярными моделями ИИ — Veo 3 (Google), и 93% — для Sora 2 (OpenAI), заявляют в MWS, когда при анализе изображения точность достигла 93,9% для Veo 3 и 93,6% для Sora 2. При анализе одновременно аудио- и видеодорожки точность распознавания превышает 98%, добавили в пресс-службе. В «СберТехе» и «Яндексе» отказались от комментариев.
«Показатели продукта МТС неплохие, но модели генерации регулярно развиваются, и это требует вложения не только финансовых, но и человеческих ресурсов»,— оценивает советник гендиректора АНО «Диалог Регионы» (разрабатывает собственный детектор «Зефир») Тихон Макаров. При этом гендиректор MWS Павел Воронин говорит, что показатель False Rejection Rate (FFR — число ложных срабатываний на реальный контент, как на синтезированный), по предварительным оценкам, может достигать от 4,5% до 7,2%, что «требует дополнительной настройки алгоритмов». Рано или поздно появляются новые типы синтеза, которые обходят существующие детекторы, добавляет он.
С ложными срабатываниями ошибка равна репутационному кризису, считает независимый эксперт в сфере ИИ Алексей Лерон.
Она ведет к дискредитации самого механизма контроля. Поэтому зрелые детекторы работают не по принципу да/нет, а с вероятностной шкалой доверия и многоуровневой проверкой, добавил он. Существуют различные подходы к борьбе с дипфейками, включая специальные метки, которые указывают на синтетическое происхождение контента, отмечает директор по ИБ компании «Авито» Андрей Усенок. Однако, по его словам, здесь также возникает гонка технологий: практически сразу появляются инструменты для удаления таких меток. Поэтому необходимо использовать комбинированные методы защиты, и детекторы остаются необходимым элементом этой системы.
«Чем больше решений и конкуренции на рынке, тем выше теоретический уровень безопасности, но эффективность в реальности покажет практика. Было бы полезно иметь хотя бы минимальную стандартизацию подходов: сейчас у каждого вендора свои архитектурные решения, и переход между ними осложнен»,— говорит специалист AI red team Positive Technologies Александр Мигуцкий. В конце октября комиссия Совфеда по информационной политике и взаимодействию со СМИ по поручению спикера верхней палаты Валентины Матвиенко приступила к проработке законопроекта о запрете дипфейков (см. “Ъ” от 29 октября 2025 года). По словам председателя комиссии Алексея Пушкова, в первую очередь необходимо внести в законодательство само понятие «дипфейк», а следом проработать механизм отделения «творческого контента» от «злонамеренной информации».