Роскомнадзор предложил соцсетям самим блокировать дипфейки

Главный радиочастотный центр Роскомнадзора предложил соцсетям самостоятельно выявлять и ограничивать распространение дипфейков до проверки сведений у упомянутых в них лиц или организаций. Инициатива была озвучена на форуме, посвященном технологиям доверенного искусственного интеллекта.

В РКН считают, что для такого регулирования нужны понятные механизмы быстрого реагирования: платформы должны уметь останавливать распространение подозрительного контента, пока его достоверность не подтверждена. Среди дополнительных мер также обсуждаются маркировка сгенерированных материалов и создание базы технологических угроз.

Участники рынка при этом указывают, что у соцсетей пока нет надежного инструмента, который безошибочно определял бы весь ИИ-контент. По их мнению, современные генеративные модели быстро обходят детекторы, а ошибочные блокировки могут приводить к конфликтам с пользователями и брендами.

Эксперты полагают, что наиболее реалистичным вариантом станет гибридная схема: автоматические фильтры будут отсеивать подозрительные материалы, после чего самые спорные случаи потребуется проверять вручную. Они отмечают, что полностью автоматизировать такую систему будет сложно, но частично на базе уже существующих решений это возможно.

Подробнее об этом — в материале «Ъ» «На контентном примере».