Компании подключают детекторы дипфейков
Какие системы использует бизнес
Российские компании начали закупать детекторы дипфейков. Речь о технологиях, которые выявляют поддельные видео, голос и изображения, сгенерированные нейросетями, причем в режиме реального времени. Как пишет РБК, такие инструменты работают в трех десятках проектов. Половина из них — банки.
Фото: Олег Харсеев, Коммерсантъ
Фото: Олег Харсеев, Коммерсантъ
О том, как действует распознавание дипфейков и можно ли систему, рассказывает руководитель компании «Интернет-розыск» Игорь Бедеров: «Средством борьбы здесь является использование машинной логики, которая, помимо тех паттернов, которые видит человек, еще обладает возможностью исследовать принципы работы, свойственные нейросети, то есть может определить технологию, благодаря которой был сгенерирован тот или иной дипфейк. Он делается по определенной методике, и на сегодняшний день нейросети-детекторы акцентируют основное свое развитие именно на том, чтобы определять принцип работы конкретной модели. Мы видим, что в ответах фигурируют типичные популярные массовые продукты для генерации видео или аудио. То есть такие инструменты прямо обозначают, что, скорее всего, была использована следующая нейросеть.
Сейчас в соревнованиях щита и меча — фейков и средств их выявления — все же лидирующая скрипка отдается первым, потому что они задают каждый раз новую планку развития технологий. Подстраивающаяся сторона — это как раз средства детектирования. Все лучше становятся те дипфейки, которые создаются при помощи даже общедоступного программного обеспечения. Оно все больше и больше входит в массы, и, соответственно, мы будем чаще встречать такого рода фейки. Все сложнее определить подделку при помощи специалиста-аналитика, специалиста по криминалистике».
Недавно в «Сбере» призывали сделать распознавание дипфейков обязательным стандартом и внедрять технологию в том числе в массовые сервисы. Пока острой необходимости в этом нет, считает соучредитель Сообщества профессионалов в области приватности Алексей Мунтян. Но, по его словам, компании могут готовиться к более широкому распространению фейков: «Я бы не сказал, что это проблема, которая носит какой-то критический социальный характер. Тем более для того, чтобы делать дипфейки в режиме реального времени, нужно существенное количество ресурсов, технологий, которые могут сделать их действительно реалистичными, сходными до степени смешения с оригиналом.
Учитывая развитие технологий и недорогих решений в этой сфере, вполне возможно, что банки, образно говоря, готовят сани летом, рассматривая ближайшую перспективу, когда это явление станет массовым.
Сюда можно добавить определенный контекст в виде законодательной деятельности, которую активно развивает государство. Оно фактически стимулирует компании к кибервооруженности в отношении мошеннических действий. Насколько мне известно, сейчас рассматривается пакет федеральных законов, который можно назвать условно "Антифрод-2". Он еще больше ужесточает регуляторику в этой сфере. Мы можем проследить общее видение государства, что операторы связи, кредитные организации, особенно крупные, предоставляя российским гражданам те или иные услуги, которые в том числе, естественно, связаны с сопутствующими рисками, должны нести в определенной мере ответственность в случае, если у мошенников получается добиться своего».
Власти при этом предлагали строже наказывать за использование дипфейков. По задумке Минцифры, применение такой технологии должно стать отягчающим обстоятельством в киберпреступлениях. Сейчас норму обсуждают с правоохранителями, заявлял глава министерства Максут Шадаев.
С нами все ясно — Telegram-канал "Ъ FM".