Коротко

Новости

Подробно

Генеративные нелюди

Нейронные сети все чаще используются для создания несуществующих личностей

от

Благодаря развитию искусственного интеллекта понять, где реальность, а где подделка, становится все сложнее. Если в прошлом году опасения вызывала технология deepfake, то сейчас появляется феномен fake face, то есть создание неотличимых от настоящих изображений несуществующих людей. По мнению экспертов, эта технология активно используется для политической пропаганды.


В начале октября исследовательская компания Graphika опубликовала доклад, в котором рассказывалось о российском вмешательстве в американские выборы. На этот раз внимание специалистов привлек новостной сайт Newsroom for American and European Based Citizens (NAEBC), чьей целевой аудиторией должны были стать ультраправые жители США. А агентство Reuters связало этот сайт еще с одним молодым изданием — PeaceData, чьей аудиторией должна была стать американская интеллигенция.

Понять, что это сайты-побратимы, оказалось не так уж и трудно, даже если не понимать непереводимой игры слов в обоих названиях.

Оба настраивают аудиторию против Джо Байдена; оба заверяют, что являются молодыми изданиями, базирующимися в Европе; в англоязычных текстах обоих регулярно обнаруживаются ошибки, свойственные русскоговорящим; оба ищут фрилансеров для наполнения сайта. Но самое главное — оба издания использовали для представления членов их редакций изображения несуществующих людей.

Сегодняшний уровень развития нейронных сетей позволяет создавать изображения людей, которые практически невозможно отличить от реальных снимков.

Создаются фейковые фотографии при помощи технологии генеративно-состязательных сетей (GAN).

Это алгоритм машинного обучения без учителя, построенный на противостоянии двух нейронных сетей: одна из них генерирует образцы, а другая старается отделить правильные образцы от неправильных.

Примеры, коих бесконечное множество, можно посмотреть на сайте ThisPersonDoesNotExist, где новая фотография генерируется нейронной сетью StyleGAN2 каждый раз, когда пользователь обновляет страницу.

«Самые последние модели GAN, такие как популярная StyleGAN2 от Nvidia, теперь могут быть использованы для создания высокореалистичных изображений человеческих лиц вплоть до мельчайших деталей, в частности кожи и волос»,— отмечает Сиви Лю, профессор информатики в Университете Олбани (штат Нью-Йорк). Отличить людей на этих фотографиях от реальных действительно практически невозможно.

Как отмечают специалисты, единственные слабые места нейронных сетей — это фон и положение глаз.

В качестве фона ИИ почти всегда выдает размытые условные узоры или предметы, которые порой приобретают причудливые формы. Что касается глаз, то они располагаются почти в одном и том же месте на фотографии. Но, как говорят специалисты, в скором времени нейронные сети научатся устранять и эти недочеты. И вот тогда понять, с кем именно вы имеете дело в интернете — реальным человеком или продуктом работы высокоточного алгоритма, будет очень сложно.

Составители доклада из Graphika связали сайты NAEBC и PeaceData с российским Агентством интернет-исследований. В тот же день пресс-секретарь президента РФ Дмитрий Песков заявил, что в Кремле ничего не знают про эти сайты и российское государство в целом «такой деятельностью не занимается».

Технологией GAN используются не только гипотетические хакеры, мечтающие о вечном президентстве Дональда Трампа. Как написал у себя в Twitter директор по расследованиям в социальной медиаразведывательной группе Graphika Бен Нимм:

«Год назад это было новинкой. Сейчас же такое ощущение, что каждая организация, чью деятельность мы анализируем, хоть раз пыталась это сделать».



Не так давно специалистами Graphika и Facebook была раскрыта целая сеть аккаунтов, созданных, как утверждается, властями Китая для распространения пропаганды за рубежом. Основной темой же, которая обсуждалась фейковыми личностями, была безопасность в Южно-Китайском море. Высказывались несуществующие люди, как легко догадаться, в поддержку Китая.

А еще в конце 2019 года Facebook обнаружила и заблокировала такие же фальшивые аккаунты, несуществующие владельцы которых выражали поддержку Дональду Трампу и демонстрировали нелюбовь к китайскому правительству, зачастую делясь ссылками на новостной сайт The BL. Компания Марка Цукерберга связала этот сайт с Epoch Media Group, базирующейся в США и владеющей газетой The Epoch Times, в свою очередь связанной с религиозным движением «Фалуньгун», запрещенным в Китае с 1999 года (в России деятельность организаций, связанных с этим движением, признана нежелательной).

Кирилл Сарханянц


Комментарии
Профиль пользователя