Недавно китайские ученые разработали устройство, которое помогает бороться с порнографией, запрещенной в стране. Есть и другие технологические решения как для людей, которые хотят перестать смотреть порнографию, так и для борьбы с харассментом, торговлей людьми или сексуальной эксплуатацией детей.
Фото: Анатолий Жданов, Коммерсантъ
Фото: Анатолий Жданов, Коммерсантъ
ИИ против порнографии
Китайские ученые создали устройство, которое анализирует импульсы головного мозга и может определить, когда человек смотрит порнографию. Об этом сообщила на этой неделе гонконгская газета South China Morning Post. Устройство тестировали на 15 мужчинах, которых сажали перед экранами компьютеров и показывали разные виды контента. Так исследователи научили прибор выявлять мозговые импульсы, возникающие именно при просмотре порнографии, и теперь при появлении на экране такого контента устройство подает сигнал.
В Китае запрещена порнография, в стране есть специальные цензоры, которые просматривают страницы в интернете в поисках запрещенного контента. Устройство может облегчить работу таких цензоров.
Если те из-за усталости или по каким-то иным причинам случайно пропустят порнографические изображения, то аппарат их поправит.
Это не единственный случай, когда технологии используются для отслеживания просмотра «безнравственного» контента. Американская компания Covenant Eyes разработала основанные на ИИ инструменты, которые сканируют содержимое гаджета на наличие там порнографического контента. Такое ПО, подписка на которое стоит $17 в месяц, можно установить на ПК, смартфон или планшет. Оно проверяет не только сайты, но и приложения, мессенджеры и соцсети. Одно из приложений от Covenant Eyes просто блокирует порнографический контент. Но другое приложение компании под названием The Victory App не только ищет порнографию, но и — в случае ее обнаружения — отправляет сообщение об этом «партнерам по ответственности», указанным самим пользователем, например, членам семьи, друзьям или священнику.
«Порнография влияет на всю церковь — мужчин, женщин, детей, семейные пары и одиноких. Она мешает нам в полной мере вовлекаться в отношения, церковную жизнь и наполненную смыслом жизнь в целом. Хватит!» — пишут создатели Covenant Eyes. По их собственным данным, эти приложения уже загрузили более 1,5 млн человек.
Технологии для борьбы с харассментом и торговлей людьми
Разработки китайских ученых и приложения по борьбе с порнографией выглядят довольно пугающе, но есть и более понятные технологические инструменты такого рода. Например, ИИ-системы сходного действия есть в приложениях для родительского контроля — например, в сервисе Canopy. Родители могут установить его на гаджеты своих детей, и оно будет автоматически блокировать не подходящий для них контент, в том числе порнографию.
В 2018 году несколько разработчиков создали чатбота Spot — он предназначен для HR-отделов компаний и с его помощью сотрудники могут пожаловаться на сексуальные домогательства, не общаясь на первом этапе с людьми.
«Spot работает как идеальный интервьюер, помогающий вспомнить и задающий правильные вопросы, чтобы вы ничего не пропустили,— рассказывает Джулия Шоу, соосновательница Spot и психолог из Имперского колледжа Лондона, специализирующаяся на криминальной психологии и механизмах памяти.— Такой интервьюер спокоен, нейтрален и не задает наводящих вопросов». При работе над чатботом она применила познания о работе механизмов памяти, а также изучала опросы, проводимые в случае изнасилований и других подобных преступлений полицией.
По словам госпожи Шоу, в случае с изнасилованиями и домогательствами один из важнейших моментов — максимально быстрое обращение жертвы. Небольшие компании платят за подписку на Spot $800 в год, для крупных компаний суммы устанавливается в зависимости от требований и количества сотрудников.
Для жертв харассмента предназначен и созданный в 2017 году чатбот от стартапа Botler AI. Как и в случае со Spot, бот общается с людьми, которые хотят сообщить о сексуальных домогательствах и др., для этого ИИ изучил сотни тысяч уголовных дел соответствующей направленности в США и Канаде. Бот задает вопросы — а потом сообщает, есть ли состав преступления по закону того или иного штата, и, если есть, составляет заявление, которое дальше можно подавать в полицию.
В приложении Spotlight, созданном организацией Thorn, которая борется с торговлей людьми и сексуальной эксплуатацией детей, используются технологии предиктивной аналитики.
Такие технологии помогают идентифицировать жертв таких преступлений по фотографиям с различных нелегальных сайтов, а в некоторых случаях также опознавать преступников, занимающихся торговлей детьми. По данным Thorn, с 2016 года таким образом удалось опознать более 17 тыс. пострадавших детей. Приложением Spotlight пользуются американские и канадские правоохранительные органы. Еще один сходный инструмент — Traffic Jam — также использует ИИ для поиска жертв торговли людьми и других подобных преступлений.