«ВКонтакте» запустила нейросеть для блокировки оскорбительного контента. Новая технология в автономном режиме будет искать, отмечать и удалять посты и материалы, которые разжигают ненависть. К недопустимому контенту относятся также и проявления ксенофобии, расизма, гомофобии, сексизма и других предрассудков, заявили представители соцсети. Сейчас пользователи также могут пожаловаться на оскорбительный контент. Но такие запросы вручную проверяют модераторы. Теперь они будут заносить эти случаи в базу данных нейросети, чтобы в дальнейшем она сама блокировала похожий контент.
Фото: Зотов Алексей, Коммерсантъ / купить фото
Фото: Зотов Алексей, Коммерсантъ / купить фото
Гендиректор аналитического агентства TelecomDaily Денис Кусков отметил, что такие алгоритмы успешно используют и другие соцсети: «Давно существует возможность использовать нейросети для нахождения и блокировки подобных вещей. Как правило, на первичном этапе всегда используется несколько вариантов фильтрации, в том числе и человеческая. Для ресурсов наподобие Facebook это уже используется достаточно давно в различных сегментах, и уже до модератора это доходит при каком-то спорном моменте. Сложности могут возникнуть из-за формулировок, которые имеют неоднозначный характер и, с одной стороны, оскорбительны, а с другой — могут использоваться и в другой части речи, в оборотах, из-за чего может потеряться вполне пристойное предложение или заголовок».
По данным «ВКонтакте», за полгода было удалено более полумиллиона постов за разжигание ненависти. Более 1 тыс. пользователей и около 2,5 тыс. сообществ были удалены. Приведет ли внедрение нейросети к росту блокировок? Ведущий аналитик центра РОЦИТ Урван Парфентьев считает, что это будет зависеть от точного определения понятия «враждебные высказывания», поиском которых и будет заниматься алгоритм: «Здесь речь идет о понятии “киберунижение”. На практике крайне редко доходит до уголовных дел, если речи не идет о какой-то серьезной клевете. Обычно все ограничивается мерами саморегулирования. У нас экстремистский контент — это несколько другая категория.
Но если в рамках понятия враждебного высказывания будут проходить оскорбления по признаку расы, национальности, отношения к религии, то не исключено, что по экстремистским показателям за счет какой-то повышенной выявляемости количество возбужденных уголовных дел может скакнуть вверх.
Во многом все будет зависеть от политики взаимодействия официальной сети с правоохранительными органами».
Как в «Студии Артемия Лебедева» больше года логотипы рисовал искусственный интеллект
В 2017 году Facebook запустил свою нейросеть, которая искала и удаляла террористический контент. Сейчас функционал алгоритма расширен, и блокируются также посты с проявлением расизма, ксенофобии и сексизма.