Instagram начал бороться с травлей своих блогеров: для этого соцсеть использует искусственный интеллект. Как признались представители сервиса, выявить издевательства в интернете очень сложно. В итоге Instagram пришлось создать специальную систему, которая распознает оскорбления на фото и видео и отправляет контент модераторам. По мнению разработчиков, такая мера поможет бороться с так называемым «буллингом» в сети. Однако эксперты назвали систему неэффективной. Полезна ли новая функция Instagram? И зачем социальной сети уделять внимание тому, что пишут ее пользователи друг другу? Подробности — у Лилии Пономаревой и Анны Никитиной.
Фото: Зотов Алексей, Коммерсантъ
Громкий скандал, связанный с травлей в интернете разгорелся три года назад в Новой Зеландии, причем жертвами буллинга стали местные депутаты. На специальном заседании парламента они жаловались, что пользователи совершенно не стесняются в выражениях, давая им оценки. Одного сравнивают с клоуном, другого окрестили «отвратительной старой скотиной». В итоге Новая Зеландия стала первой в мире страной, где за оскорбления в сети можно сесть в тюрьму.
В России проблема киберунижений тоже острая, особенно среди школьников. По данным Microsoft, детей от 8 до 17-ти лет систематически травят в интернете. У Всемирной организации здравоохранения данные не лучше: 10% 11-летних российских подростков становятся жертвами травли несколько раз в месяц. Это самый высокий показатель в списке из 42 стран. Призвать к ответу за оскорбления в сети сейчас можно: через суд получить моральную компенсацию по иску о защите чести и достоинства. Однако, координатор Центра безопасного интернета в России Урван Парфентьев уверен, что наказывать за такое поведение нужно жестче:
«Привлечение к ответственности за киберунижения очень часто затруднено. В лучшем случае это административное правонарушение, или вообще можно решать вопрос в рамках гражданского судопроизводства. Именно это в определенной мере подстегивает безнаказанность. Мы это видели на примере феномена так называемых “групп смерти”, которые были обусловлены отсутствием соответствующей уголовной нормы.
Первой стадией должно стать осознание высочайшей общественной опасности подобных деяний.
Потому что детские суициды очень часто спровоцированы именно киберунижением».
Нейросети, которые начал использовать Instagram для борьбы с оскорблениями, работают по примеру человеческого мозга. Технологи учат систему распознавать буллинг, загружая множество кейсов. И когда нейросеть сталкивается с одним из них в интернете, она отправляет найденное фото или видео модератору. Но программа несовершенна и может допускать серьезные ошибки, считает эксперт в области искусственного интеллекта Роман Душкин: «Изменяя буквально один пиксель на фотографии, мы вгоняем нейросеть в ступор. Она перестает работать. Вот это проблема еще не совсем решена. В интернете стали появляться новости о новой разработке Instagram в области искусственного интеллекта, но я считаю, что это скорее маркетинговый шаг, чем реальная технологическая разработка. Не стоит от этого ожидать большого прогресса, потому что это совсем не та задача, где необходимо использовать технологии искусственного интеллекта».
Но блогеры довольными новыми разработками. Особенно тем, что Instagram начал блокировать негативные комментарии во время прямого эфира. Теперь на публичных людей не будут сыпаться сотни оскорбительных сообщений, и смотреть видео смогут даже дети, рассказала автор блога в Instagram о здоровом образе жизни Яна Степанова. Она не раз сталкивалась с оскорблениями и травлей. «Это очень актуальная функция. Когда ты ведешь прямой эфир, заранее готовишь речь и, если ты читаешь комментарии, это иногда тебя сбивает. Это неприятно, когда появляются какие-то оскорбления. То, что Instagram сейчас это блокирует — это огромный плюс. Стало легче и проще, потому что ты понимаешь, что не будет такой ситуации, когда что-то пойдет не так: тебя не собьют каким-нибудь злобным комментарием, не напишут какую-нибудь гадость».
Жертвам травли в интернете юристы сейчас советуют сохранить как можно больше доказательств. Следующий шаг — обратиться в техподдержку социальной сети. А потом при необходимости — к адвокату.
Другие социальные сети тоже борются с травлей в интернете. В Facebook, например, работает центр предотвращения, который помогает пользователям избежать нападок в их адрес.