«Одноклассники» запустили функцию автоматического скрытия эротического контента
Социальная сеть «Одноклассники» внедрила функцию автоматического обнаружения и скрытия эротического контента на площадке, сообщила пресс-служба компании. При этом обновление не коснется спортивных фотографий, пляжных снимков, а также изображений произведений искусства, таких как классическая живопись и статуарное искусство.
Фото: Дмитрий Духанин, Коммерсантъ
Фото: Дмитрий Духанин, Коммерсантъ
«Создание комфортной среды для взаимодействия пользователей — один из главных приоритетов "ОК". За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств»,— сказал директор по продукту компании Александр Москвичев.
В пресс-службе также рассказали, что если пользователь все же захочет посмотреть скрытое изображение или GIF-файл, то он может кликнуть по нему, либо же проигнорировать и пропустить. Чтобы лучше обнаруживать и ограничивать подобный контент, соцсеть провела исследование среди пользователей. Его результаты помогли выяснить, что именно пользователи считают эротикой, которую не хотят видеть. На этих примерах инженеры соцсети обучили модели машинного обучения, чтобы те автоматически размывали подобный контент.
«Всего "Одноклассники" использовали более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определенному типу, за счет чего он или размывается, или остается в первоначальном виде»,— уточнили в пресс-службе.
В конце апреля «Одноклассники» выпустили обновление, благодаря которому платформа начала скрывать нецензурную брань. Вместо нецензурных слов пользователи видят звездочки. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.
О самых популярных социальных сетях в мире читайте в материале «Ъ».