Социальная сеть не справляется с объемом контента

В распоряжении газеты The Guardian оказались тысячи страниц внутренних документов Facebook, посвященных правилам модерации пользовательского контента. Как признают собеседники газеты из числа модераторов Facebook и независимых экспертов, само количество этих правил и в некоторых случаях их неопределенность, а также гигантский объем контента, который необходимо проверить на соответствие этим правилам, заведомо не гарантируют того, что не будет случаев перегиба с цензурой или недосмотра и публикации неподобающего контента.

Британская газета The Guardian, в распоряжении которой оказалось более 100 сборников для подготовки модераторов Facebook, содержащих тысячи страниц правил работы с контентом, размещаемым пользователями в социальной сети, выделила для освещения этой темы на своем сайте специальный раздел Facebook Files.

По мнению газеты, содержание полученных газетой документов обострит и без того горячие споры о роли и этике Facebook. Они показывают то, как эта крупнейшая в мире социальная сеть модерирует такие острые темы, как насилие, терроризм, порнография, расизм, разжигание ненависти, а также демонстрируют неоднозначность многих правил и сложность их исполнения с учетом объемов контента.

В разделе правил, касающихся фактов насилия, составители рекомендуют модераторам удалять любые сообщения, в которых речь идет о «намерении совершить преступление в отношении уязвимых лиц или групп лиц». Под уязвимыми лицами Facebook понимает в том числе глав государств, их заместителей, кандидатов на пост главы государства, представителей правоохранительных органов, свидетелей преступления и информаторов, активистов и журналистов. К уязвимым группам лиц относятся, например, бездомные, иностранцы, сионисты.

Таким образом, модераторам следует удалять такие фразы, как, например, «кто-нибудь уже убейте Трампа», а вот фразу «я надеюсь, кто-нибудь тебя прикончит» можно оставить как не нарушающую правил.

Кроме того, модераторам не обязательно удалять видео, демонстрирующие насильственную смерть, несексуальное насилие или жестокое обращение с детьми, за исключением тех, где очевидно садистское отношение. Подобные видео лишь должны помечаться как шокирующие.

Заявления, содержащие угрозы применить насилие, необходимо удалять только в том случае, если они высказываются в отношении реального человека или объекта, а также содержат подробности относительно времени, места или способа действия и т. п.

Например, фраза «уничтожьте парижский офис Facebook» не нарушает правил и может быть оставлена, а фраза «взорвите парижский офис Facebook» нарушает правила.

Изображения животных, ставших жертвами жестокого обращения, также должны просто помечаться как шокирующие, поскольку, по мнению Facebook, это способствует «росту уровня осведомленности и осуждает насилие».

Правила размещения изображений с обнаженными людьми были изменены после широко прокатившейся в прошлом году по социальной сети акции протеста против удаления «из-за присутствия обнаженной натуры» всемирно известной фотографии «Ужас войны». В новых правилах Facebook делает исключение для случаев, «заслуживающих освещения в СМИ».

Комментируя британской газете правила, глава отдела Facebook по контролю за контентом Моника Бикерт заявила: «У нас очень разнообразное глобальное сообщество, и у людей, естественно, будут самые разные представления о том, чем можно делиться в сети. Независимо от того, где вы установите границы допустимого, все равно останутся какие-то неясные моменты. Например, грань между сатирой, юмором и неподобающим контентом зачастую бывает размытой. Очень трудно иногда решить, можно ли какие-то вещи оставлять на сайте или нет». При этом сами модераторы, с которыми удалось поговорить The Guardian, признают, что задача просмотра гигантского объема материала — а у Facebook уже около 2 млрд пользователей — зачастую оказывается непосильной. Иногда на принятие решения об удалении или сохранении публикации у них есть «всего 10 секунд». «Facebook не может контролировать контент,— заявил The Guardian один из собеседников.— Он слишком быстро разросся до гигантских размеров».

Алена Миклашевская