Facebook испытывает недостаток в модераторах, которые могли бы понять отличные от английского языки и контекст, характерный для других стран, сообщает Associated Press (AP) со ссылкой на внутренние документы компании и информацию бывших работников Facebook. Это создало проблемы для пользователей в Индии, Палестине, Сирии, а также привело к блокировкам за употребление ряда обыденных слов на арабском языке.
У социальной сети нет списка запрещенных ругательств на дари и пушту — языках, которыми владеет большинство жителей Афганистана. Ни правила Facebook, ни меню, из которого можно пожаловаться на нарушение правил, не переведены на местные языки страны. Для других стран арабского мира характерно чрезмерное использование искусственного интеллекта, что приводит к «большому число ложнопозитивных случаев и критики в СМИ», свидетельствует один документ.
Согласно цитируемым AP документам, модераторы и автоматические фильтры Facebook не способны эффективно распознавать нарушения правил соцсети в постах и комментариях на хинди и бенгальском языке. Это способствовало распространению исламофобских сообщений в Индии со стороны пользователей, связанных с националистической организацией «Раштрия сваямсевак сангх», поддерживающей премьер-министра страны Нарендру Моди.
25 октября AP и другие американские СМИ опубликовали материалы по «досье Facebook» — утечке документов компании, которую первой опубликовала газета The Wall Street Journal (WSJ). Ранее она отмечала, что сотрудники Facebook указывали на неспособность ИИ эффективно распознавать контент с проявлениями ненависти и чрезмерной жестокости. В конце 2020 года компания не смогла разработать фильтр для арабского языка, однако у нее не было массива информации о различных его диалектах.
О других расследованиях WSJ по поводу проблем в Facebook — в материале «Ъ» «С Facebook сорвали покровы».