Алгоритмы Instagram (принадлежит Meta, признанной экстремистской и запрещенной в РФ) продвигают контент для педофилов и сети продажи соответствующих видео и изображений. Расследование об этом подготовила The Wall Street Journal (WSJ) совместно с исследователями из Стэнфордского университета и Массачусетского университета в Амхерсте. Они обнаружили в Instagram многочисленные сети, связанные с контентом для педофилов, которые можно найти по определенным хештегам. Кроме того, исследователи пришли к выводу, что алгоритмы Instagram продвигают аккаунты, через которые можно купить контент такого рода.
Исследователи создали аккаунт, через который зашли на несколько страниц, продвигающих контент для педофилов, после чего им начали предлагать другие такие страницы. В общей сложности они нашли в Instagram около 400 аккаунтов, продающих подобный контент. При этом сам запрещенный контент не публикуется в сервисе, который используется лишь для его продвижения. «Instagram становится путем к тем местам в интернете, где имеет место более явное сексуальное насилие над детьми»,— говорит Брайан Левин, глава лаборатории UMass Rescue, занимающейся борьбой с сексуальной эксплуатацией несовершеннолетних в интернете.
В Meta признали, что у компании могут быть сложности со своевременным обнаружением и блокировкой преступного контента. В компании отметили, что за последние два года заблокировали 27 сетей педофилов и планируют дальнейшие действия. Компания также сообщила, что только в январе она заблокировала 490 тыс. аккаунтов, нарушающих правила защиты детей и подростков в сервисе. Кроме того, после запроса из WSJ Meta заблокировала тысячи хештегов, связанных с распространением такого контента, и запретила рекомендацию аккаунтов и контента, которая потенциально может быть направлена на педофилов.
«То, что группа из трех ученых с ограниченным доступом смогла найти такую огромную сеть, должно вызвать тревогу у Meta. Я надеюсь, компания дополнительно инвестирует в людей, которые будут проводить расследования»,— заявил Алекс Стэймос, глава Стэнфордской интернет-обсерватории, изучающей потенциально негативное воздействие технологий на общество.