Коротко

Новости

Подробно

Фото: Олег Харсеев / Коммерсантъ

Искусственный интеллект переборщил с цензурой

В Facebook, Twitter и YouTube были заблокированы сотни ссылок пользователей

от

На протяжении нескольких дней системы Facebook против спама в автоматическом режиме блокировали все ссылки пользователей на публикации о коронавирусе, карантине, закрытии школ и т.д. Соцсеть разобралась в ситуации, назвав ее ошибкой автоматических систем проверки публикаций на соответствие правилам платформы. Аналогичные проблемы возникли также у YouTube и Twitter.


С ужесточением мер по борьбе с коронавирусом многие компании отправили своих сотрудников на удаленную работу. Не стали исключением и крупные технологические компании и соцсети, включая Facebook, Amazon, Google, Twitter, Slack, Microsoft. Модераторов контента Facebook в числе прочих сотрудников также отправили по домам. Однако контролировать контент из дома могут только штатные сотрудники, а те, кто работает на договорной основе, не могут из соображений безопасности. В результате число проверяющих контент резко сократилось. Дефицит компенсировали, увеличив долю участия в этой работе автоматизированных систем модерирования.

Но оставшийся «на дежурстве» искусственный интеллект (ИИ) оказался неготовым к самостоятельному модерированию новостного контента.

Пользователи Facebook, пытавшиеся в последние дни поделиться в своей ленте ссылками на статьи о коронавирусе, о мерах защиты, о закрытии школ и т. п., получали уведомления, что эти публикации нарушают правила платформы, являются спамом и поэтому блокируются. Среди заблокированных были ссылки на статьи в таких СМИ, как USA Today, NBC, New York Post, BuzzFeed и других. Пользователи развернули обсуждение этой проблемы, заподозрив соцсеть в попытках не допустить появление негативных публикаций о действиях администрации президента США Дональда Трампа по борьбе с коронавирусом.

Представители Facebook поспешили разъяснить ситуацию. Вице-президент компании Гай Розен в своем аккаунте в Twitter пояснил, что публикации «были удалены ошибочно». «Проблема была в автоматизированной системе, которая удаляет ссылки на сайты с оскорбительной и нарушающей правила информацией. Эта система по ошибке удалила еще и множество других публикаций»,— сказал он и добавил, что все удаленные по ошибке публикации уже восстановлены.

Twitter уже пообещал, что не будет блокировать на постоянной основе те аккаунты, которые будут оценены системами ИИ как нарушающие правила.

А YouTube предупредил пользователей о том, что в ближайшее время сайт будет медленнее реагировать на запросы пользователей, а число заблокированных и удаленных видео возрастет, и в это число может угодить даже не нарушающий правила контент, все по той же причине — нехватке сотрудников.

Алена Миклашевская


Комментарии
Профиль пользователя