Reddit начал внедрять ИИ-модератора в новые сообщества

Соцсеть Reddit начала внедрять в новые сообщества систему автоматической модерации Rules Hub. Она использует ИИ-модели для определения того, соответствует ли публикация или комментарий установленным правилам.

Модераторы смогут выбирать правила для автоматической проверки и действия при обнаружении нарушения. Система может удалить материал, направить его на ручную проверку или только сохранить информацию о срабатывании в журнале. Перед включением правила его можно протестировать на ранее опубликованных материалах.

В отличие от AutoModerator, работающего преимущественно с ключевыми словами и регулярными выражениями, предполагается, что Rules Hub будет учитывать контекст. Например, система сможет отличать оскорбление пользователя от цитаты из фильма или разговорного выражения.

Инструмент тестировался примерно 700 командами модераторов. С 5 августа он доступен во всех создаваемых сообществах Reddit. Для существующих сообществ пока ничего не изменится, а AutoModerator продолжит работать. Компания подчеркивает, что Rules Hub предназначен для помощи модераторам, а не для их замены.