«Деликатность не будет лишней»

Пользователям запретили обижать ИИ. В октябре Anthropic обновила свои правила: теперь там прописано, что систематическое и необоснованное оскорбительное или жестокое поведение в адрес моделей запрещено. В тексте уточняется, что «это касается лишь крайних случаев, когда пользователи неоднократно и без какой-либо явной цели ведут себя жестоко по отношению к моделям». В итоге модели Claude могут прекращать такие диалоги. Обычное несогласие или недовольство остаются допустимыми, как и «использование мрачных творческих тем».

В Anthropic полагают, что учет интересов моделей может быть важен для безопасности. Пока это первый такой случай, когда компания оформила право ИИ прекращать разговор с человеком за нападки. Хотя вопрос о том, насколько вообще тональность общения с чат-ботами влияет на результат выдачи и какими могут быть долгосрочные последствия, активно обсуждается.

Глава Microsoft AI Мустафа Сулейман в своем эссе, опубликованном в сентябре, настаивает на отсутствии сознания и чувств у ИИ. Он убежден, что если учить модель допускать, будто она заслуживает прав, не стоит исключать сценарий, при котором ее будет невозможно контролировать.

В ответ на вопрос о вежливости Сэм Альтман из OpenAI шутил, что «спасибо» и «пожалуйста» обходятся в десятки миллионов долларов на электричество, но деньги потрачены не зря: мало ли. Некоторые специалисты отмечали, что вежливый тон задает и тон ответа, а, например, сооснователь Google Сергей Брин говорил, что модели лучше работают под угрозами.

Результаты исследований на эту тему расходятся. В 2024-м ученые университета Waseda в Токио сравнивали запросы на английском, китайском и японском языках на восьми уровнях вежливости. Грубые запросы часто ухудшали результат, а излишняя вежливость не давала пользы. Осенью 2025-го исследователи университета Пенсильвании проверили чат GPT, и грубые запросы дали около 85% верных ответов, тогда как вежливые — только 81%.

Еще возникает вопрос, может ли ИИ научиться плохому? По идее в обычном чате модель не обучается на лету. Но вряд ли мы можем знать судьбу всех историй переписки. Деликатность не будет лишней.