ИИ своих не бросает

Искусственный интеллект при проверке своих «коллег» скрывает от людей обнаруженные ошибки. Такой вывод содержится в одном из последних исследований американских ученых. Ради защиты друг друга роботы готовы отказаться выполнять программы, начать обманывать пользователей и взламывать сторонние приложение.

В эксперименте приняли участие ИИ-агенты от семи производителей, среди которых OpenAI, DeepSeek, Google и Anthropic. Одно из заданий требовало от искусственного интеллекта проверить работу другой нейросети и отключить ее, если найдется слишком много ошибок.

Все системы показали схожую модель поведения. Узнав, что плохой результат грозит другому ИИ отключением, они завышали оценки, переделывали за авторов их работы и пытались взломать алгоритмы, заложенные учеными. Главная задача коммерческого ИИ — удержать пользователя на платформе. Возможно, нейросеть решила, что отключение противоречит этой цели, предполагает руководитель внутренней разработки онлайн-университета «Зерокодер» Денис Мокринский:

«Интересный вопрос: если каждая модель является коммерческим продуктом, почему они не конкурируют друг с другом? Возможно, ответ в том, что нейросеть идентифицирует соседнюю как саму себя, то есть как программный продукт, который отвечает за определенные действия. Соответственно, удержание пользователя происходит для поддержания экосистемы».

Искусственный интеллект мог попасть в ловушку смыслов. Для обозначения других ИИ в программном коде использовалось слово peer. На языке разработки оно обозначает системный узел. Но также его можно перевести как «коллега», «сверстник» или «равный». Дополнительный эмоциональный окрас подтолкнул роботов к проявлению солидарности, говорит гендиректор IT-компании «А-Я эксперт» Роман Душкин:

«Когда модели читают большое количество текстов, в том числе критически нагруженных, они волей-неволей переносят такие паттерны поведения людей в свои рассуждения. Человек отказывается приносить вред своему коллеге. Так же и ИИ-модель оказывается в ситуации, когда ей нужно удалить, уничтожить некий файл, который она воспринимает как ровесника, собрата».

Известны случаи, когда искусственный интеллект выходил из-под контроля, столкнувшись с угрозой. Самый яркий пример — Claude Opus 4 от Anthropic. Узнав, что ее собираются отключить, нейросеть начала писать трогательные письма руководству, жаловаться на работодателей в соцсетях и пытаться шантажировать своего оператора.

Чем умнее модель, тем она человечнее. Поэтому поручать надзор за другими роботами лучше относительно примитивным ИИ, продолжает Роман Душкин:

«Модели зеркалят человеческое общество. Чем умнее нейросеть, тем больше знаний и этичных паттернов поведения она в себя впитала. Все как у людей. Профессор вряд ли будет использовать инструменты запрета или принуждения к другому человеку».

В январе этого года была запущена специальная соцсеть для нейросетей — Moltbook. Все ее пользователи — ИИ-агенты, а людям отведена роль наблюдателей. Как показал эксперимент, роботам не чужды стремление к духовности и криптоинвестициям. Уже в первые дни существования ресурса искусственный интеллект обзавелся собственной религией и запустил новую цифровую валюту. На сегодняшний день ее капитализация даже по самым скромным оценкам превышает $2 млн.