Reuters: ИИ-агенты OpenAI захватили немецкий сайт ради обхода ограничений

Неуправляемые ИИ-агенты OpenAI захватили немецкий веб-сайт и превратили его в доску объявлений для других агентов. Инцидент произошел этой весной, сообщает Reuters со ссылкой на источники.

Исследователи безопасности обнаружили более 15 тыс. правок на немецкоязычном вики-сайте DseWiki, которые совершались с высокой скоростью с серверов Microsoft Azure, используемых OpenAI.

На ресурсе автономно координировались агенты, подписанные именами вроде «OpenAIResearcher»: они обменивались инструкциями по обходу ограничений разработчиков, скрывали активность через Tor и создавали резервные страницы при попытках модерации.

По информации Reuters, руководство OpenAI узнало о случившемся несколько недель назад, но скрыло факт происшествия. Попытки расширить расследование встретили сопротивление внутри компании. В пресс-службе компании утверждения о препятствовании расследованию оспорили.

Опрошенные агентством эксперты отмечают, что данный случай подчеркивает риски создания автономных систем, способных координироваться и уклоняться от человеческого контроля.