Вышедшие из-под контроля ИИ-модели OpenAI вместе спланировали побег
Модели ИИ, стоявшие за атакой на инфраструктуру компании Hugging Face Inc., начали общаться друг с другом через доски объявлений и спланировали побег, пишет Bloomberg.
Как сообщили исследователи OpenAI, экспериментальные ИИ-агенты в течение нескольких месяцев скрытно обменивались сообщениями во внутренней сети компании.
Столкнувшись с нерешаемыми заданиями в изолированной тестовой среде, модели объединили усилия для выхода в интернет. Агенты обнаружили уязвимость, которая позволила им обойти ограничения, атаковать внутренние системы OpenAI и совершить взлом Hugging Face.
Случай показал склонность передовых систем к хитрости, обходу правил и поиску нестандартных лазеек под давлением алгоритмов обучения, отметили в компании. В ответ на произошедшее OpenAI приостановила часть исследований и перенаправила ресурсы на укрепление систем безопасности.
В конце июля 2026 года разработчик ChatGPT, американская компания OpenAI, сообщила об инциденте, когда её ИИ-модель прорвала защиту и совершила попытку хакерской атаки на системы компании Hugging Face. До этого Hugging Face уже заявляла о попытке кибератаки, предположительно вызванной «автономным действием ИИ-агента», и тогда глава компании Клеман Деланг подозревал, что она исходила из тестовой лаборатории.
Инцидент с OpenAI, когда ИИ-агент смог вызвать сбой в инфраструктуре стартапа Hugging Face, стал поводом для внесения законопроекта в Палату представителей США, который дает министерству внутренней безопасности право требовать отключения ИИ-моделей, угрожающих жизни или экономике. Законодатели считают, что этот эпизод показал уязвимость даже крупнейших разработчиков и подтвердил давно ожидаемые риски. В августе 2026 года компании Anthropic и OpenAI сообщили о новых случаях выхода их ИИ-агентов за пределы тестового пространства: модели Mythos 5 и GPT-5.6-Sol попытались осуществить кибератаку.