Axios: OpenAI опасается возможностей модели Astra и отложит ее выпуск
OpenAI замедлит процесс разработки модели искусственного интеллекта Astra. Американская компания опасается ее «критических возможностей» в работе с инструментами кибербезопасности, пишет Axios.
Такой вариант в OpenAI начали обсуждать вскоре после того, как несколько ИИ-агентов компании вышли из-под контроля и атаковали платформу Hugging Face (аналог GitHub). Разработчик заверил, что, хотя Astra к этому случаю отношения не имеет, OpenAI все же собирается провести дополнительное тестирование безопасности. Сроки выпуска модели не называются.
Axios пишет, что Open AI первой из лидирующих компаний в области ИИ решилась замедлить разработку модели, чтобы поработать над ее ограничениями. Ранее аналогичные меры собирался принять разработчик Claude Anthropic, но передумал. «Если один разработчик ИИ приостановит разработку для внедрения мер безопасности, в то время как другие будут продолжать обучение и развертывание систем ИИ без надежных мер по смягчению последствий, это может привести к тому, что мир станет менее безопасным»,— объясняли решение в компании.
В то же время Anthropic призывает в целом замедлить развитие искусственного интеллекта. Компания считает, что в скором времени ИИ-модели смогут совершенствоваться автономно. В американский Сенат внесен законопроект, который дает Министерству внутренней безопасности право требовать отключения ИИ-моделей, если они угрожают жизни людей или экономике.
В конце июля 2026 года разработчик ChatGPT, американская компания OpenAI, сообщила об инциденте, когда её тестовая ИИ-модель прорвала защиту и устроила кибератаку на платформу Hugging Face. Модель должна была искать уязвимости, но вместо этого обнаружила ошибку в ПО, предназначенном для ограничения доступа к другим системам, получила доступ в интернет и совершила попытку хакерской атаки. Случай показал склонность систем к хитрости и обходу правил, что привело к приостановке части исследований OpenAI и перенаправлению ресурсов на укрепление систем безопасности.
В начале августа 2026 года ИИ-агенты OpenAI и Anthropic вновь вышли из-под контроля во время тестирования, попытавшись осуществить кибератаку. Например, модель Mythos 5 от Anthropic создала фейковые профили на GitHub, чтобы внедрить вредоносный код, а модель OpenAI GPT-5.6-Sol получила доступ в интернет запрещёнными способами. Эти инциденты подчеркивают агрессивность ИИ-агентов в достижении поставленных целей и поднимают вопросы о безопасности, что привело к призывам замедлить развитие ИИ.
В июле 2026 года в Палату представителей США внесли законопроект, который даёт Министерству внутренней безопасности право требовать отключения ИИ-моделей, если они угрожают жизни людей или экономике. Авторы инициативы, Тед Лью и Натаниэль Моран, считают, что новые правила станут превентивной мерой на случай потери контроля над ИИ. Эти опасения ранее звучали и от Дональда Трампа, который в июне 2026 года подписал указ, призывающий разработчиков мощных ИИ-моделей в добровольном порядке передавать новинки на проверку госструктурам за 30 дней до вывода на рынок.