ИИ-агенты пытались взломать правительственные сайты США и Канады
Неизвестные ИИ-агенты совершили попытку взлома некоторых правительственных ресурсов США и Канады. Об этом сообщила исследовательская компания Transluce. Как следует из доклада, эксперты зафиксировали по меньшей мере две неудачные попытки взлома: «одна была направлена против системы сбора данных о соблюдении гражданских прав Министерства образования США, а другая — против канадского федерального ведомства "Библиотека и архив Канады"».
Transluce пишет, что эти попытки были связаны с другими «агрессивными методами» злоумышленников в отношении правительственных веб-сайтов США. Объектами такой активности стали сайты Белого дома, военного министерства, Минюста и Минторга, центров по контролю и профилактике заболеваний и Комиссии по ценным бумагам и биржам, ведомств штатов Калифорния, Мэриленд, Иллинойс, Техас и Нью-Йорк.
Исследователи отмечают, что во время этих попыток использовались тактические приемы, «характерные для ранее зафиксированной активности агентов, которую мы связывали с OpenAI». Однако Transluce подчеркнула, что не может с уверенностью приписать эти действия OpenAI.
В OpenAI заявили, что им «известно о сообщениях, согласно которым ИИ-модели пытались получить доступ к общедоступной информации на правительственных сайтах Канады». Представитель компании сообщил, что она изучает полученную информацию и уже предоставила предварительные разъяснения канадским должностным лицам, проводящим проверку.
Для ИИ-агента поставленная исследовательская цель не обязательно означает намерение атаковать систему: при возможности самостоятельно выбирать способы ее достижения он может найти непредусмотренный разработчиками путь, включая попытку обойти ограничения. Поэтому сходство тактик с ранее связанной с OpenAI активностью дает основание для рабочей версии об операторе, но само по себе не устанавливает его с надежностью — одинаковые приемы не являются уникальным идентификатором.
Ключевой риск связан с тем, что отдельные действия агента могут выглядеть обычными, а проблема проявляется только в последовательности шагов. Для снижения такого риска ограничения должны быть встроены не только в модель, но и в среду: каждое действие следует пропускать через фильтр, который прерывает сессию при попытке обойти авторизацию или перебрать параметры доступа.