Альянс разведок пяти стран предупредил об угрозе со стороны последних моделей ИИ
Разведывательный альянс, широко известный как Five Eyes, выступил с заявлением о необходимости срочных действий против киберугрозы со стороны новых моделей искусственного интеллекта (ИИ), сообщает Reuters.
«Ожидается, что передовые модели ИИ превзойдут текущие ожидания отрасли, коренным образом изменив как наступательные, так и оборонительные возможности в киберпространстве. Сроки рассчитаны не на годы, а на месяцы»,— цитирует агентство заявление официальных лиц США, Великобритании, Канады, Австралии и Новой Зеландии.
В тексте на трех страницах нет подробностей. В основном в нем повторяются основные рекомендации по кибербезопасности, такие как быстрое исправление неисправного программного обеспечения и отказ от подключения систем к сети без необходимости. Также содержится призыв использовать ИИ «для раннего выявления слабых мест» в защите.
Предупреждение стало еще одним свидетельством растущей обеспокоенности властей из-за появления таких моделей, как Mythos от Anthropic или GPT-5.5-Cyber от OpenAI, которые, как утверждается, позволяют пользователям быстро выполнять сложные и потенциально разрушительные взломы, отмечает Reuters.
Ранее Anthropic был вынужден отключить версию Mythos после того, как правительство США распорядилось приостановить доступ к моделям для иностранных граждан из соображений нацбезопасности.
Обеспокоенность по поводу угроз, исходящих от ИИ, в том числе для национальной безопасности и обороны стран, нарастает уже некоторое время. Правительства и эксперты по всему миру отмечают, что ИИ может быть использован как злоумышленниками для масштабных и изощренных кибератак, так и для улучшения систем защиты. В частности, существуют риски вторжения в сферу государственного суверенитета через системы глобального регулирования ИИ, а также угрозы, связанные с использованием ИИ в военных действиях.
Проблема усугубляется тем, что многие передовые модели ИИ, такие как глубокие нейронные сети, являются «черными ящиками», то есть их решения невозможно точно предсказать. Это создает трудности в оценке их безопасности, особенно при обучении на государственных данных, где ошибка может привести к искаженным рекомендациям для стратегических госрешений. Эксперты по кибербезопасности отмечают, что применение ИИ для кибернападения развивается быстрее, чем для защиты, что снижает порог входа для ИИ-хакеров. Компании в сфере информационной безопасности, такие как "Информзащита", прогнозируют наращивание компетенций в области ИИ для противодействия этим угрозам.