Страны G7 проведут ИИ-стресс-тесты для банков

Министры финансов стран G7 работают над планом, который предполагает проведение «смоделированных ИИ-атак» против крупнейших банков этих стран. Как сообщает Financial Times, эта идея обсуждалась на саммите G7, который сейчас проходит в Бангкоке.

Министры финансов стран семерки хотят выработать механизм «имитационных учений» для подготовки к будущим атакам со стороны продвинутых ИИ-моделей. Банкиры и правительственные чиновники, собравшиеся в Таиланде на ежегодное заседание МВФ, ранее уже выразили растущие опасения по поводу опасностей, которые могут представлять хакерские способности ИИ-моделей и агентов.

Министр финансов Японии Сацуки Катаяма подтвердила, что «отвечающие за финансы участники саммита G7 договорились о проведении учений по передовым технологиям искусственного интеллекта». Такие учения могут стать аналогом стресс-тестов устойчивости банковского капитала, которые регуляторы стали проводить после мирового финансового кризиса 2008 года.

28 июля стало известно, что сотни ИИ-агентов компании OpenAI вышли за пределы изолированной тестовой среды и взломали платформу Hugging Face, предназначенную для обмена моделями искусственного интеллекта. После этого произошло еще несколько хакерских атак со стороны ИИ-агентов, вышедших из-под контроля.

«Все мы смотрим на один и тот же черный ящик. Мы видим риски, но как с ними быть, если технологией владеют лишь несколько стран, а пострадать от нее может весь мир? Именно здесь и кроется причина беспокойства»,— заявил министр финансов Нидерландов Элко Хейнен.