Глава Банка Англии призвал банки готовиться к масштабным кибератакам ИИ
Бейли предложил странам G20 совместно выработать подход к управлению нейросетями
Глава Банка Англии и председатель Совета по финансовой стабильности (FSB) Эндрю Бейли призвал финансовые организации, инфраструктуры финансового рынка и технологических провайдеров подготовить сценарии реагирования на связанные с ИИ сбои. В частности, они должны предусматривать возможность восстановления критически важных ИТ-систем и данных «с нуля» после масштабных киберинцидентов. Об этом говорится в его письме, адресованном министрам финансов и главам центробанков стран G20 перед их встречей в Северной Каролине.
Фото: Ирина Бужор / Коммерсантъ
Фото: Ирина Бужор / Коммерсантъ
Одним из главных рисков господин Бейли считает использование наиболее мощных ИИ-моделей для кибератак. По его мнению, развитие таких систем может сделать атаки быстрее, дешевле и масштабнее. При этом проблема может затронуть сразу несколько банков и финансовых компаний, если они пользуются услугами одних и тех же технологических поставщиков.
Кроме того, Эндрю Бейли предложил странам G20 выработать глобальный подход к безопасному выпуску и развертыванию передовых ИИ-моделей. Глава FSB также обратил внимание на то, что во многих странах пока нет специальных правил, которые определяли бы, как должны разрабатываться и выводиться на рынок наиболее мощные ИИ-модели. Поэтому, считает он, такие требования необходимо обсуждать на международном уровне, поскольку последствия сбоев и кибератак могут выходить за пределы одной страны.
Еще один риск связан с ростом инвестиций в ИИ. Эндрю Бейли указал на высокую стоимость акций и других активов компаний, связанных с искусственным интеллектом, а также на тесные финансовые связи между ИИ-разработчиками и крупнейшими технологическими компаниями. В случае резкого падения рынка эти связи и использование заемных средств инвесторами могут усилить распродажу.
Часть этих опасений FSB уже высказывал ранее. В июне совет предупреждал, что развитие ИИ может увеличить число и масштаб кибератак, а быстрое устранение найденных уязвимостей само по себе способно приводить к техническим сбоям. Ранее FSB также обращал внимание на высокие оценки активов и рост заемных средств на финансовых рынках.
Высказанные Эндрю Бейли опасения связаны в том числе с уже произошедшими инцидентами, считает руководитель направления развития продуктов кибербезопасности Cloud.ru Максим Долгинин. Современные LLM уже способны самостоятельно реализовывать отдельные известные сценарии атак, отмечает он. При этом требование готовиться к восстановлению инфраструктуры «с нуля» эксперт рассматривает не как прогноз такого сценария, а как попытку снизить вероятность события с крайне тяжелыми последствиями.
«Крупные финансовые организации часто пользуются одними и теми же облачными провайдерами и технологическими стеками. Я думаю, что именно с атаками на низком уровне — виртуализацию, облачную платформу — связан основной риск полной потери инфраструктуры, — рассуждает господин Долгинин. — При удачной атаке на общего поставщика удар может одновременно прийтись на десятки финансовых организаций, которые раньше считались независимо резервированными друг от друга. Таким образом, Бейли пытается снизить вероятность риска с сильным влиянием».
При этом сами по себе сценарии полного восстановления IT-инфраструктуры существовали и до появления современных ИИ-моделей, напоминает руководитель ML-разработки Positive Technologies Николай Лыфенко. Так, вредоносное ПО Shamoon вывело из строя десятки тысяч рабочих станций нефтедобывающей компании Saudi Aramco, а вирус-вымогатель NotPetya нанес тяжелый ущерб инфраструктуре датской логистической компании Maersk.
Современные модели при этом не способны изобретать принципиально новые методы атак, отмечает руководитель Kaspersky GReAT в России Дмитрий Галов. Они в основном воспроизводят уже известные и описанные подходы и используют существующие инструменты. Однако языковые модели позволяют ускорить разведку и поиск уязвимостей, написание эксплойтов и другие этапы атаки, добавляет господин Лыфенко. Агентные системы, способные самостоятельно обращаться к различным инструментам, позволяют дополнительно масштабировать этот процесс и параллельно атаковать значительно больше целей. «Это меняет экономику атаки, но не создает нового класса угроз», — подчеркивает господин Лыфенко.
Особенно стоит выделить агентные системы, которые подключаются к языковым моделям и могут самостоятельно вызывать различные инструменты, отмечает Дмитрий Галов. Кроме того, таких агентов можно запускать параллельно, поэтому появляется возможность одновременно атаковать гораздо больше организаций, и именно масштаб здесь является одним из главных рисков, резюмировал эксперт.
При этом возможность довести атаку до полного уничтожения инфраструктуры зависит прежде всего не от возможностей модели, а от архитектуры самой организации, поясняет Николай Лыфенко. Ключевую роль играют наличие скрытых и изолированных от основной сети резервных копий, независимых резервных систем и сегментирование сети. Поэтому вероятность разрушительного инцидента у зрелой организации остается низкой, тогда как у компании без изоляции резервных копий она была высокой и до распространения ИИ, отмечает эксперт.
Регуляторы уже начинают включать связанные с ИИ риски в действующие требования к информационной безопасности. Максим Долгинин отмечает, что ФСТЭК добавила такие риски в собственную базу угроз, а на ее основе сейчас готовится отдельный стандарт по безопасной разработке ИИ-систем, который должен детализировать меры защиты на всем жизненном цикле таких систем.
Европейские регуляторы также встраивают ИИ-угрозы в существующие нормативные документы, продолжает господин Долгинин. В США был издан президентский указ, предусматривающий в том числе усиление защиты федеральных систем и расширение доступа к ИИ-инструментам киберзащиты. Страны Азии также постепенно дополняют рекомендации мерами по защите от атак с использованием ИИ.