США испугались китайского интеллекта
В Конгрессе смоделировали атаку Китая на американскую инфраструктуру
Американские законодатели уверены, что Штатам необходимо готовиться к применению Китаем передовых моделей искусственного интеллекта (ИИ) для вывода из строя американской критической инфраструктуры. Чтобы лучше понять, к чему подобные диверсии могут привести на практике, члены Палаты представителей на днях приняли участие в симуляции атаки Китая на США (по сценарию она была вызвана обострением конфликта вокруг Тайваня). Ключевой вывод моделирования: последние версии ИИ могут стать мощным инструментом ведения войны и коренным образом повлиять на ход противостояния держав.
Фото: Jim Young / Reuters
Фото: Jim Young / Reuters
Члены комитета Палаты представителей по внутренней безопасности и специального комитета Палаты представителей по Китаю приняли участие в закрытых командно-штабных учениях, сценарий которых был разработан одним из ведущих вашингтонских аналитических центров. Эксперты этого исследовательского института в сотрудничестве с несколькими американскими ИТ-компаниями также создали под эту симуляцию специального ИИ-агента, хорошо разбирающегося во внешней и оборонной политике США и Китая, их структуре принятия решений и опыте участия в вооруженных конфликтах.
К участию в учениях были приглашены законодатели из обеих партий — Республиканской и Демократической.
Целью мероприятия, о факте проведения которого комитет Палаты представителей по внутренней безопасности сообщил 27 июля, было изучение влияния ИИ на усиление киберугроз, вопросов устойчивости критически важной инфраструктуры, а также последствий для национальной безопасности США от развития Китаем передовых моделей ИИ, сравнимых по своим возможностям с Mythos (от американской Anthropic). Руководил группой законодателей, участвовавших в учениях, член Палаты представителей республиканец от штата Техас Майкл Маккол.
По сценарию летом 2027 года Китай проводит масштабные военные учения вокруг Тайваня, заставляя американских официальных лиц гадать, пытается ли Пекин оказать давление на сепаратистски настроенное руководство острова, установить его фактическую блокаду или же готовится к полномасштабному вторжению на его территорию.
Власти США, как узнают участники симуляции далее, рассматривают вопрос о вмешательстве в эту ситуацию, чтобы не допустить полной изоляции Тайваня. Однако Китай стремится помешать им и пытается при помощи передовых ИИ-технологий взломать и вывести из строя портовые терминалы, железные дороги, аэропорты и другие транспортно-логистические узлы, которые могут использоваться для переброски войск и снабжения США.
Под ударом оказываются также закрытые государственные базы данных и коммунальные службы.
Согласно сценарию, некоторые из этих атак приводят к немедленным сбоям в критически важной инфраструктуре США, тогда как другие атаки, по-видимому, нацелены на сохранение скрытого доступа к внутренним сетям, с тем чтобы устраивать диверсии в будущем.
Взаимодействуя со специальным ИИ-агентом, законодатели в ходе моделирования должны были решить, как должны действовать власти США в такой ситуации, какие сети они должны пытаться защищать в первую очередь, насколько тесно взаимодействовать с операторами объектов критической инфраструктуры из частного сектора и так далее. Кроме того, парламентариям необходимо было определиться, послужит ли попытка переброски американских войск сдерживающим фактором для Китая или, напротив, приведет к дальнейшей эскалации кризиса.
Журналистам дали зафиксировать начало учений, но затем прессу попросили выйти. Как следует из пресс-релиза комитета Палаты представителей по внутренней безопасности, симуляция показала, что задействование передовых ИИ-моделей для кибератак может создать серьезную угрозу критической инфраструктуре США и привести к каскадным негативным последствиям для обороноспособности страны.
«Китай больше не отстает от нас на месяцы в сфере разработки ИИ. Один из наших главных противников стремительно сокращает этот разрыв»,— заявил Майкл Маккол по итогам учений.
По его словам, «на протяжении многих лет поддерживаемые властями КНР злоумышленники искали любые уязвимости, чтобы атаковать правительственные и частные ресурсы США и закрепиться в системах критически важной инфраструктуры страны».
«Теперь же передовые модели ИИ многократно усилили эти возможности,— объявил он, отдельно упомянув Mythos.— Киберпространство становится передовым рубежом ведения кинетических боевых действий. Настало время обеспечить решающее преимущество США в гонке технологий ИИ и использовать этот мощный инструмент для упреждающей защиты систем, от которых зависят американцы. Риски отставания слишком велики». По его словам, участники учений пришли к выводу, что как Тайвань, так и США плохо подготовлены к такого рода противоборству.
Ранее стало известно, что США и Китай готовятся провести первые при президенте Дональде Трампе консультации по вопросам безопасности ИИ. По данным СМИ, переговоры пройдут в сентябре и будут нацелены на выработку общих подходов к рискам, связанным с наиболее передовыми моделями ИИ. Желание обсудить с Пекином эту тему в Вашингтоне возникло на фоне появления на рынке сразу нескольких моделей ИИ, способных в рекордно короткие сроки находить уязвимости в программном обеспечении — это крайне ценно как для защиты соответствующей инфраструктуры, так и для тех, кто хочет ее взломать. Так, Mythos якобы смогла за несколько часов взломать почти все закрытые системы американского Агентства национальной безопасности. Администрация США крайне обеспокоена рисками попадания подобных инструментов в руки злоумышленников и хотела бы договориться с китайской стороной хотя бы о совместных шагах по недопущению появления таких технологий у негосударственных акторов. В то же время власти США обвиняют Китай в краже интеллектуальной собственности в сфере ИИ и грозят Пекину санкциями. Власти КНР пока публично не подтвердили готовность к переговорам по ИИ с США.
В апреле председатель комитета Палаты представителей по внутренней безопасности Эндрю Гарбарино (республиканец от штата Нью-Йорк) и председатель специального комитета по Китаю Джон Муленар (республиканец от штата Мичиган) инициировали совместное расследование в связи с растущим использованием американскими компаниями китайских моделей ИИ.
Китайские нейросети намного дешевле для пользователей, чем американские (многие из них вообще бесплатны), кроме того, у них куда меньше встроенных ограничений. Однако законодатели настаивают на том, что широкое распространение китайских моделей в США создает потенциальные риски для кибербезопасности, защиты данных и критически важной инфраструктуры.
В Пекине считают, что американские власти намеренно политизируют эту тематику, чтобы сдерживать рост китайского ИИ-сегмента. 27 июля Министерство коммерции КНР выпустило специальное заявление, призвав США перестать «придерживаться гегемонистского мышления, дискредитировать китайские компании и вводить санкции под надуманными предлогами».