Инструмент не для всех

Одной из тем, обсуждавшихся в ходе визита президента США в Китай, стали быстро развивающиеся технологии искусственного интеллекта (ИИ). По итогам поездки Дональд Трамп объявил: Вашингтон и Пекин могут договориться о мерах по ограничению ИИ, несущего помимо огромной пользы и серьезные риски. Власти КНР пока не подтвердили возможность выхода на какие-либо договоренности с США в этой крайне чувствительной сфере. Когда при предыдущей американской администрации стороны предприняли первую попытку найти общий подход к ИИ, оказалось, что их интересуют совершенно разные вопросы.

Выйти из полноэкранного режима

Развернуть на весь экран

«Мы говорили о том, что, возможно, будем работать вместе над созданием ограничений в сфере ИИ»,— заявил Дональд Трамп журналистам, возвращаясь из Китая. ИИ он назвал «фантастикой». «Так много можно при помощи этих технологий делать в разных областях, в медицине например, ну и в военном деле,— продолжил он.— С ИИ столько всего становится возможным, но у него есть риски, и мы говорили об этом (в Китае.— “Ъ”), мы, наверное, будем, мы будем работать вместе (с китайцами над этим вопросом.—  “Ъ”)».

В Пекине пока не прокомментировали перспективы таких договоренностей.

По словам же министра финансов США Скотта Бессента, США «могут себе позволить» стремиться к договоренностям с Китаем по ИИ, поскольку американские IT-компании «выигрывают в гонке с китайскими».

«Две сверхдержавы в области ИИ собираются начать диалог. Мы собираемся разработать протокол, который определит, как нам внедрять лучшие практики в области ИИ, чтобы гарантировать, что негосударственные субъекты не смогут воспользоваться этими моделями»,— рассказал он.

Источник в Белом доме дополнительно сообщил американским СМИ, что для начала речь может идти о создании отдельного канала коммуникации высокого уровня для обсуждения вопросов, связанных с развитием ИИ.

Первую попытку договориться с Китаем по ИИ США предприняли при Джо Байдене: в мае 2024 года в Женеве прошли двусторонние межведомственные консультации по этой теме. В ходе встречи выяснилось, что Вашингтон и Пекин заинтересованы в обсуждении разных аспектов вопроса. США хотели обсудить риски, связанные с применением ИИ, в то время как КНР интересовала отмена введенных ранее американской стороной в отношении нее ограничений на поставки чипов, необходимых для развития ИИ. Больше встреч по этой теме между США и КНР не было.

При этом ИИ продолжил быстро развиваться, и речь уже идет о полноценной гонке технологий, в которой с отрывом лидируют американцы и китайцы. США на первом месте, но Китай догоняет их (как утверждают американские эксперты, не без помощи кражи и копирования интеллектуальной собственности конкурентов).

ИИ используется уже во всех сферах жизни, и в последнее время все активнее — в военном деле. Последний пример — задействование американскими военными и спецслужбами технологий ИИ при планировании и осуществлении атак на Венесуэлу и Иран. В этих двух случаях речь шла, по сообщениям СМИ, о модели Claude от Anthropic. Она способна в режиме реального времени анализировать большие объемы разрозненных данных, сопоставляя информацию из разных источников, включая спутниковые снимки, съемку с дронов, пехотных систем дополненной реальности и взломанных дорожных и иных видеокамер, перехваченные коммуникации и агентурные сведения, сообщения из СМИ и соцсетей, опыт прошлых операций в отношении схожих мишеней, проводить симуляции боевых сценариев, идентифицировать и приоритизировать цели, а также оценивать возможный сопутствующий ущерб (см. “Ъ” от 5 марта).

Пока Дональд Трамп был в Китае, Anthropic опубликовала доклад о том, как может развиваться соперничество между США и Китаем в сфере ИИ в ближайшие годы.

Из документа следует, что ИИ — это уже не просто коммерческие технологии, а инструмент геополитического противоборства, который может обеспечить государству преимущества во всех ключевых сферах.

Эксперты Anthropic убеждены, что США должны продолжать лидировать в этой области и предпринимать необходимые шаги для сдерживания Китая. «Демократии, а не авторитарные режимы должны лидировать в разработке и внедрении ИИ. Если США и их союзники потеряют лидерство, то мир может войти в эпоху автоматизированного авторитаризма»,— настаивают авторы доклада. Чтобы не допустить этого, они, в частности, призывают ужесточить ограничения на поставки Китаю микрочипов из США.

Однако в администрации Дональда Трампа угрозу, судя по всему, видят в другом. В конце 2025 года власти США, наоборот, сняли ряд ранее действовавших ограничений на поставки Китаю микрочипов, разрешив Nvidia продажу чипов H200, но с условием уплаты 25% выручки правительству США. Правда, теперь уже власти Китая в этом не особо заинтересованы: они делают ставку на развитие ИИ на основе микрочипов своей Huawei. Вопреки ожиданиям многих американских экспертов, ни о какой сделке с Nvidia, чей гендиректор Дженсен Хуанг посетил Пекин в составе делегации Дональда Трампа, по итогам визита объявлено не было.

Но Белый дом вопрос о микрочипах, судя по всему, волнует меньше, чем риски, связанные с применением последних моделей ИИ. Об угрозе попадания таких инструментов в руки злоумышленников, особенно из числа негосударственных акторов, власти США стали активнее задумываться после того, как ведущие IT-компании некоторое время назад представили свои новинки. Речь идет о Mythos от Anthropic и ChatGPT 5.4 Cyber от OpenAI.

• Если верить имеющейся в открытом доступе информации, эти модели меняют сложившееся за многие годы представление о том, как работает кибербезопасность.
• Mythos и ChatGPT 5.4 Cyber якобы позволяют за секунды находить «уязвимости нулевого дня» (ошибки) в программном обеспечении, причем даже те, которые не удавалось обнаруживать годами.
• Так, в марте эксперт Anthropic обнаружил серьезную уязвимость в ядре операционной системы Linux, используемой тысячами разработчиков по всему миру. Эта брешь существовала необнаруженной с 2003 года.

Модели подобно Mythos могут стать бесценным инструментом для государств и бизнеса, позволяющим обнаруживать и закрывать бреши в критически важной информационной инфраструктуре. Но в руках злоумышленников это опасное оружие, поскольку, обнаружив уязвимости, хакеры могут делать из них эксплойты (инструменты для атак). Anthropic сочла свои новые технологии настолько прорывными, что предоставила доступ к Mythos лишь ограниченному пулу из 40 американских госструктур и частных компаний. OpenAI обещала поступить так же с ChatGPT 5.4 Cyber. Власти США поддерживают такие меры. В дальнейшем же в Белом доме, судя по заявлениям официальных лиц, хотят создать механизм для регулирования распространения новых ИИ-инструментов. И в США явно надеются, что Китай поступит так же.

«Если Вашингтон и Пекин о чем-то договорятся, речь будет, скорее всего, идти об ограниченных мерах преимущественно технического характера: ограничениях доступа к наиболее мощным моделям ИИ, предотвращении их использования негосударственными акторами, обмене оценками рисков по кибератакам, биорискам, мошенничеству и угрозам критической инфраструктуре,— предположила в беседе с “Ъ” гендиректор АНО "Координационная лаборатория", доцент СПбГУ Анна Сытник.— На практике это может означать усиленную проверку клиентов, ограничения для подозрительных посредников, предварительное тестирование наиболее опасных возможностей моделей и каналы экстренной связи между регуляторами и крупными компаниями».

Более жесткие меры, например контроль вычислительных кластеров, поставок ускорителей, порогов обучения моделей или обязательная отчетность о новых системах, выглядят, по словам эксперта, менее реалистично. «Для США это может восприниматься как ограничение собственного технологического лидерства, а для Китая — как попытка закрепить американское преимущество под видом безопасности,— пояснила Анна Сытник.— Поэтому возможные договоренности, вероятно, будут мягкими, а соблюдаемость — ограниченной, в том числе потому что контроль над ИИ сложнее осуществлять, чем, к примеру, над ядерными вооружениями». Если Вашингтон и Пекин о чем-то договорятся, то такое соглашение будет работать прежде всего там, где их интересы совпадают, но в военном ИИ стороны, по словам эксперта, сохранят свободу маневра.

Елена Черненко