Модель поведения

Представители американской ИТ-компании Anthropic пытаются оспорить беспрецедентное решение властей США о введении жестких ограничений на распространение ее передовых моделей искусственного интеллекта (ИИ) Claude Fable 5 и Claude Mythos. Правительство США впервые пошло на столь радикальные меры из-за опасений, что прорывные технологии Anthropic могут быть использованы злоумышленниками для кибератак. Американские эксперты предупреждают, что подобные преграды могут привести к отставанию ИИ-сектора США от Китая. Между тем ранее сам глава Anthropic Дарио Амодеи призывал американские власти жестче контролировать ИИ-рынок.

Выйти из полноэкранного режима

Развернуть на весь экран

Технические специалисты компании Anthropic, разработчика популярной нейросети Claude, 14 июня прилетели из Сан-Франциско в Вашингтон, чтобы в ходе личных встреч с людьми из администрации президента США попытаться убедить власти, что их новейшие модели Claude Fable 5 и Claude Mythos не представляют угрозы для национальной безопасности страны. Отправлять переговорщиков в столицу компании пришлось после того, как 12 июня Anthropic получила звонок из Белого дома с требованием в рамках экспортного контроля закрыть доступ к Fable 5 и Mythos для иностранных госструктур, компаний и граждан. Запрет предписывалось распространить и на работающих в самой Anthropic обладателей грин-карт. В случае несоблюдения ограничений компании пригрозили уголовным делом.

Свои требования власти обосновали якобы обнаруженными в Fable 5 серьезными недоработками, которые позволяют использовать эту нейросеть для поиска уязвимостей в программном обеспечении, а затем создавать на основе обнаруженных брешей вредоносные коды для кибератак.

При выходе Fable 5 на рынок ее разработчики заверяли, что встроили в модель механизмы защиты, которые не дадут злоумышленникам использовать ее во вред. Но власти США обратились к сторонним структурам для проверки надежности этих «предохранителей», и одна из них, проведя собственную экспертизу, ответила, что ей удалось заставить Fable 5 искать уязвимости в программном коде. По стечению обстоятельств компанией, предупредившей власти о несовершенстве Fable 5, оказалась Amazon — самый крупный корпоративный инвестор в Anthropic (вложивший в нее $13 млрд и обещавший еще $20 млрд).

На устранение недоработок власти США дали Anthropic, по данным американских СМИ, всего 90 минут. В ходе телефонных разговоров с министром торговли Говардом Латником, главой Минфина Скоттом Бессентом и кибердиректором Белого дома Шоном Кэрнкроссом Дарио Амодеи настаивал на том, что проблемы с Fable 5 преувеличены, но просил больше времени для их устранения, однако договориться не удалось. Будучи не в состоянии избирательно отключить только иностранных пользователей, Anthropic пришлось закрыть доступ к своим самым передовым продуктам (Mythos была представлена в апреле, а Fable 5 — только 9 июня) вообще для всех.

Ситуация с запретом на распространение передовых ИИ-моделей для США беспрецедентная. При администрации Джо Байдена власти уже вводили экспортные ограничения для ИИ-разработчиков, но они были не столь радикальными (запрещалось экспортировать наиболее совершенные чипы и определенные технологии). Администрация Дональда Трампа сняла часть этих ограничений. При этом 3 июня президент США подписал указ, в котором говорится, что наиболее мощные ИИ-модели могут создавать угрозу национальной безопасности страны, а компании—разработчики ИИ призываются в добровольном порядке передавать свои новинки на проверку госструктурами США (за 30 дней до их вывода на рынок).

О том, что власти смогут запрещать новые модели, в указе речь не шла, однако в случае с Fable 5 и Mythos, по сути, так и случилось. От такого развития событий Anthropic не застраховало даже то, что при выводе Mythos на рынок компания сама предоставила доступ к своему продукту ограниченному пулу из 40 американских госструктур и частных компаний. Это произошло после того, как специалисты Anthropic смогли при помощи своей новой нейросети за секунды найти уязвимости в программном обеспечении, которые не удавалось обнаруживать годами (среди прочего была обнаружена серьезная «дыра» в ядре операционной системы Linux, используемой тысячами разработчиков по всему миру,— эта брешь существовала необнаруженной с 2003 года).

Модели подобные Mythos могут стать бесценным инструментом для государств и бизнеса, позволяющим обнаруживать и закрывать бреши в критически важной информационной инфраструктуре, но в руках хакеров это опасное оружие. До минувшей пятницы, однако, считалось, что власти США будут вместе с ИИ-компаниями работать над предотвращением попадания этих инструментов в руки злоумышленников, но на практике вышло иначе.

«Этот шаг (администрации Дональда Трампа.— “Ъ”) шокировал бывших американских чиновников и экспертов по кибербезопасности, многие из которых усомнились в его обоснованности»,— говорится в статье The New York Times. Financial Times также отметила, что решение властей США застало врасплох всю американскую ИИ-индустрию, участники которой теперь не знают, каких еще шагов можно ожидать.

Известный предприниматель и инвестор Мартин Варшавски написал в соцсетях, что «приказ (о запрете на экспорт.— “Ъ”) не просто наказывает Anthropic, а меняет правила для всей отрасли». А исследователь ИИ, профессор Нью-Йоркского университета Гэри Маркус добавил, что если до пятницы США и Китай «боролись за равенство в гонке ИИ», то своим решением администрация Трампа «нанесла американским компаниям удар в спину».

Участники рынка, впрочем, не исключают, что жесткие ограничения затронут не все компании, а лишь Anthropic, у которой несколько месяцев назад резко испортились отношения с властями США.

При заключении нового контракта с Пентагоном Anthropic потребовала, чтобы ее модель Claude Gov не использовалась для массовой слежки за гражданами США (об иностранцах она не так беспокоилась) и управления неподконтрольными человеку автономными смертоносными системами (см. “Ъ” от 19 февраля).

Но власти США на это не пошли. 27 февраля Дональд Трамп объявил о запрете госструктурам США сотрудничать с Anthropic. «Левые придурки из Anthropic совершили КАТАСТРОФИЧЕСКУЮ ОШИБКУ, пытаясь надавить на Министерство войны и заставить его подчиняться своим служебным инструкциям, а не нашей Конституции»,— написал он в соцсети Truth Social (орфография сохранена). В тот же день Пентагон признал сотрудничество с Anthropic «риском для цепочек поставок», внеся разработчика в черный список, в который ранее обычно вносили компании из недружественных США стран, прежде всего из Китая. Столь радикальному решению не помешало даже то, что, согласно утечкам в СМИ, именно Claude Gov, способная в режиме реального времени анализировать большие объемы разрозненных данных, использовалась американскими военными и спецслужбами при планировании и осуществлении операций в отношении Венесуэлы и Ирана. К 27 августа госструктуры США должны прекратить использование этой модели.

Опрошенные The New York Times американские эксперты полагают, что быстро договориться с властями Anthropic не удастся. По иронии судьбы, за два дня до звонка из Белого дома Дарио Амодеи опубликовал манифест, в котором говорится, что правительства должны иметь право блокировать мощные ИИ-модели, если они не соответствуют стандартам безопасности. Он сравнил нейросети с автомобилями и самолетами, которые не могут быть выпущены на рынок без сертификации, и призвал ввести подобные ограничения для ИИ-продукции. При этом он допустил, что в будущем сравнивать ИИ-модели по их возможности представлять не просто «угрозу общественной безопасности, а угрозу всему человечеству» придется с ядерными материалами и тогда, по его словам, понадобятся «еще более агрессивные меры (государственного.— “Ъ”) регулирования».

Елена Черненко