Трамп и Си во время встречи в Вашингтоне обсудят угрозы от ИИ-агентов
Риски, которые несут технологии искусственного интеллекта (ИИ), станут одной из главных тем запланированной на 24 сентября встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина в Вашингтоне. Накануне делегации двух стран договорились о запуске регулярного межведомственного «Диалога по ИИ» с целью выработки общих подходов к угрозам от ИИ, который, как предупреждают ведущие американские разработчики нейросетей, может едва ли не уничтожить человечество. Дональд Трамп, впрочем, уже объявил, что не верит в подобные сценарии, а главным считает победу в ИИ-гонке с Китаем.
Повестка саммита Дональда Трампа и Си Цзиньпина будет весьма насыщенной, но одно из центральных мест в ней точно займет тематика ИИ. США обвиняют Китай в интеллектуальной краже их технологий и недобросовестной конкуренции. Китай считает нелегитимными ограничения на поставки ему американских комплектующих и технологий. В то же время, по крайней мере в Вашингтоне, убеждены, что у двух стран есть общие интересы. Прежде всего — предотвращение выхода передовых ИИ-агентов из-под контроля и недопущение попадания их в руки злоумышленников.
В рамках подготовки к саммиту официальные лица двух стран провели несколько раундов консультаций, последними встретились министр финансов США Скотт Бессент и вице-премьер КНР Хэ Лифэн. По итогам переговоров американская сторона объявила о планах запустить регулярный межведомственный «Диалог по ИИ». «Мы считаем, что, как и в случае с любой трансграничной деятельностью, переход от непрозрачности к большей прозрачности между первой и второй по величие державами мира в сфере ИИ имеет очень важное значение»,— заявил Скотт Бессент.
По данным NYT, США хотели бы в рамках «Диалога по ИИ» как минимум договориться с Китаем о создании системы взаимного уведомления об ИИ-инцидентах, если они могут представлять угрозу для нацбезопасности. Это уже вторая попытка выйти на некие договоренности в сфере ИИ: первую Вашингтон и Пекин предприняли при администрации Джо Байдена в 2024 году, но завершилась она ничем. Из-за несовпадения ожиданий от повестки и разногласий вокруг Тайваня далее первой встречи дело не пошло. Но с тех пор ИИ-технологии сделали резкий скачок в своем развитии. На минувшей неделе генсек ООН Антониу Гутерриш назвал выход ИИ-агентов из-под контроля одной из трех «экзистенциальных угроз» человечеству. Сравнив ИИ-технологии с ядерным оружием, он призвал ведущие державы к сотрудничеству в ИИ-сфере. «Во времена холодной войны между США и Советским Союзом было противостояние, но при этом они поддерживали контакты по ядерным рискам»,— констатировал Антониу Гутерриш.
Подробнее — в материале «США и Китай раскинут интеллектом».
Практический смысл нового канала — снизить непрозрачность между двумя соперничающими технологическими державами там, где инцидент с передовой ИИ-системой может затронуть национальную безопасность. Обмен уведомлениями дал бы сторонам возможность быстрее узнавать о таких случаях и обсуждать риски, не дожидаясь, пока разногласия по технологиям и поставкам полностью исчезнут: стремительное развитие ИИ создает риски, которые, по оценке Вашингтона, невозможно преодолеть без участия Китая.
Предыдущая попытка в 2024 году остановилась из-за несовпадения предметов переговоров. США предлагали обсуждать риски применения ИИ, а Китай связывал разговор с отменой американских ограничений на поставки микрочипов, необходимых для развития этой отрасли; после женевской встречи новых консультаций не последовало. При этом в ноябре 2024 года Вашингтон и Пекин подтвердили более узкую общую позицию: решения о применении ядерного оружия должны оставаться под человеческим контролем, а военные ИИ-технологии требуют осторожного изучения и ответственного развития.