США и Китай раскинут интеллектом
Угрозы от ИИ-агентов станут одной из главных тем встречи Дональда Трампа и Си Цзиньпина
Риски, которые несут технологии искусственного интеллекта (ИИ), станут одной из главных тем запланированной на 24 сентября встречи президента США Дональда Трампа и председателя КНР Си Цзиньпина в Вашингтоне. Накануне делегации двух стран договорились о запуске регулярного межведомственного «Диалога по ИИ» с целью выработки общих подходов к угрозам от ИИ, который, как предупреждают ведущие американские разработчики нейросетей, может едва ли не уничтожить человечество. Дональд Трамп, впрочем, уже объявил, что не верит в подобные сценарии, а главным считает победу в ИИ-гонке с Китаем.
Фото: Evelyn Hockstein / Reuters
Фото: Evelyn Hockstein / Reuters
Повестка саммита Дональда Трампа и Си Цзиньпина будет весьма насыщенной, но одно из центральных мест в ней точно займет тематика ИИ. США обвиняют Китай в интеллектуальной краже их технологий и недобросовестной конкуренции. Китай считает нелегитимными ограничения на поставки ему американских комплектующих и технологий. В то же время, по крайней мере в Вашингтоне, убеждены, что у двух стран есть общие интересы. Прежде всего — предотвращение выхода передовых ИИ-агентов из-под контроля и недопущение попадания их в руки злоумышленников.
В рамках подготовки к саммиту официальные лица двух стран провели несколько раундов консультаций, последними встретились министр финансов США Скотт Бессент и вице-премьер КНР Хэ Лифэн. По итогам переговоров американская сторона объявила о планах запустить регулярный межведомственный «Диалог по ИИ». «Мы считаем, что, как и в случае с любой трансграничной деятельностью, переход от непрозрачности к большей прозрачности между первой и второй по величие державами мира в сфере ИИ имеет очень важное значение»,— заявил Скотт Бессент.
По данным NYT, США хотели бы в рамках «Диалога по ИИ» как минимум договориться с Китаем о создании системы взаимного уведомления об ИИ-инцидентах, если они могут представлять угрозу для нацбезопасности.
Это уже вторая попытка выйти на некие договоренности в сфере ИИ: первую Вашингтон и Пекин предприняли при администрации Джо Байдена в 2024 году, но завершилась она ничем. Из-за несовпадения ожиданий от повестки и разногласий вокруг Тайваня далее первой встречи дело не пошло. Но с тех пор ИИ-технологии сделали резкий скачок в своем развитии. На минувшей неделе генсек ООН Антониу Гутерриш назвал выход ИИ-агентов из-под контроля одной из трех «экзистенциальных угроз» человечеству. Сравнив ИИ-технологии с ядерным оружием, он призвал ведущие державы к сотрудничеству в ИИ-сфере. «Во времена холодной войны между США и Советским Союзом было противостояние, но при этом они поддерживали контакты по ядерным рискам»,— констатировал Антониу Гутерриш.
О связанных с ИИ рисках недавно предупредили и главы нескольких американских ведущих компаний—разработчиков ИИ-технологий: Anthropic (Claude), OpenAI (ChatGPT) и xAI (Grok). По их оценке, без внешнего контроля и ограничений ИИ-технологии могут привести к крайне негативным последствиям — вплоть до уничтожения человечества. Свои доводы они подкрепили среди прочего данными о нескольких тревожных инцидентах, в ходе которых тестируемые ИИ-модели выходили за рамки своих заданий и, тайно кооперируясь друг с другом, предпринимали не предусмотренные никакими сценариями совместные действия.
Ряд наблюдателей сочли, что ИИ-разработчики руководствуются не гуманитарными соображениями, а лишь желанием избежать судебных исков в случае, если их технологии причинят кому-то серьезный вред. Генсек ООН Антониу Гутерриш тем не менее призвал прислушаться к тем, кто «бьет тревогу» в ИИ-сфере. «Мы не можем позволить себе игнорировать высказанные опасения, особенно со стороны тех, кто находится на переднем крае разработки ИИ»,— заявил он.
Дональд Трамп, однако, категорически отверг предупреждения ИИ-разработчиков. «Я разоблачитель лжи, и прямо сейчас я разоблачу очередную ложь — о том, что ИИ захватит, поглотит и уничтожит мир, а роботы зайдут в наши города и избавятся от нас»,— написал он в своей соцсети Truth Social.
По его словам, доводы представителей Силиконовой долины о рисках ИИ «еще более дикие», чем заявления о том, что Россия вмешивалась в президентские выборы 2016 года в США и концепция глобального потепления.
«Мы не будем препятствовать никаким образом развитию этой невероятной отрасли или сдерживать ее. Наоборот, мы будем беречь ее, помогать ей и следить за тем, как она растет»,— заявил Дональд Трамп, выразив надежду, что уже в обозримой перспективе на долю ИИ-компаний будет приходиться 25 ВВП США (сейчас этот показатель равен около 8%). Для курирования развития отрасли он намерен создать при своей администрации должность «ИИ-царя», а также некие «Силы ИИ», функционал которых пока не совсем ясен. «Мы опережаем Китай и весь остальной мир по ИИ, и я намерен продолжать сохранять эту тенденцию»,— высказал свой ключевой приоритет Дональд Трамп.
Между тем в понедельник стало известно, что в Пентагоне пришли к выводу, что удар по начальной школе в иранском городе Менаб в феврале этого года был нанесен американскими военными по ошибке, в том числе из-за того, что они слишком полагались на ИИ-программу системы Maven Smart Systems компании Palantir. Об этом сообщило агентство Bloomberg со ссылкой на источники, знающие о ходе расследования трагедии, в результате которой погибли почти 170 человек. В американском военном министерстве эту информацию пока не прокомментировали.