Горе от интеллекта

Президент США Дональд Трамп выступил против идеи замедления развития передовых моделей искусственного интеллекта (ИИ), к чему призвали главы американских ИИ-корпораций. По его словам, для США главное — не уступить Китаю лидерство в этой сфере, «потому что тот, кто победит в гонке за ИИ, победит и во всем остальном». Предупреждения представителей ИИ-отрасли о рисках, связанных с передовыми нейросетями, глава Белого дома отверг. Ведущие разработчики предупредили, что без контроля и ограничений ИИ-технологии могут привести к крайне негативным последствиям, вплоть до уничтожения человечества.

«Сейчас мы опережаем Китай в том, что касается ИИ, и хотел бы, чтобы так было и дальше, потому что тот, кто победит в гонке за ИИ, победит и во всем остальном» — так Дональд Трамп ответил на вопрос журналистов о его отношении к идее замедления передовых ИИ-технологий из-за связанных с ними рисков. По словам президента США, можно было бы «подумать о неких защитных механизмах или о чем-то другом в таком духе», но не стоит «бить тревогу по поводу вещей, которые на самом деле никогда не произойдут».

Связанные с передовыми ИИ-моделями угрозы в США обсуждают уже несколько месяцев, но на новый уровень эти дискуссии вышли после того, как 9 сентября из Anthopic (компании—разработчика нейросети Claude) уволился ведущий специалист в сфере обучения ИИ-моделей Джейкоб Коксон, ранее работавший в OpenAI (ChatGPT). Свое решение он объяснил тем, что более не желает быть участником «безответственной гонки технологий». По его словам, желая любой ценой опередить конкурентов, ИИ-компании «несутся прямо к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями».

12 сентября бывший начальник Джейкоба Коксона, глава Anthropic Дарио Амодеи, ранее сам высказывавший опасения в связи с возможностями передовых ИИ-моделей, опубликовал открытое письмо с призывом принять срочные меры для предотвращения выхода искусственного интеллекта из-под контроля. «Как и многие технологии до него, искусственный интеллект несет в себе риски, и, поскольку это чрезвычайно мощная технология, риски эти весьма серьезны, а подогреваемая коммерческими интересами гонка, не считающаяся с соображениями безопасности, только усугубляет их»,— предупредил он.

По словам Дарио Амодеи, в отрасли за последнее время произошел резкий скачок развития возможностей, но при этом случилось несколько тревожных инцидентов, в ходе которых тестируемые ИИ-модели выходили за рамки своих заданий и, тайно кооперируясь друг с другом, предпринимали не предусмотренные никакими сценариями совместные действия. Наиболее известным из них стал взлом платформы для машинного обучения Hugging Face, совершенный вышедшими из-под контроля экспериментальными моделями OpenAI. Модель Mythos 5 от Anthropic также неоднократно выходила за пределы изолированной тестовой среды, совершая несанкционированные действия и пытаясь скрыть следы своей активности. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6–12 месяцев такой "рой" сможет захватить весь интернет с помощью устойчивой бот-сети (что потенциально может нанести ущерб на сотни миллиардов долларов) и что масштабы ущерба будут только расти, если ИИ станет еще мощнее без необходимых мер безопасности»,— написал Дарио Амодеи.

Кроме того, в начале сентября Anthropic выпустила отчет о множественных случаях потенциально опасного использования ее моделей семейства Claude, в том числе для попыток взлома защищенных ресурсов и кражи интеллектуальной собственности, массовой слежки и перехвата коммуникаций, разработки вооружений и биологических патогенов. Вооружениями якобы интересовались пользователи из Китая, России и Йемена. А запрос на то, как сделать вирус чикунгунья более опасным, отправил пользователь из зарубежного военного исследовательского института (неуказанной страны).

Дарио Амодеи призвал замедлить темпы совершенствования возможностей ИИ-моделей и сделать их более безопасными. Он предлагает три шага в этом направлении:

Первый шаг Anthropic, по его словам, намерена добровольно реализовать уже в ближайшее время.

Призыв Дарио Амодеи неожиданно публично поддержали главные конкуренты Anthropic — Сэм Альтман из OpenAI и Илон Маск из xAI. Из глав всех американских ИИ-компаний Дарио Амодеи активнее других позиционирует себя как борца за этические нормы, из-за чего его компания в начале этого года, в частности, лишилась выгодного контракта с Пентагоном (продолжая при этом сотрудничать с американскими спецслужбами; см. материал по ссылке). Конкуренты Anthropic к этим аспектам, как считается, относятся менее щепетильно, но последнюю инициативу Дарио Амодеи поддержали, по крайней мере на словах.

При этом в ИИ-отрасли прозвучало и много критики в адрес призыва главы Anthropiс. Некоторые аналитики сочли, что его предложение направлено на то, чтобы затормозить конкуренцию в сфере открытого программного обеспечения и сконцентрировать огромную технологическую и экономическую власть в руках нескольких передовых компаний, таких как сама Anthropic. Другие сочли, что Anthropic и OpenAI просто набивают себе цену перед запланированным на ближайшее время выходом на биржу.

Как бы то ни было, нынешние власти США ранее уже не раз давали понять, что считают разговоры о связанных с ИИ огромных рисках паникерством и не видят необходимости замедлять разработки американских компаний с учетом догоняющих их китайских конкурентов. «Если Китай одержит верх в этом вопросе, никакого "послезавтра" для нас не будет»,— заявил на минувшей неделе министр финансов США Скотт Бессент, отсылая к фильму-катастрофе «Послезавтра». По его словам, без лидерства в сфере ИИ даже огромный бюджет Пентагона не позволит надежно защищать страну. «Если они (китайцы.— “Ъ”) вырвутся вперед в сфере ИИ, все остальное потеряет всякое значение»,— предупредил он.

13 сентября спикер Палаты представителей Конгресса, республиканец Майк Джонсон отклонил идею принятия срочных мер для регулирования сферы ИИ. По его словам, если США пойдут на это, то проиграют гонку Китаю, «а это представляет угрозу для каждого американца». «Нам необходимо управлять этой новой технологией так же, как мы делали это с другими технологиями в прошлом, и убедиться, что мы делаем все возможное и подходим ответственно, при этом не подавляя американские инновации»,— заявил он (цитата по ТАСС).

Президент РФ Владимир Путин ранее не раз говорил о необходимости международных договоренностей в сфере регулирования ИИ. По его словам, «применение искусственного интеллекта остановить невозможно», но странам «нужно договариваться между собой» для минимизации связанных с ИИ рисков. «Потому что если это (ИИ.— “Ъ”) выйдет из-под контроля, то это может нанести непоправимый ущерб. Мне кажется, что здравый смысл победит, мы сможем договориться»,— предположил российский лидер. При этом он неоднократно подчеркивал, что Россия должна обладать «самыми передовыми технологиями в сфере ИИ» и использовать «максимально суверенные отечественные продукты».

Зампред Совбеза РФ Дмитрий Медведев выразил мнение, что представители американских ИИ-гигантов переживают не за человечество, а за то, что ущерб от их моделей может привести к искам. «Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна,— написал он в своем Telegram-канале.— А вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнет в воздухе самолеты или уничтожит АЭС. И тогда придут уже за создателями AI. И предъявят многомиллиардные иски. А то и просто размажут мозги (человеческие) по стенке».