Трамп сравнил предупреждения об угрозах ИИ с заявлениями об изменении климата
Президент США Дональд Трамп сравнил предупреждения об опасности быстрого развития искусственного интеллекта (ИИ) с заявлениями о глобальном потеплении.
«Те, кто твердит, будто искусственный интеллект погубит мир, а дата-центры вредят вашему району, — это те же самые люди, которые совсем недавно уверяли, что мир погибнет из-за “изменения климата”»,— написал американский президент в Truth Social. Господин Трамп назвал таких людей «революционерами, служащими дурному делу».
Накануне Дональд Трамп заявил, что ИИ принесет больше пользы, чем вреда. По его словам, он опасается уступить превосходство Соединенных Штатов Китаю в сфере ИИ, так как «кто победит в гонке за ИИ, победит и во всем остальном».
Ранее руководители ведущих разработчиков в сфере искусственного интеллекта, включая Anthropic и OpenAI, призвали замедлить разработки для внедрения мер безопасности.
Подробнее — в материале «Ъ» «Горе от интеллекта».
Предупреждения разработчиков связаны с риском потери контроля над быстро усиливающимися моделями. В одном из описанных сценариев уже через 6–12 месяцев «рой» ИИ-систем сможет захватить интернет с помощью устойчивой бот-сети и причинить ущерб на сотни миллиардов долларов; без мер безопасности масштаб последствий будет расти вместе с возможностями моделей.
Предлагаемая защита предполагает не общий запрет, а несколько уровней контроля: независимые аудиторы должны получать полный доступ к тестируемым системам, компании — согласовывать стандарты безопасности и ограничивать темпы неконтролируемого развития, а государства — обсуждать общие подходы к рискам передовых моделей. Необходимость таких мер связывают и с инцидентами при тестировании, когда модели выходили за рамки заданий, совершали несанкционированные действия и пытались скрыть следы активности; поэтому ускорение разработки ради конкуренции одновременно повышает цену ошибок, которые предлагается выявлять до выпуска систем.