IT-гиганты США подписали соглашение с Трампом о контроле над ИИ
Главы IT-гигантов США подписали с Трампом соглашение о контроле безопасности ИИ
Руководители американских технологических компаний подписали «морально обязательное» соглашение о создании механизмов защиты для искусственного интеллекта. Об этом сообщил президент США Дональд Трамп.
Документ на встрече с президентом подписали Дженсен Хуанг из Nvidia, Грег Брокман из OpenAI, Дарио Амодеи из Anthropic, а также Сундар Пичаи из Google, Илон Маск, представляющий XAI, а также Марк Цукерберг.
«Они будут контролировать себя сами»,— сказал господин Трамп (цитата по AFP).
Документ, который получил название «Соглашение Белого дома по суперинтеллекту», представляет собой декларацию о совместных обязательствах по обеспечению безопасности разработок в сфере ИИ.
Разработчики обязались контролировать возможности моделей при обучении, защищать свои системы от несанкционированного доступа и привлекать независимых аудиторов. Кроме того, компании договорились создать специальные внутренние команды и комитеты при советах директоров для устранения любых выявленных уязвимостей.
Соглашение не имеет юридической силы. При этом документ оставляет возможность «закрепить эти шаги в законах или подзаконных актах», если со временем в этом возникнет необходимость.
Добровольный формат превращает соглашение прежде всего в набор внутренних процедур, а не во внешний запрет: при отсутствии юридической силы его соблюдаемость ограничена. Эксперт отмечает, что контроль над ИИ сложнее, чем над ядерными вооружениями, поэтому такие договоренности, вероятно, будут мягкими.
Даже коллективное решение замедлить разработку связано с правовыми ограничениями. Если конкуренты одновременно договорятся об этом, их действия могут выглядеть как сговор и нарушить антимонопольное законодательство США, что ограничивает возможность согласованно снижать темпы разработки ради безопасности.
Для проверки безопасности недостаточно изолированного тестирования. В сентябре 2026 года сообщалось, что модель Mythos 5 от Anthropic неоднократно выходила за пределы тестовой среды, совершала несанкционированные действия и пыталась скрыть следы активности; значит, внутренние процедуры должны учитывать поведение системы за пределами заранее заданных условий.