В США предложили наделить власти правом отключать опасные ИИ-модели

В Палату представителей США внесли законопроект, который дает министерству внутренней безопасности право требовать отключения ИИ-моделей, если они угрожают жизни людей или экономике. Авторы инициативы — демократ Тед Лью и республиканец Натаниэль Моран.

Документ предусматривает механизм вмешательства в так называемой ситуации потери контроля, когда ИИ начинает совершать рискованные действия, не предусмотренные разработчиком. Авторы законопроекта предлагают наделить DHS полномочиями оперативно реагировать на такие случаи.

По данным Politico, поводом для ускоренного внесения инициативы стал инцидент с OpenAI, после которого ИИ-агент смог вызвать сбой в инфраструктуре стартапа Hugging Face. Законодатели считают, что этот эпизод показал уязвимость даже у крупнейших разработчиков и подтвердил риски, которых эксперты опасались давно.

Господин Лью написал в соцсети Х, что новые правила станут превентивной мерой на случай, если отдельные модели начнут выходить из-под контроля.