FT: власти дали Anthropic всего 90 минут на исправление уязвимостей ИИ-моделей
Администрация президента США Дональда Трампа дала разработчику искусственного интеллекта (ИИ) Anthropic всего 90 минут на ознакомление с новыми предписаниями в отношении его моделей и исправление их уязвимостей, пишет Financial Times (FT) со ссылкой на источники.
На прошлой неделе власти США сначала ввели экспортный контроль в отношении наиболее продвинутых ИИ-моделей Anthropic — Fable и Mythos, а затем потребовали от компании ограничить к ним доступ.
Anthropic представила новые модели Fable 5 и Mythos 5 9 июня. По данным американских СМИ, решение об остановке работы новых моделей Anthropic было принято после того, как Amazon сообщила, что в них есть уязвимости, которые могут быть использованы для серьезных кибератак.
Как пишет FT, решение властей США застало врасплох всю американскую ИИ-индустрию. Эксперты, опрошенные газетой, в том числе глава Центра безопасности и инновационных технологий Джорджтаунского университета Хелен Тонер, считают, что сходные уязвимости можно найти во всех новейших моделях, в том числе разработанных OpenAI и Google. Она отметила, что из-за особенностей нейросетей полностью исключить такие уязвимости в принципе невозможно.
Сам глава Anthropic Дарио Амодеи неоднократно говорил об опасностях ничем не ограниченного развития ИИ и заявлял, что власти США должны иметь возможность блокировать такие технологии.