Глава Anthropic: власти должны иметь возможность блокировать новые модели ИИ
Главный исполнительный директор Anthropic Дарио Амодеи заявил, что правительство США должно иметь право и возможности для запрета разработчикам искусственного интеллекта (ИИ) внедрять новые модели, если они представляют определенные риски.
Глава компании утверждает, что модели ИИ должны проходить обязательное тестирование третьими сторонами для оценки рисков, которые они собой представляют, по нескольким категориям, включая угрозы кибербезопасности и биологическое оружие. «Если сочтут, что ИИ представляет неприемлемые риски, правительство должно иметь право блокировать или сдерживать развертывание»,— добавил он (цитата по Bloomberg).
Bloomberg отмечает, что эти замечания представляют собой один из самых решительных призывов разработчика к более строгому регулированию ИИ по мере развития технологии.
«Настало время перейти от прозрачности к более серьезному и обязательному регулированию ИИ… Сейчас нам глобально и коллективно необходимо активизировать медленный и шаткий политический аппарат, чтобы справиться с рисками и возможностями, которые будут неожиданно быстро увеличиваться», — резюмировал тезисы Дарио Амодеи.
Ранее Anthropic представила наиболее мощную модель ИИ под названием Mythos, а также ее версию Fable 5, которая не может использоваться в кибератаках или разработке биологического и химического оружия.
В начале июня президент США Дональд Трамп изложил подход к устранению угроз кибербезопасности от ИИ в соответствии с указом, который предусматривает предоставление правительству США доступа к моделям.
О том, как компании извлекают выгоду ИИ-бумаг, читайте в материале «Искусственный интеллект натурально дает заработать».