Anthropic заявил об использовании Claude российскими и китайскими хакерами
Американский разработчик искусственного интеллекта (ИИ) Anthropic заявил о зафиксированных им попытках получить доступа к его модели Claude, предпринятых российскими и китайскими хакерами. Об этом говорится в докладе компании, посвященном кибербезопасности. ИИ-модель Anthropic официально недоступна в нескольких странах, включая Россию и Китай.
Фото: Влад Некрасов / Коммерсантъ
Фото: Влад Некрасов / Коммерсантъ
В частности, Anthropic заявил о попытке использовать Claude в целях кибершпионажа против Украины, якобы предпринятой Россией. Китайских хакеров компания обвинила в попытке получить доступ к мощностям Claude. По данным Anthropic, китайские разработчики ИИ, в том числе Moonshot и DeepSeek, в некоторых случаях перенаправляли чаты клиентов со своими моделями в Claude для их дополнительного обучения. Китайские компании не впервые обвиняются в так называемой дистилляции — обучении новой ИИ-модели на основе ответов другой, более мощной модели.
Anthropic заявил, что помимо этого обнаружил и прекратил применение Claude для создания огнестрельного оружия, ракет, беспилотников, бомб и других видов оружия и боеприпасов. В докладе говорится, что пользователи из Китая, России и Йемена пытались применять модель для создания оружия и сбора разведывательной информации.
Anthropic также сообщил, что закрыл доступ к Claude для ученых, которые могли использовать ее для исследований, связанных с созданием биологического оружия.
Дистилляция означает обучение одной нейросети на ответах другой: разработчики используют результаты чужой модели для создания собственной или упрощенной системы. Такой подход может применяться и в легитимных целях, например для создания упрощенных версий своих же продуктов, но одновременно позволяет конкурентам создавать аналогичные нейросети без самостоятельной разработки. По данным Anthropic, масштабы обращений к Claude у компаний различались: DeepSeek провел 150 тыс. взаимодействий, Moonshot — более 3,4 млн, MiniMax — более 13 млн.
Для противодействия таким схемам Anthropic еще в марте добавила функцию слежки, которую представитель компании связал с борьбой с перекупщиками аккаунтов и дистилляцией. При этом в июне компания столкнулась с ограничением: избирательно отключить только иностранных пользователей не удалось, поэтому доступ к наиболее передовым продуктам пришлось закрывать для всех, что превращает блокировку в компромисс между контролем злоупотреблений и доступностью сервиса.