Anthropic закрыла нескольким ученым доступ к Claude из-за рисков создания биооружия

Anthropic закрыла доступ к ИИ-модели Claude для ученых, которые могли использовать ее для исследований, способных помочь в создании биологического оружия. Об этом сообщает The New York Times.

В отчете о неправомерном использовании своих технологий компания указала, что заблокировала исследователей и институты, которые пытались обходить защитные механизмы для проведения экспериментов двойного назначения.

Из-за специфики биотехнологий Anthropic не смогла точно установить, преследовали ли ученые законные цели, такие как разработка вакцин, или планировали создание патогенов. В одном из зафиксированных в мае случаев сотрудник военного НИИ пытался получить помощь Claude при планировании экспериментов по усилению функций вируса Чикунгунья для повышения его вредоносности.

«Вы не увидите кого-то, кто ведет себя как персонаж из комиксов и прямо говорит: "Эй, я хочу создать биологическое оружие, чтобы всех уничтожить". Это невероятно сложная и неоднозначная ситуация»,— заявил глава отдела разведки угроз Anthropic Джейкоб Клейн.

Кроме биоугроз, в документе зафиксированы попытки применения Claude для разработки обычных вооружений в Китае, России и Йемене.