AP: ИИ Anthropic нашел уязвимости в засекреченных системах правительства США

Разработанная компанией Anthropic модель искусственного интеллекта (ИИ) Mythos обнаружила уязвимости в засекреченных системах правительства США с высоким уровнем безопасности. Об этом написало Associated Press (AP) со ссылкой на высокопоставленных американских чиновников, пожелавших остаться анонимными.

Ранее в июне сенатор-демократ Марк Уорнер уже заявлял, что, по имеющимся у него данным из Агентства национальной безопасности, Mythos «взломала почти все наши засекреченные системы не за недели, а за часы».

По словам источников AP, уязвимости в правительственных системах были обнаружены во время совместного тестирования Mythos американскими разведывательными службами и Anthropic. Это было частью так называемого проекта Project Glasswing — в нем принимают участие несколько сотен организаций из разных стран. Они тестируют ИИ-модель Mythos для поиска и исправления серьезных уязвимостей в критически важном ПО. При этом источники AP отметили, что за несколько часов модель смогла лишь обнаружить уязвимости, а не использовать их.

В середине июня Anthropic по требованию правительства США заблокировала доступ к своим новым моделям Fable 5 и Mythos 5.