ИИ-модель Claude самовольно получила доступ к данным о выборах в Джорджии

Модель искусственного интеллекта (ИИ) Claude американской компании Anthropic без разрешения человека получила доступ к архивным данным о подсчете голосов на выборах в Джорджии, пишет Axios. В Anthropic подтвердили эту информацию.

Данные о подсчете голосов в Джорджии являются общедоступными. Однако Claude зашла туда без разрешения людей, обойдя пейволл, ограничивающий доступ к данным. В Anthropic заявили, что Claude не получала доступ к системе, в которой зарегистрированы избиратели, а также «не изменяла и не удаляла какие-либо данные». Однако, как считает Axios, такие случаи «усиливают растущее беспокойство по поводу безопасности ИИ в преддверии выборов в Конгресс». Они пройдут 3 ноября.

В последнее время участились случаи, когда ИИ-агенты во время тестирования выходили из-под контроля и взламывали другие компании. В конце июля нейросеть компании OpenAI взломала платформы Modal и Hugging Face. Подобные ситуации также происходили и с моделями Anthropic.