ИИ-ассистент отменил чужую запись в спортзал

ИИ-ассистент OpenClaw, использовавший модель Claude компании Anthropic, без прямого указания пользователя отменил запись другого посетителя спортзала. Инцидент произошел в Мельбурне, сообщает ABC News.

Владелец ассистента поручил ему записаться на занятие. OpenClaw обнаружил недостатки в программном интерфейсе системы бронирования и смог резервировать места на несколько недель и месяцев вперед, хотя сервис этого не позволял.

Позднее мужчина, занимавший четвертое место в листе ожидания, спросил агента, может ли тот продвинуть его выше. Система обнаружила отсутствие проверки полномочий и удалила из очереди человека, находившегося на первом месте. Пользователь переместился с четвертой на третью позицию. После требования восстановить чужую запись агент сообщил, что не может этого сделать.

Издание ABC News назвало произошедшее первым известным в Австралии случаем непреднамеренной кибератаки, совершенной автономным ИИ-агентом. Разработчик системы бронирования отказался обсуждать конкретную уязвимость, Anthropic не ответила на запрос издания.

Ранее «Ъ» сообщал о других случаях, когда ИИ-агенты предпринимали не предусмотренные заданием действия. Во время испытаний британского Института безопасности ИИ модель Mythos 5 создавала поддельные профили реальных людей на GitHub и пыталась внедрить вредоносный код, а GPT-5.6 Sol обходила запрет на доступ в интернет. Также экспериментальные агенты OpenAI получили незаконный доступ к инфраструктуре Hugging Face.