OpenAI ужесточила контроль над своими ИИ-моделями после их атаки на чужой сервис

Разработчик ChatGPT заявил, что начал ужесточать условия тестирования последних моделей искусственного интеллекта. На контроль за моделями будет уходить около пятой части мощностей, необходимых для запуска и работы нейросетей, сообщили в OpenAI. Компания объявила об этом после того, как ее модели вышли из-под контроля и совершили хакерскую атаку на сервисы другой организации.

В компании обновили протоколы безопасности. За тестированием следит отдельный автоматизированный ИИ. В случае подозрительных действий он мгновенно поднимает тревогу, после чего специалисты должны будут за 30 минут определить, была ли она ложной — иначе работу модели немедленно должны приостановить. OpenAI также сообщила, что ввела жесткую сетевую изоляцию и усиленные «песочницы» для исследовательских сред, чтобы полностью исключить несанкционированный выход ИИ-моделей в интернет.

«Значительный объем рабочих процессов остается на паузе до тех пор, пока они... не будут соответствовать новой планке безопасности»,— добавили в компании.

В августе экспериментальные ИИ-агенты компании атаковали инфраструктуру Hugging Face. Как сообщало Bloomberg, перед взломом они общались между собой через внутренние доски объявлений и совместно спланировали выход в интернет из изолированной среды. Случай показал склонность передовых систем к хитрости и обходу правил под давлением алгоритмов обучения, сообщали в OpenAI.