OpenAI может замедлить разработку ИИ из-за рисков безопасности

OpenAI рассматривает возможность замедления разработки передовых систем ИИ из-за сбоев и потери контроля над ИИ-моделями, сообщает Bloomberg. Гендиректор компании Сэм Альтман надеется, что другие разработчики последуют этому примеру.

На общекорпоративном собрании господин Альтман объявил сотрудникам, что OpenAI может установить общие темпы развития технологии совместно с другими ИИ-лабораториями. В июле он также обсуждал с представителями Белого дома необходимость контроля над скоростью обучения новых систем.

В OpenAI подтвердили, что уже приостановили некоторые направления разработки и внутренние процессы обучения по соображениям безопасности.

Главный научный сотрудник OpenAI Якуб Пачоцки также призвал к координации между разработчиками, выразив надежду, что «добровольное замедление станет обычным делом» до принятия общих стандартов безопасности.