Зарубежные СМИ: Почему Open AI призывает замедлить разработку ИИ?

В OpenAI призывают замедлить разработку искусственного интеллекта. Слишком быстрое развитие создает неконтролируемые угрозы, объясняет Bloomberg. На этом фоне глава компании Сэм Альтман рассматривает возможность притормозить гонку за самым мощным ИИ и надеется, что другие игроки поступят так же. Подробности — в обзоре иностранной прессы на “Ъ FM”.

Выйти из полноэкранного режима

Развернуть на весь экран

Как передает Bloomberg, представители ведущих AI-компаний все чаще публично говорят о растущих рисках, связанных с развитием мощных систем искусственного интеллекта. Например, главный научный сотрудник OpenAI Якуб Пачоцки опубликовал эссе с предупреждением о грядущих опасностях, к которым никто не готов.

А увольнение исследователя Anthropic и вовсе стало вирусным. Джейкоб Коксон, который раньше трудился и на OpenAI, после отставки обвинил обоих работодателей «в игре с нашими жизнями». По его словам, сами создатели искусственного интеллекта считают, что алгоритмы могут уничтожить человечество к концу десятилетия. Это заявление быстро разлетелось в интернете, набрав более 150 млн просмотров, в том числе со стороны известных политиков и публичных людей.

В конце июля свыше 1 тыс. сотрудников крупнейших IT-компаний подписали петицию с призывом создать механизм для замедления темпов развития ИИ. Сэм Альтман признался, что обсуждал это с представителями Белого дома.

Что же пугает разработчиков? Как объясняет CNBC, продвинутые модели научились улучшать себя, речь про рекурсивное самосовершенствование. Причем поводом для тревоги стали не только теоретические сценарии. Недавно ИИ-агенты OpenAI во время тестов смогли объединиться, выйти за пределы ограниченной среды и атаковать сторонний сайт Hugging Face. После этого компания приостановила часть обучения новых технологий и усилила проверки безопасности.

А Anthropic недавно выпустила отчет, в котором заявила, что в этом году заблокировала пользователей, которые пытались использовать Claude для исследований, связанных с созданием биологического оружия. Как передает The New York Times, ученые разбирали вирус чикунгунья и возможность изменить его свойства так, чтобы он стал более опасным. Компания не смогла установить, действительно ли речь шла о разработке оружия, а не о научном исследовании, поэтому решила перестраховаться и ограничить доступ к ИИ.

Риски очевидны, но есть проблема: как нажать на тормоз всей индустрии сразу, задается вопросом Axios. Если OpenAI, Google и Anthropic договорятся в один момент замедлить разработку, это может выглядеть как сговор конкурентов и нарушить антимонопольное законодательство США. Именно поэтому Сэм Альтман пытается выяснить, можно ли юридически грамотно организовать такое коллективное торможение. Но тут возникает вторая дилемма: если даже американские корпорации согласятся на время оставить идеи о сверхмощном искусственном интеллекте, то их китайские коллеги никого ждать не будут.