Axios: разработчики ИИ просчитывают последствия потенциальной ИИ-катастрофы

Руководство ведущих разработчиков в сфере искусственного интеллекта (ИИ) просчитывает возможную реакцию общества и властей на какое-либо катастрофическое событие, связанное с ИИ. Как пишет Axios со ссылкой на источники в индустрии, в числе потенциальных сценариев, которые рассматривают в том числе главы OpenAI и Anthropic, — масштабная кибератака с использованием ИИ.

Подобный инцидент, пишет Axios, может повлечь за собой отключение интернета, финансовых сервисов или даже электро- и водоснабжения. Разработчики считают, что это способно вызвать всплеск общественного гнева против технологических компаний, их руководителей, а также против президента США Дональда Трампа, который не хочет регулировать отрасль.

Axios отмечает, что анализом потенциальных катастроф занимаются не только компании, но и государственные ведомства, включая Пентагон. Но издание указывает, что многие ведущие исследователи в сфере ИИ и главы компаний-разработчиков считают масштабную катастрофу, связанную с ИИ, неизбежной.

В OpenAI изданию Axios заявили, что компания «проводит проверку готовности, в ходе которой команды обсуждают и прорабатывают целый ряд потенциальных сценариев». Компания при этом подчеркнула, что не считает изучаемые сценарии неизбежными. В Anthropic отказались дать комментарии Axios.