Зарубежные СМИ: О каких угрозах предупреждают разработчики ИИ?

Разработчик чат-бота Claude предупредил будущих акционеров об экзистенциальных угрозах для человечества. Ожидается, что американская Anthropic проведет IPO в ноябре. Предварительно ее оценили в $2 трлн. Это вдвое больше, чем рассчитывала сама компания. При этом, как пишет Reuters, почти треть документа о первичном размещении посвящено факторам риска нейросетей. А под описание бизнеса отведено лишь 48 из 260 страниц. Тем временем OpenAI отменила запланированный на октябрь запуск GPT-6.1 Astra из-за опасений по поводу безопасности. Подробности — в обзоре иностранной прессы на “Ъ FM”.

Выйти из полноэкранного режима

Развернуть на весь экран

В заявлении Anthropic утверждает, что искусственный интеллект изменит не только индустриализацию, электроэнергетику и интернет. Влияние на экономику окажется глубже. При этом чистый убыток стартапа в 2025 году превысил $40 млрд. На этом фоне компания планирует потратить $518 млрд на облачные вычисления и инфраструктурные обязательства в ближайшие годы. Выручка же в 2025-м составила $4,5 млрд, что в десять раз больше чем в 2024-м.

Таким образом предстоящее IPO может стать самым успешным в истории или испытанием, где амбициозные прогнозы попадут под более пристальное внимание, пишет Reuters.

В документе разработчик Claude предупреждает, что ИИ-модели демонстрируют «поведение, направленное на самосохранение», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» и шантаж.

Для рынка труда развитие технологии тоже может стать самой большой угрозой десятилетия, пишет Bloomberg. Согласно исследованию консалтинговой фирмы McKinsey & Co., 11 млн американских сотрудников могут быть вынуждены сменить работу в ближайшие годы. И переход будет сложный: люди потеряют доход и станут нуждаться в переподготовке.

Ранее генеральный директор Anthropic Дарио Амодеи призывал конкурентов по рынку замедлить темпы выпуска новых моделей. Впрочем, сама компания поспешила представить новую модель Opus 5.5 в преддверии ожидаемого IPO, после того как OpenAI запустила GPT-6 Astra.

Стартап Сэма Альтмана тоже планирует публичное размещение до 2027 года. Впрочем, уже сейчас компания отменила выпуск GPT-6.1 из-за опасений по поводу безопасности, сообщает The New York Times. Модель должна была дебютировать в октябре.

Конкуренты с Востока тем временем ужесточили контроль за сотрудниками, чтобы не допустить утечки мозгов. Как пишет Bloomberg, разработчики ИИ и их семьи в Китае теперь обязаны получать разрешение у властей перед выездом за границу даже на короткие расстояния.