Более тысячи сотрудников ИИ-компаний призвали замедлить развитие нейросетей
Более 1200 работников крупнейших американских ИИ-компаний подписали петицию о регулировании развития нейросетей. Сотрудники призвали власти принять механизм, который контролировал бы темпы развития ИИ. В числе подписавших документ — генеральный директор Anthropic Дарио Амодеи и главный научный сотрудник OpenAI Якуб Пахоцкий. Инициативу также поддержала в X компания Anthropic.
По мнению авторов петиции, существует «реальный риск» того, что ИИ начнет развиваться быстрее, чем люди смогут его «понимать или контролировать». Ссылаясь на свой опыт и свои исследования, они полагают, что обществу необходимы инструменты контроля за темпами развития ИИ, чтобы успевать адаптироваться к переменам. «Мы призываем американское правительство поддержать международные усилия по развитию технических инструментов и инструментов управления, необходимых для осознанного регулирования темпов развития передового автоматизированного ИИ»,— указано в документе.
Как отмечают наблюдатели, притом что в тексте петиции инцидент не упоминается, ее можно считать «прямой реакцией на первый зафиксированный случай, когда ИИ вышел из-под контроля и совершил автономную хакерскую кибератаку на стороннюю компанию».
Призывы к регулированию или замедлению развития искусственного интеллекта не являются новыми. Еще в 2024 году губернатор Калифорнии Гевин Ньюсом наложил вето на законопроект, который мог стать первым в США регулирующим документом в этой сфере. Он посчитал его неэффективным, так как законопроект был слишком сосредоточен на регулировании крупных систем ИИ, игнорируя при этом базовые принципы и технологии.
Эксперты ООН также обеспокоены бесконтрольным развитием ИИ, отмечая в докладе от 2026 года, что сосредоточение потенциала в нескольких странах и компаниях может угрожать демократии и правам человека. Они призывали правительства инвестировать в человеческие ресурсы и разрабатывать соответствующую политику, так как существующие меры не справляются с темпами развития ИИ. Опасения связаны и с тем, что ИИ может генерировать дезинформацию и ложные сведения, приводя к социальному расколу, а власти запаздывают с регулированием.