«Компании гонятся за самоулучшающимся ИИ быстрее, чем развивают контроль»
Александр Леви — о британском саммите по безопасности нейросетей
Фото: Марина Молдавская / Коммерсантъ
Фото: Марина Молдавская / Коммерсантъ
Великобритания готовит встречу лидеров ИИ-индустрии. На саммит с королем Карлом III приглашены около 30 руководителей, в том числе представители Nvidia, Google DeepMind, OpenAI и Anthropic. Им предложат обсудить хартию принципов: как развивать ИИ, не сводя разговор к эффективности и прибыли, сохраняя в центре человека.
Мероприятие планировали заранее, но пройдет оно на фоне резко обострившихся споров о безопасности ИИ. Недавно глава Anthropic Дарио Амодеи призвал снизить темп, с которым индустрия наращивает возможности самых мощных моделей. Его аргумент прост: меры безопасности не успевают за прогрессом. Сама Anthropic пообещала допустить независимых специалистов к постоянной проверке своих систем — прямо внутрь рабочего процесса. Глава OpenAI Сэм Альтман заявил, что и его компания готова принять независимых оценщиков.
Общую тревогу усиливают люди, которые недавно отвечали за безопасность внутри ведущих лабораторий. Из Anthropic, к примеру, ушел исследователь Джейкоб Коксон. Раньше он успел поработать и в OpenAI. По его словам, компании гонятся за самоулучшающимся ИИ быстрее, чем развивают надежный контроль над такими системами.
Также команду безопасности общего ИИ в Google DeepMind покинул Джош Энгельс. Он считает пугающе реальным риск масштабного вреда от продвинутого ИИ в ближайшие 5 лет. Энгельс перешел в независимую группу METR, которая испытывает модели на безопасность до их широкого внедрения. У призывов к замедлению есть и оппоненты. Сооснователь блокчейн-платформы Solana Анатолий Яковенко видит в таких мерах защиту интересов крупных лабораторий: сначала они выходят вперед, а затем предлагают правила, которые усложнят путь конкурентам.
Дональд Трамп тоже возражает, но по своим причинам. Президент США считает, что нельзя уступать Китаю в технологической гонке, а потому скептически относится к идее тормозить развитие ИИ. Главный вопрос предстоящего саммита — скорее не в том, нужны ли проверки, а в том, станет ли независимый аудит правилом для всех разработчиков или барьером, который закрепит преимущество за крупными корпорациями. Мероприятие запланировано на 17 сентября.