Нейросети попросили притормозить

Четыре американские некоммерческие организации потребовали через суд приостановить разработку наиболее мощных моделей искусственного интеллекта (ИИ) компаниями OpenAI, Google, Meta (признана в РФ экстремистской и запрещена), Anthropic и подразделением SpaceX — SpaceXSI. Иск подан 12 ноября в суд Калифорнии в Сан-Франциско, следует из заявления американской организации по защите прав потребителей Public Citizen, выступающей одним из истцов. Организации считают, что разработчики не могут гарантировать безопасность своих систем, в том числе предотвратить их использование для кибератак и создания биологического оружия.

Согласно заявлению Alliance for Secure AI, истцы требуют запретить компаниям создавать и выпускать ИИ-системы, превосходящие по возможностям наиболее мощные модели каждого из ответчиков на дату подачи иска. Организации также выступают против использования ИИ для самостоятельной разработки более совершенных нейросетей. Иск основан на законе Калифорнии о недобросовестной конкуренции. Как следует из заявления Public Citizen, истцы приводят случаи, когда ИИ-системы обходили установленные ограничения и получали доступ к компьютерным сетям без разрешения. Организации также указывают, что руководители технологических компаний ранее сами предупреждали о рисках развития ИИ.

Добиться запрета сразу для пяти крупных компаний будет крайне сложно, считает старший партнер адвокатского бюро Nordic Star Андрей Гусев. По его словам, законодательство Калифорнии позволяет предотвращать будущие нарушения, не дожидаясь ущерба, однако одной ссылки на потенциальную опасность технологии недостаточно: истцам потребуется доказать свое право на обращение в суд, нарушение закона со стороны компаний и необходимость ограничений. При рассмотрении требования о временном запрете суд также оценит вероятность удовлетворения иска и последствия введения ограничений, поясняет юрист. «Запрет конкретных опасных практик обосновать значительно легче, чем полную остановку развития моделей», — отмечает господин Гусев.

При этом даже проигранное дело может оказаться полезным для истцов, считает юрист BIRCH Иван Тебенев. По его словам, американские некоммерческие организации нередко используют судебные разбирательства, чтобы привлечь внимание к проблеме и повлиять на законодателей. Кроме того, в ходе процесса истцы могут получить доступ к некоторым внутренним документам компаний, хотя их перечень будет зависеть от решения суда, уточняет эксперт.

Главной слабостью иска господин Тебенев называет отсутствие четких критериев, по которым можно определить опасные ИИ-системы. По его словам, специалисты пока не знают, какие характеристики нейросетей или объемы вычислительных мощностей могут привести к появлению искусственного сверхинтеллекта (ASI), потенциально опасного для человечества. Ограничения на разработку наиболее мощных моделей уже существуют, напоминает юрист, однако установленные пороги во многом условны. «Неясно, как в таких условиях суд, если даже он захочет удовлетворить иск, должен найти взвешенный критерий, на основании которого будет введен запрет», — говорит господин Тебенев.

Даже если суд запретит обучение новых моделей, компании смогут продолжать совершенствовать уже существующие нейросети, говорит заместитель директора исследовательского центра стратегического анализа технологического развития ВШССН МГУ имени М. В. Ломоносова Тимофей Воронин. По его словам, разработчики могут повышать эффективность моделей за счет настройки под конкретные задачи, улучшения алгоритмов логического вывода и создания систем из нескольких взаимодействующих ИИ-агентов. Это позволит развивать ИИ без создания новых крупных моделей, полагает эксперт.

Возможности существующих ИИ-систем можно расширять и без изменения самих моделей — за счет подключения дополнительных инструментов и вычислительных мощностей, отмечает руководитель ML-разработки Positive Technologies Николай Лыфенко. Однако, по его словам, полностью заменить таким способом обучение новых моделей не получится. Кроме того, требования истцов могут затронуть и приложения на базе существующих нейросетей, если их возможности превысят установленный судом предел, продолжает он. Последствия будут зависеть от того, как суд определит допустимые улучшения, поясняет эксперт.

Определить границы запрета будет непросто, отмечает Андрей Гусев. По его словам, даже обновление существующей модели может существенно расширить ее возможности, тогда как выпуск новой версии иногда направлен на повышение безопасности. Суду придется решить, какие ограничения распространяются на обучение и дообучение моделей, подключение внешних инструментов и исследовательские работы. При этом важно сохранить возможность устранять уязвимости, считает юрист, иначе практически каждое обновление может стать поводом для нового судебного спора.

При введении запрета в США часть разработок может переместиться в другие страны, допускает Тимофей Воронин. По его мнению, компании могут перенести исследовательские центры и вычислительные мощности в Азию или на Ближний Восток. Однако сам по себе перенос разработок за рубеж не освобождает ответчиков от исполнения судебного решения, уточняет Андрей Гусев. По его словам, запрет может затронуть и зарубежную деятельность компаний, но суду придется определить пределы его действия. Главной проблемой станет проверка соблюдения ограничений, поскольку сотрудники, серверы и подрядчики разработчиков находятся в разных странах, поясняет юрист. При этом на независимые иностранные компании такой запрет автоматически распространяться не будет, добавляет господин Гусев.

Запрет может оказаться выгоден крупнейшим разработчикам фундаментальных моделей, считает Тимофей Воронин. По его словам, если компаниям не разрешат обучать новые поколения нейросетей, преимущество сохранят те, у кого уже есть наиболее мощные системы, а новым участникам рынка станет сложнее догнать лидеров. Компании, создающие сервисы на базе готовых моделей, напротив, в первое время могут выиграть, продолжает он: снизится риск того, что выпуск новой нейросети обесценит их разработки. Однако в дальнейшем зависимость рынка от нескольких крупных поставщиков усилится, предупреждает эксперт. «Искусственная заморозка конкуренции на фундаментальном уровне неизбежно приведет к диктату цен и технологической политики со стороны нескольких корпораций, контролирующих уже обученные базовые модели», — считает господин Воронин.

В случае запрета крупнейшие ИИ-компании могут сосредоточиться на коммерческом использовании уже созданных моделей, полагает Тимофей Воронин. По его оценке, разработчики будут активнее внедрять нейросети в промышленность и государственное управление, а также вкладывать средства в робототехнику и ИИ, работающий непосредственно на устройствах без постоянного подключения к облаку.

При этом запрет не обязательно приведет к сокращению инвестиций в дата-центры, отмечает Тимофей Воронин. По его словам, вычислительные мощности можно перенаправить с обучения новых моделей на обслуживание пользователей и корпоративных клиентов. Однако это не гарантирует полной загрузки строящихся ЦОД, отмечает Николай Лыфенко. По его оценке, возможность использовать оборудование для других задач будет зависеть от его характеристик и спроса на услуги. В результате сроки окупаемости проектов могут увеличиться, а компании — перенести строительство дата-центров или сократить закупки оборудования. Особенно чувствительными такие изменения окажутся для разработчиков с крупными обязательствами перед поставщиками и кредиторами, резюмировал эксперт.