Искусственный интеллект пошел на повышение

Президент США Дональд Трамп объявил о создании Сил суперинтеллекта (Super Intelligence Force, SIF), которые займутся координацией действий федеральных властей в сфере искусственного интеллекта (ИИ). Об этом он сообщил 4 октября в Truth Social. По словам господина Трампа, SIF также будут отвечать за взаимодействие властей с разработчиками ИИ, операторами критической инфраструктуры, потребителями и общественными организациями.

В руководство SIF вошли директор национальной разведки Джей Клейтон, председатель Федеральной торговой комиссии (Federal Trade Commission, FTC) Эндрю Фергюсон, технический директор Пентагона Эмиль Майкл и директор Управления кадровой службы США (Office of Personnel Management, OPM) Скотт Купор. Группа будет подчиняться непосредственно президенту и главе аппарата Белого дома Сьюзи Уайлс, следует из заявления господина Трампа.

В течение 120 дней SIF должны подготовить доклад о рисках и возможностях развития ИИ и роли федерального правительства в этой сфере, сообщил господин Клейтон The Wall Street Journal. По его словам, группа также изучит действующее регулирование и механизмы реагирования властей на связанные с ИИ инциденты, включая взломы и обход ограничений моделей.

Созданию SIF предшествовало подписанное 29 сентября соглашение White House Accord on Super Intelligence между администрацией господина Трампа и Google, Anthropic, Meta (признана экстремистской и запрещена в РФ), OpenAI, xAI и Nvidia. Компании обязались усилить контроль за наиболее продвинутыми ИИ-моделями, в том числе проводить внутренний мониторинг и внешний аудит их безопасности. Соглашение носит добровольный характер, при этом в документе допускается возможность закрепления таких мер в законах или регулировании.

В тот же день господин Трамп подписал указ, предписывающий федеральным ведомствам использовать термин «суперинтеллект» (Super Intelligence, SI) вместо «искусственного интеллекта» (Artificial Intelligence, AI) в официальных ненормативных документах. Согласно указу, пока под SI понимаются те же технологии, которые охватывает действующее законодательное определение AI. В течение 60 дней помощник президента по науке и технологиям должен предложить отдельное федеральное определение SI и оценить, должно ли оно дополнить или заменить существующее понятие AI.

Появление термина SI пока не означает возникновения отдельного класса технологий, считает руководитель центра разработки больших языковых моделей MWS AI Валентин Малых. «Это смена брендового наименования, как у лекарств: действующее вещество — в нашем случае большие языковые модели — остается тем же»,— говорит он. Поэтому практические последствия переименования пока сведутся к изменению формулировок в документах, считает эксперт.

Идея пересмотреть само понятие общего искусственного интеллекта (Artificial General Intelligence, AGI) обсуждалась в научном сообществе и раньше, отмечает господин Малых. По его словам, весной группа исследователей с участием Яна ЛеКуна предложила использовать понятие «специализированный суперинтеллект» (Specialized Superintelligence, SSI). Исследователи исходили из того, что полностью универсального интеллекта, включая человеческий, не существует, а целью развития ИИ должно быть не достижение человеческого уровня в целом, а его превосходство в конкретных задачах, поясняет эксперт.

С научной точки зрения провести четкую границу между AGI и суперинтеллектом сложно, считает директор лаборатории когнитивных систем ИИ Института AIRI и Центра когнитивного моделирования МФТИ Александр Панов. По его словам, современные языковые модели уже можно считать суперинтеллектом в отдельных задачах, хотя в других они допускают серьезные ошибки. «Сегодня важнее создание надежного, а не обязательно сверхчеловеческого интеллекта», — считает эксперт.

При этом отдельный термин для наиболее передовых разработок может быть полезен, полагает директор по развитию технологий искусственного интеллекта группы «Т-Технологии» Алексей Шпильман. По его словам, понятие «искусственный интеллект» для этого слишком широкое, тогда как «фундаментальные модели» — слишком узкое.

В фокусе SIF, по оценкам опрошенных «Ъ» экспертов, могут оказаться прежде всего OpenAI, Anthropic, Google и xAI. Господин Панов считает, что одним из основных направлений работы новой структуры в отношении крупнейших разработчиков станет оценка безопасности языковых моделей.

Само создание SIF пока не вводит для разработчиков новых требований, отмечает директор по стратегии и развитию искусственного интеллекта Cloud.ru Дмитрий Юдин. По его словам, из объявленных задач группы не следует, что она сможет управлять разработкой частных моделей или разрешать их выпуск. При этом государство может влиять на рынок через действующие полномочия федеральных ведомств, условия госзакупок, а впоследствии — через новые нормы, считает эксперт.

Одним из таких инструментов могут стать правила доступа ИИ-компаний к государственным заказам, допускает Валентин Малых. Среди возможных требований к разработчикам господин Юдин называет оценку возможностей моделей и связанных с ними рисков, защиту доступа и правила сообщения об инцидентах. Именно оценка безопасности работы языковых моделей, вероятно, станет одним из приоритетов SIF, считает господин Панов.