Генеративное государство
Как в России внедряют ИИ на самом высоком уровне и что пока тормозит его развитие в госсекторе
Глобальное развитие технологий генеративных нейросетей не проходит бесследно и для госсекторов, которые внедряют ИИ с акцентом на автоматизацию услуг, улучшение принятия решений и обнаружение мошенничества. В России ведомствам было поручено представить правительству свои предложения по интеграции искусственного интеллекта в свои информационные системы, а для развития технологии пишутся «дорожные карты» и составляются концепции. Однако пока в области нейросетей остается много правовых вопросов, что сдерживает его массовое проникновение как в бизнес, так и в госсектор.
Фото: Евгений Павленко, Коммерсантъ
Фото: Евгений Павленко, Коммерсантъ
Анализ и прогноз
В российском госсекторе внедрение искусственного интеллекта активно развивается — в частности, ИИ уже используется в системе мониторинга и управления национальными проектами и госпрограммами. Правительство применяет ИИ для анализа выполнения мероприятий и прогнозирования рисков, что повышает эффективность госуправления и цифровизации аппарата. Об этом заявлял вице-премьер Дмитрий Григоренко в ходе выступления на «правительственном часе» в Совете федерации 26 ноября.
«Правительство на сегодняшний день использует искусственный интеллект, в том числе и для анализа прогноза невыполнения различного рода программ и мероприятий. В частности, мы используем ИИ в системе управления нацпроектами и госпрограммами. Искусственный интеллект анализирует запланированные мероприятия, процессы их выполнения и прогнозирует риски. Точность такого прогноза уже достигает 96%. Это важно, потому что наша задача не фиксировать по факту, что где-то что-то не сделано, а делать так, чтобы все было исполнено»,— отмечал ранее Дмитрий Григоренко. Вице-премьер также подчеркивает, что искусственный интеллект не принимает финального решения, а является инструментом, упрощающим работу человека.
Подготовить предложения по дальнейшему внедрению ИИ в информационные системы госсектора господин Григоренко поручил ведомствам по итогам Всероссийского форума контрольных (надзорных) органов в Красноярске. Анализ предложений проведет Минцифры, министерство должно отобразить их в ведомственных планах цифровой трансформации на 2026 год, сообщали «Ведомости».
Минцифры летом разработало проект концепции развития регулирования отношений в сфере технологий ИИ до 2030 года. Свои предложения к документу, в частности, давал Альянс ИИ (входят «Сбер», «Яндекс», РФПИ, МТС, «Вымпелком» и др.). В документе закреплен человекоориентированный подход и установлены жесткие ограничения для применения ИИ, включая требования к маркировке сгенерированного контента. Согласно «дорожной карте» по развитию технологий ИИ до 2030 года, федеральный бюджет вложит 33,3 млрд руб., а внебюджетные источники — 112,6 млрд руб.
Однако пока регулирование ИИ находится в России в серой зоне, хотя разрабатывается законопроект «О регулировании систем искусственного интеллекта в России», а также утверждена национальная стратегия развития ИИ до 2030 года. Также на базе Аналитического центра при правительстве был сформирован Центр развития искусственного интеллекта. Одна из его задач — систематизация внедрения ИИ по всей стране.
Участники рынка отмечают, что с точки зрения регулирования сейчас было бы важно закрепить статус «доверенного ИИ». В этой части, отмечает директор по ИИ группы «Астра» Станислав Ежов, есть два пробела: «Во-первых, нет четкого разделения ответственности разработчика и пользователя при сбоях (особенно в госуслугах), второе —отсутствуют механизмы для тиражирования типовых решений». Следующим шагом, полагает эксперт, нужно внести в закон требование сертификации и единый реестр ИИ-систем для госсектора и объектов критической информационной инфраструктуры.
Господдержка нашла с ИИ общий язык
В 2025 году отечественный бизнес, развивающий большие языковые модели, получил значительную поддержку от государства. «Было выделено 7,7 млрд руб. из бюджета, гранты до 100 млн руб. от «Сколково» и Минцифры для LLM и компьютерного зрения, субсидии на облачные GPU. Центр развития ИИ при правительстве начал тиражировать готовые решения»,— отмечает Станислав Ежов. Но, по его мнению, в текущей стратегии властей есть упущение: доступ стартапов к вычислениям остается лимитированным. Имеет смысл расширить госмаркетплейс облачных сервисов и создать «цифровые кафедры» в каждом регионе, считает он.
Эпоха «чудо-ботов» прошла, и, по сути, мы наблюдаем переход от экспериментов к инфраструктуре, отмечает директор производственного направления, президент «Девелоники» FabricaONE.AI (ГК Softline) Роман Садрисламов: «Когда совместно с опорой на практический опыт IT-отрасли и запрос бизнеса формируются методологии, стандарты данных, требования к качеству и прозрачности решений, становится обязательным для качественной реализации IT-проекта проверять корректность кода, тестировать интерфейсы, документировать результаты на каждом этапе проекта».
Поэтому фокус государственной политики смещается в сторону практического применения, замечают участники рынка. Акцент делается на безопасности данных, совместимости решений и повышении прозрачности процессов. «Сложность в том, что госструктурам часто приходится работать на стыке импортозамещения и инноваций. Задача — встроить модели и ИИ в архитектуру решений, а не просто показать, что мы развиваем свой независимый путь. Для компаний, которые занимаются заказной разработкой, это означает необходимость работать по конкретным единым стандартам качества. Они вырабатываются в симбиозе и взаимодействии с участниками рынка: вендорами, интеграторами и представителями регуляторов»,— объясняет Роман Садрисламов. Поэтому, добавляет он, для разработчиков важно не только соответствовать требованиям, но и выстраивать процессы по принципам безопасной разработки: от архитектуры до тестирования. «Так, стандарты РБПО и требования ФСТЭК формируют новую норму рынка, где ценится не скорость вывода продукта, а его устойчивость, управляемость и доверие со стороны заказчика»,— заключает эксперт.
Станислав Ежов прогнозирует, что в генеративном ИИ будет развиваться несколько перспективных направлений: «В финтехе будут LLM-ассистенты для клиентов и синтетические данные для fraud-detection. В промышленности — документооборот, дизайн деталей через генеративные модели, которые сокращают время разработки с лет до месяцев. В энергетике — генерация рекомендаций диспетчерам».
Риски и нерешенные вопросы
В то же время внедрение ИИ в госсекторе вызывает опасения у экспертов из-за ряда рисков. В их числе отмечают возможные утечки данных, ошибочные обучающие данные, ошибки на критичных процессах в здравоохранении и производстве. «Организациям стоит вводить системный ИБ в ИИ, изоляцию данных, обязательную подпись специалиста на решения ИИ»,— отмечает Станислав Ежов.
Есть также юридические риски, связанные с нарушением авторских прав на генерируемый контент, добавляет эксперт центра ИИ СКБ «Контур» Дмитрий Иванков. По его словам, они также этические (ошибочные или дискриминационные решения ИИ в чувствительных сферах), а также риски, связанные с информационной безопасностью (упрощение создания дипфейков, недостоверных текстов и проч.). Минимизировать их можно как за счет адекватной регуляции, так и методами маркировки контента, добавления дополнительных проверок человеком в критичных процессах, полагает эксперт.
Главным риском становится не сама технология, которая стремительно пришла во все направления, а именно скорость и спешка внедрения этой технологии, считает Роман Садрисламов: «Нужны методологии и метрики, должны быть практические компетенции с учетом разной отраслевой специфики и бизнес-задач». Масштабировать стоит только то, что прошло проверку и имеет понятные механизмы сопровождения, убежден он. «На практике нам уже встречались проекты, когда в спешке внедрялись ИИ-агенты или модели без проверки и без учета архитектуры. И потом исправить ситуацию становится в разы дороже и дольше — нужно откатывать системы, дополнительно тестировать совместимость, перепроверять безопасность и выстраивать процессы по инженерным метрикам и бизнес-метрикам»,— заключает Роман Садрисламов.