Невидимая угроза

Технологии искусственного интеллекта развиваются стремительно — настолько, что зачастую опережают правовое поле. Вместе с тем, становясь уже неотъемлемой частью бизнес-процессов, без прочной правовой основы они несут в себе существенные риски. Как безопасно внедрить ИИ в бизнес-процессы и на каком фундаменте строить внутренние положения по работе с нейросетями, объясняет Валерия Эйстрах, старший юрист практики технологий, медиа, телекоммуникаций Melling, Voitishkin & Partners.

В июле 2026 года в России был принят федеральный закон «О поддержке развития технологий искусственного интеллекта в Российской Федерации». После длительных обсуждений фокус регулирования сузился до развития и поддержки национальных и суверенных больших фундаментальных моделей ИИ.

Для компаний, использующих ИИ в повседневной работе, отдельного регуляторного стандарта пока нет: государство сосредоточилось на инфраструктуре и развитии технологии. Закон не устанавливает комплаенс-требований и не обязывает компании принимать внутренние правила использования нейросетей. Однако эта свобода на практике требует от компаний большой самостоятельности: технологии уже прочно вошли в рабочие процессы, и правила безопасного использования ИИ бизнесу приходится выстраивать самому.

Задуматься о правилах использования ИИ стоит даже тем компаниям, у которых пока нет планов по его официальному внедрению.

Пока руководство оценивает необходимость внедрения собственных ИИ-решений, сотрудники уже используют ИИ в повседневной работе. Маркетолог просит ChatGPT подготовить текст для рассылки, финансовый аналитик загружает данные для анализа, а дизайнер генерирует изображения для презентации в Midjourney.

Такое использование получило название «теневой ИИ» — Shadow AI. Речь идет о сторонних ИИ-решениях, которые сотрудники применяют для решения рабочих задач без ведома и одобрения работодателя. Масштаб этого явления довольно велик: по данным исследования «2024 Work Trend Index Annual Report» Microsoft и LinkedIn, в 2024 году 78% офисных работников использовали сторонние ИИ-инструменты, не дожидаясь, пока компания внедрит собственное безопасное решение.

Для бизнеса такой подход несет сразу несколько групп рисков: работник может передать конфиденциальную информацию или персональные данные во внешний сервис, создать для компании проблемы в сфере интеллектуальной собственности или использовать недостоверные данные в работе.

Все эти риски уже вполне реальны. Согласно исследованию IBM (Cost of a Data Breach Report 2026), в текущем году 43% всех инцидентов, связанных с утечками, связывают с использованием сотрудниками теневого ИИ. С проблемами могут столкнуться как малый бизнес, так и крупнейшие корпорации. Так, в 2023 году исходный код Samsung Electronics оказался в открытом доступе после того, как инженеры загрузили его в ChatGPT.

Самый простой способ решения проблемы — запрет использования ИИ для рабочих задач — контрпродуктивен: использование ИИ станет еще более «теневым» и еще менее контролируемым, в то время как решение рутинных задач, где использование ИИ не несет существенных рисков, неоправданно усложнится.

Более практичное решение — построение AI Governance: комплексной системы управления рисками ИИ на уровне бизнес-процессов. Одним из ключевых элементов такой системы может стать политика по использованию ИИ — AI Acceptable Use Policy, которая объясняет сотрудникам правила работы с такими инструментами. В зрелых компаниях уже есть набор документов, регулирующих обработку персональных данных, работу с коммерческой тайной, информационную безопасность. Однако ошибкой будет полагать, что этого набора достаточно для безопасной работы с ИИ.

Нейросети порождают целый класс новых рисков, которые традиционные политики по работе с данными не учитывают. Речь о галлюцинации моделей, алгоритмической предвзятости, новых векторах кибератак, включая внедрение скрытых команд и «отравление» обучающих данных, а также действиях автономных ИИ-агентов. При этом единая политика работы с нейросетями, одинаково подходящая всем компаниям, вряд ли будет полезна. Профиль рисков зависит от сферы деятельности, специфики бизнес-процессов и сценариев использования ИИ. Использование шаблонных документов без донастройки в лучшем случае станет простой формальностью, в худшем — создаст ограничения, которые будут мешать не только нормальному использованию ИИ, но и операционной деятельности компании.

Поэтому политика компании должна отвечать на несколько конкретных вопросов. Прежде всего стоит классифицировать ИИ-инструменты. К «одобренным» можно отнести системы, развернутые внутри корпоративного контура (on-premise), или корпоративные API с гарантиями ненакопления промптов. «Допустимыми» могут считаться внешние сервисы, верифицированные юристами и специалистами по информационной безопасности. Их возможно использовать для некритичных и неконфиденциальных задач. Остальные инструменты можно отнести к «запрещенным».

Следующим этапом следует определить правила работы с данными. Сотрудник должен понимать, какие данные можно загружать в одобренные и допустимые ИИ-инструменты, а какие нельзя передавать даже в одобренные. Отдельный блок стоит посвятить интеллектуальной собственности. Политика должна устанавливать, в каких проектах допустимо использование нейросетей при создании результатов интеллектуальной деятельности, какие инструменты используются для разных видов контента, как фиксируется творческий вклад в сгенерированный результат.

Также важно прямо закрепить личную ответственность работников за результат работы и обязанность верифицировать как промежуточные данные, полученные с помощью нейросети, так и итоговый вариант. В числе прочего правила должны определять уровень прозрачности процессов: когда и как работник должен указывать, что применял ИИ; в каких случаях требуется предварительно согласовывать использование нейросетей; каким образом компания контролирует использование допустимых, разрешенных и запрещенных ИИ-инструментов.

Принятие внутренней политики — важный аспект работы с рисками, но это лишь часть комплексной системы управления ИИ в компании. Для ее построения необходимо объединение юридической части с операционными и техническими вопросами.

Начать стоит с аудита. Важно понимать, где сотрудники уже используют ИИ, какие задачи передают и какой результат получают или, наоборот, где ИИ сейчас не используется, но его внедрение будет уместным, разумным и безопасным. Следующим шагом возникает вопрос выбора самих нейросетей. Потребуется юридический и технический аудит поставщиков ИИ-решений, чтобы определить, насколько конкретный сервис совместим со сценариями применения и к какой категории его следует отнести.

Отдельное внимание требуется уделить анализу потоков данных. При работе с ИИ нужно учитывать требования о локализации и трансграничной передаче персональных данных, а также ограничения на передачу определенных типов данных, включая коммерческую и государственную тайну. Для некоторых процессов уровень риска слишком велик, поэтому использование нейросетей придется запретить полностью. Для специальных случаев можно предусмотреть особый порядок проверки результатов генерации.

Очевидно, что все эти юридические и организационные меры не принесут должного результата без проработки и внедрения технических мер защиты. В них могут входить средства предотвращения утечек данных через браузеры и рабочие устройства (классические и специализированные DPL), блокировка запрещенных ИИ-сервисов в корпоративной сети, автоматическая фильтрация, шифрование и обезличивание загружаемых в нейросеть данных, а также ведение неизменяемых журналов аудита запросов к ИИ-сервисам. Компании также нужен заранее разработанный алгоритм действий на случай ошибок или утечек данных. И, конечно, необходимо объяснять правила сотрудникам — без регулярного обучения любая политика останется просто документом, существующим отдельно от бизнес-процессов.

Сегодня бизнес может не иметь формальной программы внедрения нейросетей и все равно сталкиваться с ними каждый день. Сотрудники уже находят сервисы, которые позволяют быстрее решать рабочие задачи, и постепенно встраивают их в процессы. Поэтому начать стоит с вопроса — а какие инструменты работники уже используют в работе и для чего? Ответ на него может показать, какие шаги нужно предпринять в первую очередь, чтобы не отстать от прогресса и не потерять конкурентные преимущества там, где использование ИИ целесообразно и безопасно, и вместе с тем контролировать критические риски, связанные с его использованием.