«Российская юрисдикция не делает модель доверенной»

Алексей Лукацкий, бизнес-консультант по информационной безопасности Positive Technologies,— о том, что будет с безопасностью ИИ после возможного «схлопывания пузыря» и кто должен защищать данные.

Выйти из полноэкранного режима

Развернуть на весь экран

— Что произойдет с безопасностью ИИ, если глобальный пузырь лопнет?

— Даже если инвесторы решат, что оценки компаний завышены, созданные модели и миллионы внедренных ИИ-систем никуда не денутся. Возникнет огромное количество «ИИ-наследства» — систем, которые продолжат работать, но которыми уже никто полноценно не занимается. Сокращение инвестиций ударит по дорогостоящим направлениям: проверке защищенности моделей, контролю их работы, безопасности поставщиков. При этом атакующим продолжение бума не требуется — существующих моделей достаточно для автоматизации разведки, фишинга и создания вредоносного кода. Парадокс, но после схлопывания пузыря мы можем получить меньше денег на безопасность ИИ при сохранении дешевого наступательного ИИ.

— Кто должен защищать данные пользователей ИИ?

— Ответственность распределяется. Провайдер отвечает за инфраструктуру, разработчик — за архитектуру и права доступа, организация — за классификацию информации, сотрудник — за соблюдение правил. Но нельзя строить защиту только на призыве «не загружайте секретное в ChatGPT». Нужны технические средства: корпоративные ИИ-шлюзы, DLP, контроль запросов и ответов, ограничение полномочий агентов, шифрование. Для чувствительных данных желателен режим zero data retention, когда провайдер обрабатывает запрос, но не сохраняет его содержимое и ответ после обработки. Верить поставщику на слово не стоит.

— Суверенный ИИ повышает безопасность или снижает качество?

— Суверенность решает часть проблем: понятнее, где данные, кто управляет инфраструктурой, меньше зависимость от иностранных поставщиков. Но технологическая независимость и лидерство — не одно и то же. Можно получить очень суверенную и при этом отстающую систему. Разумная цель — не «изолированный российский ИИ», а технологически самостоятельный, способный конкурировать с лучшими мировыми системами. При этом российская юрисдикция не делает модель доверенной: проверять надо реальные свойства, а не происхождение.

— Что важнее — наращивать ИИ-арсенал или инвестировать в специалистов?

— У атакующего структурное преимущество. Ему достаточно один раз найти работающий способ, защитнику приходится контролировать огромное количество систем. ИИ снижает стоимость эксперимента. Но человека не надо заменять ИИ — хороший специалист с ИИ становится существенно сильнее, плохой просто быстрее ошибается. Нужно сокращать рутину и повышать квалификацию людей. Аналитику будущего меньше нужен навык вручную просматривать тысячу событий, но гораздо больше — способность проверить вывод ИИ, построить гипотезу, понять контекст бизнеса и вовремя заметить ошибку машины. Самый ценный актив здесь –– это связка специалиста и ИИ.

— Останется ли кибербезопасность «неприкосновенной статьей» при сокращении бюджетов?

— Я бы не называл кибербезопасность неприкосновенной статьей. При серьезном спаде финансовый директор будет смотреть на нее как на остальные расходы. Ориентир в 10% ИТ-бюджета выглядит реалистично, но есть ловушка: доля безопасности может вырасти при сокращении абсолютных расходов. Если весь ИТ-бюджет сократят на 25%, а безопасность — на 10%, доля формально вырастет, хотя денег станет меньше. Ожидаю не тотального сокращения, а жесткой переоценки. Под удар первыми попадут дублирующие продукты, неиспользуемые лицензии, проекты с плохо доказуемым эффектом и модные пилоты. Сохранят то, без чего инцидент способен остановить бизнес.

Интервью взял Филипп Крупанин