ИИ-агенты в поисках уязвимостей
Модели пока не заменяют пентестеров, но ускоряют анализ кода, проверку гипотез и поиск уязвимостей
Модели, обученные на коде и способные рассуждать о логике систем, помогают быстрее анализировать репозитории, тестировать гипотезы и находить уязвимые места. В результате рынок входит в гонку автоматизации: злоумышленникам достаточно найти одну брешь быстрее безопасников, тогда как компаниям нужно непрерывно проверять всю инфраструктуру и успевать исправлять найденные ошибки.
Фото: Игорь Иванко, Коммерсантъ
Фото: Игорь Иванко, Коммерсантъ
Именно поэтому громкие формулировки о том, что модель «ломает систему», требуют уточнения. В кибербезопасности это может означать не один универсальный сценарий, а разные уровни автоматизации — от помощи человеку в анализе кода до самостоятельного перебора гипотез и проверки эксплойтов в изолированной среде. Главный технологический эксперт «Лаборатории Касперского» Александр Гостев также предостерегает от слишком буквального понимания таких формулировок. По его словам, когда говорят, что модели вроде Claude Mythos или Opus 4.7 «ломают систему», это не обязательно означает полностью автономный взлом: на практике речь чаще идет о способности автоматизировать отдельные этапы работы ИБ-специалистов в области поиска уязвимостей. При этом публичной информации о моделях Anthropic не так много: например, доступ к Claude Mythos получили лишь несколько десятков организаций.
Руководитель отдела защиты информации InfoWatch ARMA Роман Сафиуллин также предлагает разделять разные случаи. Если одна модель «взломала» другую, речь идет о подборе джейлбрейка — промпта, который позволяет обойти встроенную защиту модели и заставить ее отвечать на запрещенные типы запросов. Если же речь идет о поиске уязвимостей в ПО, то модель может относительно автономно проанализировать исходный код, найти в нем уязвимости, разобрать декомпилированные бинарники и попробовать понять бизнес-логику приложения. В зависимости от степени автономности агент может даже писать эксплойты и выполнять их в изолированной среде для тестирования работоспособности.
На примере Mythos и macOS эта граница между самостоятельным взломом и ускорением работы особенно заметна. Господин Сафиуллин говорит, что не совсем корректно утверждать, будто модель сама нашла уязвимость. Она многократно ускорила усилия классических пентестеров и реверс-инженеров за счет быстрого тестирования гипотез и перебора параметров в уже придуманных техниках. «Модель смогла воспроизвести и довести до полноценного эксплойта уже придуманную технику, но не разработала ее сама», — объясняет Роман Сафиуллин. Поэтому главный эффект таких систем — не магический автономный взлом, а возможность быстрее пройти те этапы, которые раньше требовали долгой ручной работы.
Важно не только, кто первым найдет уязвимость, но и кто быстрее отреагирует. Господин Сафиуллин считает, что главной проблемой станет не поиск уязвимостей, а скорость их устранения: агентные системы находят баги намного быстрее, чем команды разработчиков успевают писать патчи. Господин Гостев также говорит, что для ИБ-индустрии приоритет ближайших лет — ускорение собственных процессов: ИИ будет использоваться для непрерывной проверки инфраструктуры и программного обеспечения, анализа репозиториев, поиска уязвимостей, проверки найденных проблем, объяснения рисков и предложения исправлений.
Но тот же инструмент получают и атакующие. На сегодняшний день модели прежде всего усиливают атакующих: опаснее может быть не поиск новой уязвимости, а быстрое нахождение и эксплуатация известных, потому что это стало доступнее даже для неопытных атакующих. Число специалистов по защите быстро не увеличит, а благодаря «новой умной автоматизации» поверхность атаки для злоумышленников существенно увеличится. Поэтому ИИ придется интегрировать в продукты кибербезопасности и все процессы, включая расследования инцидентов.
Роман Сафиуллин описывает это как классическую борьбу меча и щита: большие языковые модели не заменят специалистов по кибербезопасности, но позволят им ускорить часть работы, как и злоумышленникам — быстрее искать бреши в системах безопасаности.
Преимуществокакое-то время будет на стороне атакующих, потому что у них нет ограничений, связанных с корпоративными политиками и правовыми нормами. Баланс может восстановиться после переходного периода — если индустрия защиты успеет перейти от реактивной модели к более проактивной.