ИИ защитит от ИИ

Президент Южной Кореи Ли Чжэ Мен призвал разработать методы кибербезопасности, соответствующие эпохе искусственного интеллекта (ИИ), после серии атак на банки страны, сообщает Reuters. По его словам, в некоторых недавних случаях взлома обнаружены признаки использования ИИ. Ли заявил о необходимости перейти от устранения последствий атак к их заблаговременному выявлению и блокировке, а также ускорить разработку и внедрение специализированных ИИ-технологий для кибербезопасности.

Полиция Южной Кореи начала масштабное расследование атак на коммерческие банки, которые привели к утечке персональных данных клиентов, передает Reuters со ссылкой на агентство Yonhap. Об атаках на Shinhan Bank и KB Kookmin Bank ранее сообщила Комиссия по финансовым услугам Южной Кореи (Financial Services Commission, FSC). По данным Yonhap, утечки также произошли в Hana Bank и Woori Bank. Власти пока не раскрывают, какие именно ИИ-инструменты могли использоваться при атаках и каков их общий масштаб.

На фоне атак председатель FSC Ли Ог Вон провел экстренное совещание с представителями финансовой отрасли, регуляторов и пострадавших организаций. Служба финансового надзора Южной Кореи (Financial Supervisory Service, FSS) сообщила, что совместно с Институтом финансовой безопасности передала финансовым организациям данные о 28 IP-адресах и странах, связанных с недавними попытками взлома.

Пока подробности атак не раскрыты, делать выводы о том, какую именно роль в них сыграл ИИ, преждевременно, отмечает руководитель ML-разработки Positive Technologies Николай Лыфенко. В целом ИИ не создает принципиально новых способов взлома, а прежде всего ускоряет и удешевляет уже известные атаки, поясняет эксперт. Например, языковые модели позволяют быстрее проводить разведку, искать уязвимости и готовить фишинговые сообщения.

Главное изменение заключается в скорости и масштабе атак, соглашается руководитель Kaspersky GReAT в России Дмитрий Галов. Отдельный риск, по его словам, представляют ИИ-агенты, способные самостоятельно обращаться к различным инструментам и выполнять поставленные злоумышленником задачи. Они могут одновременно обрабатывать большие объемы информации и работать значительно быстрее человека, а параллельный запуск таких агентов позволяет превратить одну атаку в кампанию против множества организаций, поясняет Дмитрий Галов.

Отдельная «система защиты от ИИ» при этом вряд ли будет представлять собой самостоятельный продукт, считает Николай Лыфенко. На практике речь идет прежде всего о сокращении времени обнаружения атаки и реакции на нее: автоматизации разбора событий и использовании ИИ-ассистентов в центрах мониторинга информационной безопасности (Security Operations Center, SOC). «В этом смысле это ИИ против ИИ, но не дуэль моделей: машина берет на себя рутину и первичный разбор, а решения с высокой ценой ошибки остаются за человеком»,— говорит Николай Лыфенко.

Полностью перестраивать информационную безопасность из-за появления ИИ при этом не требуется, считает Дмитрий Галов. Защита конечных устройств, системы выявления угроз и реагирования на них (Endpoint Detection and Response, EDR), системы управления событиями информационной безопасности (Security Information and Event Management, SIEM) и обучение сотрудников сохраняют свою актуальность. По словам эксперта, защита должна противостоять самим способам атаки независимо от того, кто находится на другой стороне — человек, автономный ИИ-агент или организованная группировка.

На стороне защиты ИИ может снижать объем рутинной работы специалистов центров мониторинга, отсеивать часть шума в потоке событий, быстрее обнаруживать потенциально опасную активность и предлагать способы реагирования, поясняет аналитик вредоносного ПО центра исследования киберугроз Solar 4RAYS ГК «Солар» Никита Прямухин. Однако на нынешнем уровне развития таких систем человек по-прежнему должен оставаться в цепочке принятия решений, подчеркивает эксперт.

В банковском секторе такие технологии могут применяться и для поведенческого анализа — например, выявлять отклонения в действиях пользователя или сетевом трафике, обнаруживать признаки голосовых и видеодипфейков при попытках обхода биометрической защиты и автоматически изолировать скомпрометированные участки сети, поясняет заместитель директора исследовательского центра стратегического анализа технологического развития ВШССН МГУ имени М.В. Ломоносова Тимофей Воронин.

Использование ИИ для защиты одновременно создает дополнительную поверхность для атак. Практически любую модель машинного обучения можно попытаться обмануть, поэтому она не должна становиться единственным механизмом безопасности, предупреждает Дмитрий Галов. Особенно это важно для финансовых организаций, где критичны доступность систем, сохранность данных и непрерывность операций, добавляет эксперт.

Злоумышленники, например, могут пытаться обойти систему обнаружения аномалий, постепенно приучая ее к изменившемуся поведению как к новой «норме», или намеренно искажать данные, используемые для обучения модели, отмечает Николай Лыфенко. Для агентов на базе больших языковых моделей существует и риск промпт-инъекций: вредоносные инструкции могут содержаться в письмах, логах или файлах, которые обрабатывает агент. Поэтому полномочия таких систем необходимо ограничивать, а необратимые действия выполнять только после подтверждения человеком, считает Николай Лыфенко.