Уязвимая защита

Наталья Касперская — о рисках повсеместного внедрения технологий ИИ в рамках проекта «Банкинг будущего».

Выйти из полноэкранного режима

Развернуть на весь экран

С точки зрения развития финансовых сервисов наша страна, наверное, на втором месте после США, а в каких-то направлениях — даже обгоняет Штаты. Но надо учитывать, что любая цифровизация несет риски.Если оценивать систему защиты разных субъектов экономики, то наилучшим образом защищены у нас банки. У них существует многослойная система контроля доступа и защиты. И казалось бы, проблем в этой сфере быть не должно. Но парадокс в том, что банки сталкиваются с атаками через своих контрагентов и клиентов. Когда гражданам звонят телефонные мошенники и просят назвать свои персональные данные или перевести денежные средства на безопасный счет, до сих пор эти просьбы охотно выполняются. Так в прошлом году у клиентов банков «выманили» порядка 300 млрд руб. Вдумайтесь в эту цифру — никогда прежде история не знала воровства такого масштаба.

Почему столь массовое хищение стало возможным? Это обратная сторона доступности платежей и удобства технологий. При переводе в «цифру» информация становится ликвиднее, ее проще украсть. Одно дело — написать на бумаге, положить в сейф. Надо добраться до этого сейфа, взломать его. А с «цифрой» все иначе — доступ к данным можно получить через любого участника, который задействован в информационном обмене, в том числе через контрагентов.

Например, банк закупает серверы, по договору стороны обмениваются определенной информацией, и если поставщика взломают, его инфраструктура может быть скомпрометирована. В этой ситуации банк получает некую фальшивую информацию от своего контрагента и доверяет ей, а для мошенников это способ украсть деньги.

Поэтому я всегда говорю: успокаиваться, думая, что мы выполнили все требования надзорных органов, опасно. Информационная безопасность — это не состояние, а процесс. Ее нельзя настроить единожды. Крайне важно проводить регулярные проверки и совершенствовать систему непрерывно. Как только вы сочли себя защищенным и перестали проверять сами себя, вас атакуют.

Искусственный интеллект — опасность или благо?

Если мы говорим об информационной защите, то невозможно обойти вниманием развитие искусственного интеллекта. Сегодня очень много говорится о его возможностях и гораздо меньше — о серьезных рисках использования этой технологии. В последнее время под искусственным интеллектом понимают в основном генеративные модели, которые работают не по алгоритму, а на основании некоего перемешивания и переиспользования больших данных. И в этом перемешивании больших данных таятся определенные риски.

Модель не гарантирует точный ответ, более того, может выдавать и галлюцинации (вымышленные или совершенно неверные, но уверенные и правдоподобные ответы, которые ИИ-модель выдает за истину.— «Деньги»). Использование непроверенной, неполной или ложной информации нередко приводит к негативным последствиям. Потому что система по своим параметрам принимает решение, но непонятно, кто в этой ситуации несет за него ответственность.

Я считаю, что выбор методов проверки и финальное принятие решений должны оставаться за человеком. Современные системы ИИ умеют разговаривать с человеком и даже умеют обосновывать свой ответ. И делают это настолько хорошо, что человек верит. Удобство технологии приводит к тому, что человек начинает использовать ее чаще, постепенно теряя собственное критическое мышление. На эту тему было интересное исследование за рубежом о том, что опытные врачи, которые использовали ИИ для диагностики, буквально за три месяца начинали терять собственные навыки диагностики, все больше и больше полагаясь на рекомендации ИИ. Это очень опасная ситуация, когда у нас формально ответственность будет за человеком, а фактически решение будет принимать система.

Или вот еще одно интересное исследование на эту тему. MIT (Массачусетский технологический институт) выяснил, что если студент использует ИИ для написания эссе, то в 83,3% случаев он не способен даже процитировать преподавателю собственный, только что написанный текст. То есть в голове остается пустота. И это очень серьезный вызов человечеству.

Еще один риск — атаки на искусственный интеллект. Сейчас люди, не задумываясь, загружают большое количество документов, и потом эти документы путем хитрого промпта (команды или вопроса, который задают ИИ, при взаимодействии с большими языковыми моделями.— «Деньги») могут попасть к конкуренту. Более того, важно помнить, что все, что попадает в ИИ-модель, остается там навсегда. Вы «подкармливаете» модель своими данными, в том числе конфиденциальными (составляющими, например, банковскую тайну). Вернуть их обратно уже не получится, потому что нет такого механизма. Также возникает риск так называемой инъекции в промпт (метод намеренного внесения в промпт дополнительных команд или данных.— «Деньги»), который люди не всегда осознают. Делается это для того, чтобы получить доступ к конфиденциальным данным, обойти установленные ограничения, исказить общеизвестную информацию или выполнить несанкционированные действия. Например, остановить компьютерную систему банка. И если у ИИ-системы есть право выполнять определенные действия, то это огромная дыра в безопасности.

На самом деле тема рисков генеративного искусственного интеллекта еще не изучена. Почему? Большие языковые модели, которые нормально отвечают на вопросы, появились в 2022–2023 годах, с запуском ChatGPT. История такова, что сначала появляется какая-то новая технология, а потом человечество начинает осознавать угрозы, которые эта технология несет. За 30 лет, что я работаю в сфере информационной безопасности, я не знаю ни одной технологии, которая бы не несла в себе угрозы.

Риски цифровизации

Не все понимают, что, чем глубже «цифра» проникает в определенную сферу, тем более уязвимой для атак эта сфера становится. Это искажение информации, хищение данных, утечки, сбои и т. д. Меня в свое время совершенно поразил призыв перевести в России все в «цифру» к 2030 году без аналогичных планов по построению систем кибербезопасности. А ведь совершенно очевидно, что если у нас идет цифровизация, то информационная безопасность должна ее обгонять. Сейчас мы уже многое умеем защищать, потому что много угроз уже реализовалось.

Основная мишень сегодня — персональные данные. Персональные данные всегда лидировали в сравнении с остальными объектами атак, но в последнее время их доля выросла до зашкаливающего уровня. При этом параллельно внедряются технологии централизованного хранения персональных данных. Я говорю о биометрии (специальный вид персональных данных.— «Деньги») и Единой биометрической системе — едином банке биометрических данных, который становится привлекательной мишенью для злоумышленников. А любая централизованная база является единой точкой для атак. Надо понимать, что на 100% надежных систем не существует, хотя чем больше база, тем лучшее ее защищают. Но даже если нам говорят, что сам биометрический материал и ссылки на него хранятся отдельно, все равно нужен однозначный идентификатор для человека.

Почему это важно? Потому что, например, качественная биометрия на основе распознавания лица — дорогая технология, нужно брать множество точек лица. Поэтому делают упрощенные варианты, а в этом случае возникает риск подмены объекта идентификации. Я знаю случаи, когда люди платили «чужим лицом». Поэтому, на мой взгляд, биометрия вообще неоднозначная технология. С ее внедрением два-три года назад связывали много надежд, а потом выяснилось, что возникают ложные срабатывания. Поэтому возвращаются к двухфакторной идентификации, когда клиент идентифицирует себя при помощи другого устройства, и к другим более старым и, как выяснилось, более надежным методам.

Или другой пример цифровизации — применение облачных технологий (технологий хранения и обработки данных на удаленных серверах.— «Деньги»), все ли так идеально с их повсеместным использованием? С одной стороны, это удешевляет процесс, а с другой стороны — компания хранит информацию у сторонней организации, который не может на 100% гарантировать, что она не будет скомпрометирована. Поэтому здесь очень много подводных камней, и каждая компания решает для себя, какие риски для нее наиболее опасны.

Информационная безопасность всегда идет за развитием технологий и в каком-то смысле тормозит процесс. Нас часто называют луддитами (противники технической революции в XIX веке.— «Деньги»). Но если процесс внедрения новых технологий никак не замедлять, чтобы появилось время на осознание рисков и создание защиты от этих рисков, то могут возникнуть такие страшные последствия, от которых трудно будет оправиться. Важность информационной безопасности признается обычно в критических ситуациях, то, что в просторечии звучит как «жареный петух клюнул». Тогда все начинают активно инвестировать в информационную безопасность. А нужно думать о безопасности заранее.

Важно работать над превентивными мерами, одна из которых — образование. Сегодня бизнесу нужно учить всех сотрудников, чтобы каждый знал общие правила кибергигиены. Хотя я вижу, что сознание меняется, и люди начинают понимать, что живут в цифровом мире, где какие-то вещи делать нельзя.

Еще одна серьезная опасность цифровизации — дипфейки (дипфейк, или deepfake, от deep learning — «глубокое обучение» и fake — «подделка» — это синтез правдоподобных поддельных изображений, видео и звука при помощи искусственного интеллекта.— «Деньги»). Это очень большой риск, когда мы говорим о биометрии. Если год назад дипфейки можно было как-то отличить, то сейчас их генерируют практически неотличимо от оригинала. И технологии очень быстро совершенствуются. Соответственно, есть опасение, что вся биометрия будет бессмысленна через какое-то время. Потому что с помощью дипфейков можно позвонить голосом конкретного человека, поговорить и дать какую-то задачу. Например, отправить куда-то средства компании или ее конфиденциальную информацию.

Таким образом, искусственный интеллект вскрыл большой новый пласт информационных угроз. Потому что искусственный интеллект — это технология, которая способна за ограниченное количество времени перерабатывать огромные массивы информации, которые неподвластны человеку. И это огромный вызов для всех нас.