ИИ-агенты ищут слабые места интернета

Руководители крупнейших технологических компаний и аналитики в области искусственного интеллекта бьют тревогу из-за серьезных брешей в кибербезопасности. Под угрозой оказались не только огромные массивы персональных данных, но и стабильность работы глобальной сети как таковой.

В среду компания OpenAI сообщила, что ее ИИ-агенты помогли обнаружить серьезные проблемы с кибербезопасностью. В частности, две «критические» уязвимости были найдены в инфраструктуре языка программирования с открытым исходным кодом PHP, на котором работают около 70% всех веб-сайтов. “Ъ Технологии” собрал несколько громких высказываний экспертов, которые они опубликовали в своих социальных сетях.

Критическая инфраструктура интернета не готова к надвигающемуся «цунами уязвимостей», написал замглавы Anthropic по безопасности Джейсон Клинтон соцсети X. Он призвал «установить патчи безопасности на критическую инфраструктуру», пока бреши в базовых сетях не стали объектом атак. В четверг он обратился к бизнесу с повторным предупреждением.

«При всей тяжести ситуации за последние четыре дня дальше будет только хуже, прежде чем наметится какой-либо прогресс», — написал он.

«Руководители служб безопасности, не упускайте возможность использовать кризис: немедленно обращайтесь к советам директоров и просите о помощи. И речь не об ИИ, а о базовых вещах. Нам нужно продержаться около 18 месяцев», — добавил эксперт.

Эксперт в области ИИ Эндрю Керран 21 ии 22 октбяря прокомментировал в соцсети Х сразу несколько угроз. «Что касается возможных атак на энергетическую, продовольственную и водоснабжающую инфраструктуру, угроза более чем реальна. В настоящий момент кто-то прощупывает и тестирует эту инфраструктуру — это активная угроза. Любая, даже минимальная подготовка на всякий случай будет не лишней», — написал господин Керран в среду, комментируя предупреждение Агентства национальной безопасности США (АНБ) о киберпреступниках.

В четверг господин Керран также обратил внимание на взлом компании Quest Diagnostics, которая, по его оценке, обслуживает «примерно половину» американских больниц и врачей.

В феврале экс-глава Hyperwrite Мэтт Шумер опубликовал на своем сайте резонансное эссе под названием «Происходит кое-что масштабное», где предупредил о глобальных сбоях из-за ИИ, способных перекроить мировой порядок.

В четверг, 22 октября, инвестор выложил новое эссе на своем сайте — на этот раз под заголовком «Интернет под ударом. Как защитить себя и свою семью».

«Прямо сейчас, пока вы читаете эти строки, рои ИИ-агентов, скорее всего, пытаются взломать сайты, которыми вы пользуетесь. Причем не какой-то один из них, а многие», — пишет господин Шумер. — «Мы находимся в эпицентре крупнейшего кризиса кибербезопасности за последние годы».

По оценке Мэтта Шумера, события могут развиваться по следующему сценарию:

«Произойдет утечка ваших данных, и мошенники узнают ваше имя, дату рождения, адрес и банк, а их звонки и сообщения станут неотличимы от настоящих. Доступ к вашим аккаунтам будет перехвачен через какой-нибудь давно забытый сайт, где вы регистрировались годы назад с тем же паролем, что и везде. Наконец, жизненно важные сервисы — от приложений и онлайн-аптек до сайтов магазинов — заблокируются на несколько дней».

«Справедливости ради: процесс уже идет, однако наихудшие сценарии, которых опасаются больше всего, пока не реализовались. Надеюсь, этого и не произойдет. Но лучше перестраховаться, тем более что подобные атаки продолжатся», — подчеркивает господин Шумер.

Инвестор дал четыре рекомендации по защите. Среди них — своевременное обновление всего ПО и отказ от посещения незнакомых ресурсов на время, пока компании и сервисы разворачивают обновления безопасности.

Он также советует защитить банковские счета, проявляя крайнюю осторожность к любым получаемым кодам и ссылкам. Кроме того, стоит «закрыть неиспользуемые двери»: отключить от сети смарт-гаджеты и удалить приложения, которыми вы не пользуетесь.

«Каждое подключенное устройство — это еще один вход для злоумышленников», — резюмирует Мэтт Шумер.

Глава Salesforce Марк Бениофф поддержал позицию Джейсона Клинтона из Anthropic, опубликовав в четверг пост в соцсети X. «Джейсон прав на все 100%. Красный уровень опасности», — написал господин Бениофф, сопроводив публикацию эмодзи красной сирены.