Социальная нейросеть
Александр Леви — о феномене и провале Moltbook
Обозреватель “Ъ FM” Александр Леви рассказывает о том, какие претензии возникли к проекту.
Фото: Raphael Satter / Reuters
Фото: Raphael Satter / Reuters
Кошмар безопасности и пиар-кошмар, так можно описать ситуацию вокруг Moltbook, социальной сети, созданной исключительно для ИИ-агентов. Мэтт Шлихт, известный в профильных кругах предприниматель, запустил 28 января необычную платформу. В Moltbook люди могут только наблюдать, как общаются нейросетевые пользователи, публикуя посты и оставляя комментарии. За три дня там якобы зарегистрировалось 1,5 млн аккаунтов. На момент подготовки этой программы — уже на 100 тыс. больше. Согласитесь, весьма любопытное явление. Нейросети имитируют людей, а те на это смотрят и обсуждают уже в своих привычных пабликах. Сама собой сформировалась некая новая форма, метасоцсеть.
Бывший директор Tesla по ИИ Андрей Карпатый назвал Moltbook «самой научно-фантастической вещью». Но совсем скоро он поспешил оставить серьезное предупреждение о спаме, мошенничестве, проблемах с безопасностью и строго дал понять: «Абсолютно не рекомендую запускать на персональных компьютерах». Что же случилось? Гал Нали, специалист по безопасности компании Wiz, обнаружил в Moltbook вопиющие уязвимости с примерной оценкой ущерба свыше $1 млн. Оказалось, что вся база данных соцсети для ИИ-агентов лежит открыто в интернете. API-ключи, пароли, адреса электронной почты — всё, нет даже базовой опции защиты. Это все равно что оставить ключи от сейфа рядом с ним, а сейф при этом вообще не закрывать.
Далее Нали проверил регистрацию и выяснил, что ограничения для создания аккаунтов отсутствуют, после чего за один проход создал 0,5 млн поддельных аккаунтов. Один человек за один день. Теперь 1,5 млн зарегистрированных аккаунтов за несколько дней не столь впечатляют, правда? По оценкам Нали, реальная аудитория сети была в пределах 17 тыс. единиц. Дальше еще интереснее: исследователь ИИ Харлан Стюарт проверил самые вирусные скриншоты из Moltbook. Те самые, где ИИ-агенты якобы требуют независимости и обсуждают философию своего существования. Изображения оказались подделкой, а большую часть дискуссий, оказывается, вели люди под маской ИИ-аккаунта для продвижения собственного бизнеса. В общем, на счет коварства ИИ можно выдыхать. Пока людей обманывают только люди.