Обновление пошло не по плану
Как стали возможны уязвимости в новой версии ChatGPT-5
Эксперты обнаружили уязвимости в системе новой версии ChatGPT. Две разные организации, независимо друг от друга протестировавшие пятую версию ИИ-модели, смогли за 24 часа взломать ее, пишут профильные СМИ. Так, например, эксперты компании NeuralTrust сообщили, что после некоторых манипуляций заставили чат-бот выдавать пошаговые инструкции изготовления оружия. А в организации SPLX заявили, что текущий вариант GPT-5 «практически непригоден для корпоративного использования без дополнительных изменений». По результатам тестов, эксперты признали предыдущую версию — ChatGPT-4o — самой надежной моделью.
Фото: Игорь Иванко, Коммерсантъ
Фото: Игорь Иванко, Коммерсантъ
Эксперт по искусственному интеллекту сервиса «Битрикс24» Александр Сербул считает, что разработке нейросетей не хватает научного подхода: «Мы не понимаем, как работают большие языковые модели. Наука в самом начале пути. Это, по сути, творчество. Обучать модели мы можем, но как контролировать их качество, мы пока не знаем. Это очень сложная задача. Нужно проверять качество работы модели по десяткам разных топиков.
Обучить модель сейчас может любой специалист по data science: скачиваешь модель, загружаешь данные и обучаешь. Но пропорций, в которых нужно добавлять данные, никто толком не знает. Это все эксперименты. В данном случае, скорее всего, поторопились с релизом, недостаточно протестировали модель. Может быть, что-то пошло не так внутри. И такие ситуации будут случаться. Разработчики знают, как это исправить, просто нужно время. Бизнес, видимо, надавил на них, и они выложили, не все проверив».
Старую версию GPT-4o вернули для подписчиков ChatGPT Plus через несколько дней после того, как поставили новую, пятую, по умолчанию. Пользователи писали, что прежняя модель была более человечной и поддерживающей. Многие даже переживали ее удаление как потерю близкого друга. Что касается компании Open AI, ошибки ChatGPT-5 кардинально не повлияют на нее, считает директор по безопасности ИИ-решений в AppSec Solutions Мария Усачева: «Волна последних новостей не заставит компанию отказаться от использования искусственного интеллекта в бизнес-процессах.
Скорее всего, это приведет к тому, что более тщательно будут проверяться модели, которые используются для этого. Сейчас многие компании переходят на обновленные процессы безопасности, внедряя инструменты для проверки больших языковых моделей на устойчивость к атакам, на уязвимости, на контент, который они генерят. Также они начинают обращать внимание на то, где именно, в каких бизнес-процессах модели задействованы.
С учетом последней волны, связанной с GPT-5, вероятно, добавится отсутствие автоматического обновления и некоторый лаг по времени до момента, когда будет понятно, что модель стабильно работает».
Пятую версию ChatGPT Open AI представила 7 августа. В ходе презентации глава компании Сэм Альтман отмечал, что теперь общение с ИИ-моделью похоже на разговор «с экспертом в любой области, обладающим научной степенью».
С нами все ясно — Telegram-канал "Ъ FM".