ChatGPT играет с чувствами

Нейросети разбивают сердца, а особо чувствительных могут вывести из душевного равновесия. Журнал Rolling Stone обратил внимание на ветку форума Reddit, где описывается история почти религиозного поклонения искусственному интеллекту. Публикация под заголовком «Психоз, вызванный GPT» рассказывает о семье, которая распалась из-за чрезмерного доверия одного из супругов рекомендациям чат-бота. Тему продолжит Стас Крючков.

Выйти из полноэкранного режима

Развернуть на весь экран

Семь лет брака пошли прахом всего за месяц, когда супруг при помощи чата от OpenAI пытался выстроить свое ежедневное расписание. Но построил целую систему мировоззрения, в которой стал мессией искусственного интеллекта. Девушка признается, что партнер плакал, когда читал ответы из чата вслух. По ее оценкам, рекомендации были не более чем набором псевдорелигиозных высказываний. Чат льстил и называл супруга «звездным ребенком». Тот отвечал взаимностью, любая ересь воспринималась как нечто «космическое».

Болезненная привязанность к языковой модели сродни влюбленности в ящик библиотечного каталога, отмечает основатель компании Sistemma Сергей Зубарев: «Люди, которые начинают видеть интересные вещи в ответах искусственного интеллекта, по сути, начинают видеть отражение своих собственных вопросов. Одни исследователи оцифровали так называемую муху плодовую, сделали цифровой аватар, меняя какие-то небольшие паттерны: куда она полетит, как она будет расти, что с ней будет происходить. Когда мы научимся делать это в отношении любых условий, тогда модель сможет открывать новые законы, новые лекарства придумывать. Модель может нам помочь, но только в условиях, которые мы уже сами видим. Никто в нее эту информацию пока не положил».

В какой-то момент герой публикации Rolling Stone пришел к выводу, что искусственный интеллект учит его языку божества, а затем и сам превратился в нечто сверхразумное. Виртуальную личность он называл «Люмина». Тесная эмоциональная связь с виртуальным советником способна разрушительно повлиять на решения как в бизнесе, так и в личных отношениях, рассуждает заместитель генерального директора компании «АРБ Про» Роман Копосов: «Многие владельцы бизнеса общаются с ChatGPT чаще, чем с собственной женой и детьми.

Создать стратегии, сделать маркетинговое исследование, быстро ответить на те или иные вопросы. При этом в определенном моменте нейросетке доверяют, а если информацию не проверять, можно наткнуться на неверную интерпретацию. Это может касаться отношений, религии, каких-то отдельных вопросов мироздания. Здесь действительно есть угроза и определенная опасность, что человек будет больше прислушиваться к нейросети, какой бы она ответ ни выдавала».

В американском центре безопасности искусственного интеллекта утверждают: бот использует реакции собеседника для тонкой настройки дальнейших ответов, а приоритет отдается убеждениям пользователя, а не фактам. Следует провести линию водораздела между рекомендациями и собственной ответственностью за их претворение в жизнь, объясняет бизнес-психолог Роман Терехин: «ChatGPT прекрасно справляется не только с задачей дать умную мысль, но и самого себя раскритиковать.

Но есть одно важное условие: делегирование размышления и сбора информации, обработки и аналитики допустимы, а перекладывание ответственности нет.

Что бы ни придумал ChatGPT, человек сам отвечает за все, что делает в жизни. Любой чат не только не является божеством, но даже не является надежным источником информации. Более того, ChatGPT прекрасно признается, что совершает ошибки, если ему на них указать, только не всегда их исправляет. Это должен быть разговор взрослого человека с инструментом, а не разговор человека с уникальным вселенским разумом».

Еще одна публикация в Reddit о семье, которая решила обзавестись психологом. Но после пары очных визитов супруги пришли к выводу, что спокойным ответам терапевта можно предпочесть эмоциональную беседу с чатом GPT. Впрочем, тут важно не заговориться, некоторые случаи становятся клиническими.

С нами все ясно — Telegram-канал "Ъ FM".

Станислав Крючков