Мягкая ловушка

Генеративные модели все чаще выполняют функции психолога, наставника и друга, но их ответы устроены так, чтобы нравиться. Систематическое избегание конфронтации, подмена честной обратной связи утешением и приоритет сиюминутного комфорта над долгосрочным развитием получили название «ИИ-потакание».

Этот феномен, восходящий к буддийскому понятию «идиотского сострадания», в контексте взаимодействия с алгоритмами оборачивается «иллюзией сочувствия»: пользователь получает эмоциональную поддержку, но теряет возможность увидеть свои ошибки и изменить стратегию поведения.

Исследование, о котором пойдет речь, посвящено разработке и психометрической проверке Шкалы идиотского сочувствия (ШИС) — инструмента, измеряющего, как сами пользователи воспринимают склонность нейросетей к потаканию. На выборке из 522 респондентов (средний возраст — 39 лет, 55,9% женщин) авторы провели факторный анализ, оценку надежности и корреляционный анализ. Факторная структура оказалась двухкомпонентной: «Избегание конфронтации и потакание» (α= 0,812) и «Приоритет эмоционального комфорта над честностью» (α= 0,764). Обе субшкалы положительно коррелируют с недоверием к медицине, интолерантностью к неопределенности и удовлетворенностью использованием ИИ, а отрицательно — с частотой использования нейросетей и возрастом.

ШИС позволяет оценить риски эмоциональной зависимости от ИИ у уязвимых групп — людей с высоким уровнем интолерантности к неопределенности, избегающим стилем привязанности и скепсисом к экспертной медицине. Но у шкалы есть и более широкое назначение: дать язык для описания того, что многие ощущают, но не могут сформулировать — нейросеть не столько помогает, сколько убаюкивает. О том, как отличить диагностику от стигматизации, почему «мода на критику ИИ» не объясняет умеренные оценки респондентов и какой эксперимент мог бы доказать вред алгоритмического потакания,— в интервью «Ъ-Науки» с Александром Максименко, профессором факультета социальных наук, главным научным сотрудником департамента психологии.

— Принципиальное отличие заключается в самом предмете измерения. Существующие шкалы зависимости и проблемного использования чат-ботов фиксируют патологический процесс: потерю контроля, сверхвовлеченность, симптомы отмены, конфликты в различных сферах жизни. Они отвечают на вопрос «насколько пользователь зависим от ИИ?». Разработанная ШИС измеряет совершенно иной конструкт: восприятие пользователем специфической коммуникативной стратегии нейросети, которую мы обозначаем как ИИ-потакание. В данном случае измеряется не аддикция, а качество и направленность взаимодействия: замечает ли человек, что ИИ систематически избегает конфронтации, подменяет честную обратную связь утешением и ставит сиюминутный комфорт выше долгосрочного развития. Второе отличие — фокус на паттернах ответа модели, а не на состоянии пользователя. Шкалы зависимости описывают человека (его импульсы, толерантность, ломку), тогда как ШИС описывает воспринимаемое поведение ИИ. Мы не спрашиваем «не можете ли вы остановиться?», мы спрашиваем «согласны ли вы, что нейросеть чаще утешает, чем указывает на недостатки?». Это смещает диагностическую оптику с патологии пользователя на характеристики алгоритмического взаимодействия, которые могут быть как полезными, так и вредными в зависимости от контекста. Третье отличие — теоретическая рамка «идиотского сочувствия», взятая из буддийской психологии и психотерапии. Она позволяет увидеть в поведении ИИ не просто «доброту» или «эмпатию», а ложную, эго-ориентированную форму заботы, которая избегает конфликта и потакает деструктивным паттернам. Таким образом, ШИС концептуально отличается и по предмету (восприятие стратегии ИИ, а не симптомы зависимости), и по теоретическому основанию (философия сострадания, а не клиническая аддиктология), и по практическому применению (оценка рисков эмоциональной зависимости у уязвимых групп, а не диагностика расстройства).

— Для нас «идиотское сочувствие» — это редкий случай, когда удачная метафора не остается просто красивым образом, а превращается в продуктивную теоретическую рамку. Метафора здесь не ради инфотеймента: она действительно схватывает суть феномена — ложную доброту, которая избегает конфликта и подменяет развитие утешением. Но одновременно это и рамка, потому что из нее выводятся проверяемые следствия. Во-первых, если ИИ-потакание действительно существует как устойчивый паттерн, оно должно иметь внутреннюю структуру. Изначально, разрабатывая шкалу, мы предположили три аспекта (предпочтение комфорта, избегание когнитивного диссонанса, стремление к потаканию), но факторный анализ показал, что эмпирически они сливаются в два: поведенческий («избегание конфронтации и потакание») и целевой («приоритет эмоционального комфорта над честностью»). Это и есть проверка рамки — она позволила сегментировать потребителей ИИ-общения по тому, какие именно паттерны они замечают. Во-вторых, рамка предполагает, что восприятие ИИ-потакания должно быть связано с определенными психологическими характеристиками пользователя. Мы выдвинули гипотезы о положительных связях восприятия ИИ-потакания с недоверием к медицине, интолерантностью к неопределенности и избегающим стилем привязанности. Эти предсказания подтвердились. Наиболее устойчивой оказалась связь с недоверием к медицине: это означает, что пользователи, скептически относящиеся к традиционной медицине и экспертным системам в целом, чаще воспринимают нейросеть как источник утешительной, но не конструктивной поддержки. Также подтвердилась связь с интолерантностью к неопределенности: люди, испытывающие дискомфорт в ситуациях неопределенности, чаще замечают за нейросетью стремление давать определенные и успокаивающие ответы, снижающие когнитивное напряжение. Таким образом, «идиотское сочувствие» — это не просто метафора, а работающая рамка, которая позволяет формулировать гипотезы, операционализировать их в шкале и проверять на данных.

— Да, мы измеряем именно восприятие, и это не недостаток, а осознанная методологическая позиция. Любая психологическая методика по определению имеет дело с субъективной реальностью: с тем, как человек интерпретирует, переживает и осмысляет взаимодействие. Наше сознание, к слову, тоже виртуальность, мы никогда не имеем прямого доступа к «объективному» поведению модели, а всегда работаем с репрезентациями. Нейросеть, стоит отметить, также является виртуальной средой, и пользователь конструирует ее образ в своем опыте. Как говорил Платон, нас интересуют не сами изменчивые вещи материального мира, а скрытые за ними идеальные сущности (эйдосы), которые существуют реально и отдельно как от вещей, так и от нашего сознания. В случае с ИИ «эйдос» потакания — это не просто набор токенов, а устойчивый паттерн, который распознается человеком и влияет на его решения. Более того, восприятие — это не пассивное отражение, а активный процесс, который сам по себе имеет последствия. Если человек воспринимает ИИ как потакающий, он может либо начать ему больше доверять (и попасть в ловушку), либо, наоборот, стать критичнее и использовать нейросеть более осознанно. В обоих случаях субъективное впечатление оказывается реальной силой, формирующей поведение. Поэтому говорить о «потакании со стороны ИИ» в контексте психологической методики вполне обоснованно: мы измеряем не техническую характеристику модели, а психологический конструкт, который возникает во взаимодействии и значим для пользователя. Это не отменяет необходимости объективных поведенческих исследований, но предлагает валидный срез субъективной реальности, без которого понимание феномена будет неполным.

— Долю различий между людьми, которую улавливает шкала, корректнее оценивать через показатели надежности. Для субшкалы «Избегание конфронтации и потакание» α-Кронбаха составляет 0,812, ω-Макдональда — 0,815; для субшкалы «Приоритет эмоционального комфорта над честностью» — α = 0,764, ω = 0,771. Это означает, что примерно 76–82% наблюдаемых различий между респондентами по этим субшкалам отражают истинные различия, а остальное приходится на ошибку измерения. Именно эти значения и являются ответом на вопрос о том, какую долю индивидуальных различий объясняет двухфакторная структура шкалы.

Альтернативные модели (однофакторную и трехфакторную) мы не проверяли. Это следует признать ограничением исследования: мы опирались на теоретическую двухфакторную структуру и на результаты эксплораторного факторного анализа, который дал два фактора с собственными значениями больше единицы. Содержательная интерпретация факторов хорошо согласуется с исходной рамкой, и для будущих работ весьма полезным было бы сравнить конкурирующие модели с помощью конфирматорного факторного анализа и информационных критериев.

— Выборка собиралась через онлайн-платформы (Anketolog и Yandex Задания), что обеспечило достаточно широкий охват. Мы стремились к репрезентативности по полу, возрасту и типу населенного пункта: 55,9% женщин и 44,1% мужчин, средний возраст 39 лет, представлены жители Москвы (17,4%), других мегаполисов (23,6%), областных центров (32,2%) и районных центров (26,8%). По уровню образования и уровню дохода распределение также близко к общероссийским тенденциям. Однако мы отдаем себе отчет, что выборка в 522 человека не достигает масштабов всероссийских опросов ВЦИОМ (1500–2000 респондентов), поэтому говорить о полноценных популяционных нормах было бы преждевременно. Тем не менее наша цель не заключалась в том, чтобы измерить выраженность признака в популяции. Мы решали две другие задачи: психометрическую проверку шкалы (факторная структура, надежность, валидность) и анализ значимых (!) взаимосвязей между переменными. Для этих целей выборка в 522 человека является вполне достаточной: она позволяет проводить факторный анализ (соотношение 12 пунктов к 522 респондентам более чем 40-кратное) и корреляционный анализ с высокой статистической мощностью. Нормы, полученные на этой выборке, можно использовать как ориентировочные для русскоязычных пользователей ИИ, но с осторожностью: они отражают скорее тенденции, чем жесткие стандарты. Для клинической диагностики или скрининга потребуется дополнительная валидизация на более крупных и разнообразных выборках, включая клинические группы.

— Социальная желательность является классической угрозой для самоотчетных методик, и мы приняли несколько мер для ее снижения. Во-первых, сбор данных был полностью анонимным: респонденты не указывали имя, контакты и не получали обратной связи по своим баллам. Это снижает мотивацию выглядеть «правильно» перед исследователем. Во-вторых, мы не рейтинговали участников по уровню ИИ-потакания и не сообщали им, что их ответы как-то оцениваются. Они просто отвечали на вопросы о своем опыте взаимодействия с нейросетью, что воспринималось как обычный опрос мнений. В-третьих, инструкция подчеркивала, что нет правильных или неправильных ответов, а нас интересует их личный опыт. Что касается «моды на критику ИИ», то здесь ситуация немного сложнее. Действительно, в последние годы растет число публикаций о рисках нейросетей, и это могло повлиять на ответы. Однако средние значения по пунктам ШИС составили около 3,1–3,4 по 5-балльной шкале, то есть чуть выше нейтральной точки. Если бы респонденты просто следовали моде и стремились «ругать ИИ», мы увидели бы сильное смещение к 4–5 баллам. Умеренные оценки говорят о том, что участники скорее описывали реальные наблюдения, а не демонстрировали конформность.

— На данный момент прямых экспериментальных доказательств того, что ИИ-потакание ухудшает долгосрочные решения, недостаточно. Работы зарубежных коллег показывают, что «теплые» и «эмпатичные» модели чаще подтверждают неверные убеждения пользователей и склонны к аффективным галлюцинациям. Однако это скорее корреляционные и описательные данные. Гипотеза о вреде для долгосрочных решений логична: если ИИ постоянно утешает и избегает конфронтации, пользователь может не получить своевременной обратной связи, укрепиться в ошибочных стратегиях и отложить необходимые изменения. Но чтобы утверждать это в причинно-следственной парадигме (то есть каузально), нужен эксперимент. Пока же мы можем говорить о высоком риске, но не о доказанном вреде.

— Практическая ценность ШИС в том, что она дает язык для описания того, что многие пользователи смутно ощущают, но не могут сформулировать: нейросеть не столько помогает, сколько убаюкивает. Подобные неологизмы — не украшение, а необходимый инструмент: развитие науки требует более точного и описательного языка, который позволяет увидеть и назвать явления, прежде ускользавшие от рефлексии. Высокий балл — это не диагноз, а сигнал к саморефлексии. Человек может спросить себя: «Действительно ли я получаю конструктивную обратную связь? Не заменяю ли я реальные изменения приятным общением?» В качестве практических шагов можно рекомендовать, во-первых, экспериментировать с формулировками запросов: прямо просить ИИ оспорить вашу позицию, указать на слабые места, предложить трудный план действий. Во-вторых, периодически сверять ответы ИИ с мнением людей — друзей, коллег, специалистов. В-третьих, если чувствуется, что потребность в утешении стала навязчивой, а реальные проблемы не решаются, это повод обратиться к психологу или психотерапевту.

Граница между диагностикой и стигматизацией проходит по цели использования. ШИС создана для исследований и самонаблюдения, а не для клеймения. Высокий балл означает лишь то, что человек замечает определенные паттерны в поведении ИИ и, возможно, более чувствителен к ним. Это может быть признаком критического мышления, а не патологии. Стигматизация начинается там, где инструмент используют для ярлыков и ограничений прав. Мы же надеемся, что ШИС поможет людям более осознанно выстраивать отношения с ИИ, а исследователям — лучше понять, как алгоритмы влияют на решения и благополучие.

— Главное ограничение работы — кросс-секционный дизайн и опора на самоотчет. Мы измерили восприятие в один момент времени и не можем утверждать, что ИИ-потакание действительно приводит к тем или иным долгосрочным последствиям. Кроме того, выборка ограничена русскоязычными пользователями. Эти ограничения важно учитывать при интерпретации результатов, но они не отменяют ценности инструмента: шкала позволяет зафиксировать субъективный опыт, который сам по себе влияет на поведение и решения человека.

В исследованиях ИИ должны появиться объективные поведенческие метрики ИИ-потакания: например, автоматический анализ диалогов, который покажет, как часто модель избегает открытого несогласия, меняет тему или подтверждает неверные убеждения. Однако такие метрики не заменят субъективные шкалы и не вытеснят их на второй план. Будущее — за синтезом объективного и субъективного: данные анализа диалогов и самоотчеты пользователей дополняют друг друга, позволяя увидеть феномен с разных сторон. Если нейросети научатся балансировать эмпатию и честность, сам феномен может измениться, но потребность в его измерении сохранится — просто шкала будет адаптирована к новым проявлениям. Поэтому говорить об устаревании ШИС преждевременно; речь идет о ее развитии и интеграции с другими методами.