Договор дороже технологий

Искусственный интеллект перестал быть темой только для инженеров и футурологов — он вошел в повседневную работу, учебу и общение быстрее, чем общество успело выработать правила игры. Одни видят в нем инструмент, который освобождает от рутины, другие — угрозу собственному «я», работе и способности принимать решения.

Что происходит с человеком и обществом на фоне стремительного внедрения ИИ, «Ъ-Наука» поговорила с социальным психологом, профессором РАН, заведующим лабораторией социальной и экономической психологии Института психологии РАН Тимофеем Нестиком.

— Здесь можно говорить о нескольких эффектах. С одной стороны, искусственный интеллект облегчает целый ряд задач, и мы видим, как быстро он принимается на вооружение, как в его использование втягиваются люди самых разных поколений, в том числе и те, кому за 60. С другой стороны, это влечет за собой так называемый когнитивный долг, когда часть интеллектуальной работы мы перекладываем на систему и взамен теряем собственные навыки или не развиваем их в прежнем объеме. Но к этому надо относиться не как к приговору, а как к вызову.

Какие-то когнитивные функции нам действительно придется передать искусственному интеллекту. Но тем выше будет цениться способность людей к критическому мышлению и так называемые познавательные эмоции: любопытство, удивление, сомнение. Тем важнее становится развитие воображения, в том числе социального, то есть способности представить ситуацию с точки зрения других людей, разные сценарии развития отношений.

— На индивидуальном уровне ИИ может сдерживать какие-то из наших способностей, а какие-то усиливать. Само знание становится диалогическим. Это уже не текст, который нужно прочитать, как когда-то в Большой советской энциклопедии или в Википедии, а знание, которое мы получаем по частям, в диалоге, где очень многое зависит от того, какие именно вопросы мы зададим. Это, конечно, будет влиять и на то, как мы обсуждаем задачи в малых группах, друг с другом. Здесь могут быть эффекты, которые мы еще не до конца понимаем: нужны масштабные лонгитюдные исследования, в которых отслеживались бы последствия.

С другой стороны, есть последствия, которые мы видим на уровне группы. Они тоже разнонаправленные. Есть исследования, которые говорят, что, хотя искусственный интеллект повышает креативность решений в диалоге с одним конкретным пользователем и в этом смысле повышает нашу индивидуальную конкурентоспособность, на уровне группы эта креативность снижается, так как разным людям искусственный интеллект предлагает похожие идеи. Есть подтверждения того, что тексты, прошедшие редактирование с использованием ИИ, становятся менее сложными и разнообразными, и это, вероятно, будет влиять на наше мышление. Кроме того, при участии таких ИИ-моделей в групповой дискуссии люди чаще высказывают свое мнение, но реже оспаривают и задают вопросы друг другу, больше полагаясь на то, как модель обобщает ход обсуждения.

— С одной стороны, первая реакция в компаниях — особенно там, где это поощряется руководством, где это престижно,— позитивная. Нам кажется, что мы больше успеваем, что можем сделать больше, чем раньше. Но со временем, когда эти агенты появляются у всех или когда они берутся на вооружение компаний, становится понятно, что это ведет к еще большему стрессу. Это действительно очень существенный вызов. Технологии развиваются быстрее, чем наша способность договариваться о правилах их применения. Мы не успеваем договориться, как и в каких случаях используем искусственный интеллект, а в каких не используем. И как страхуемся на случай его ошибки. Ведь у каждого подразделения и у каждой команды своя специфика, и ее сложно угадать, спустив сверху вниз готовый регламент. То есть парадоксальным образом внедрение искусственного интеллекта начинает сдерживаться или даже приводить к обратным эффектам именно из-за того, что мы пытаемся заменить этими цифровыми технологиями доверие, переговоры, диалог.

И здесь ключевое отличие сегодняшней ситуации от периода атомного проекта или космических достижений: тогда технологический оптимизм сопровождался еще и социальным, сейчас все наоборот. Интернет, с одной стороны, повысил доступность знания, сделал его более демократичным, а с другой — создал «цифровые пузыри», в которых мы читаем сообщения от тех, кто похож на нас, а также изменил нашу память, переориентировав нас с запоминания фактов на запоминание того, где их можно добыть. Искусственный интеллект может усилить или ослабить эти эффекты в зависимости от того, как мы его используем: он может еще больше замкнуть нас в нашем цифровом пузыре или, наоборот, повысить нашу чувствительность к другим мнениям и возможности для обучения у других людей.

— Если говорить о большинстве пользователей ИИ, то страх «восстания машин» им как раз мало свойственен — он скорее характерен для самих разработчиков, которые склонны переоценивать возможности искусственных систем. Такие страхи поддерживаются СМИ и кинематографом и могут влиять на эмоциональную оценку технологии, но ключевыми для людей все же являются другие риски. Прежде всего страх потери субъектности. Это тот страх, о котором писала Мэри Шелли: страх Голема, страх силы, которая лишает нас способности влиять на происходящее, когда система отбирает у нас возможность самим решать, как дальше действовать, самим определять свою судьбу. Это базовый страх, и он хорошо виден по отношению к искусственному интеллекту в роли судьи — эта роль пользуется гораздо меньшей популярностью, чем, скажем, умный дом или роль ИИ как защитника от киберугроз. Этот же страх мы отмечаем в наших исследованиях отношения людей к созданию цифровых двойников сотрудников и клиентов.

Самый массовый сегодня страх, по нашим данным, а также по результатам репрезентативных опросов в Европе и США,— противозаконное использование ИИ для кражи данных и манипуляции. Постепенно возрастает и страх потери работы или снижения заработной платы в связи с внедрением ИИ-агентов.

Интересно, что технофобов отличает не менее интенсивное использование технологий, а неготовность обсуждать свой пользовательский опыт и обращаться за помощью к экспертам. Чем меньше у нас возможностей говорить о своих страхах и проблемах, связанных с использованием искусственного интеллекта, тем острее будет ощущение угрозы своему «я», своей аутентичности, своей свободе воли. Это важно учитывать российским компаниям при внедрении ИИ-агентов в рабочие процессы.

— Такие эффекты связаны с тем, что искусственный интеллект — особенно с глубокой персонализацией, когда мы пользуемся настроенным под нас чат-ботом,— меняет и наше представление о самих себе. Мы теперь можем о себе узнать то, что не помнили раньше или просто не имели возможности узнать. И это будет вести к тому, что какие-то наши черты станут более пластичными, потому что их легче контролировать: мы можем их отслеживать и целенаправленно на них влиять. А какие-то, напротив, станут более стабильными.

Эксперименты показывают, что ИИ использует информацию об индивидуальных особенностях собеседника эффективнее, чем люди, а объяснения ИИ-помощника о том, как он пришел к выводу, усиливают веру даже в заведомо ошибочные рекомендации. Кроме того, такие системы превращаются в инструмент гипернаджинга, когда под конкретного человека в режиме реального времени подбираются способы воздействия. Нас могут подталкивать к тем или иным действиям через нашего персонального ИИ-агента, через наше технологически расширенное и дополненное «я». И это дает очень существенную власть большим технологическим компаниям, которые знают о нас больше, чем мы сами. Здесь возникает важная задача для бизнеса и общества: преимущества получат такие бизнес-модели, при которых мы, пользователи искусственного интеллекта, превращаемся из тех, кто пытается скрыть свои данные, чтобы не оказаться жертвой, в инвесторов — тех, кто целенаправленно и безопасно вкладывает свои данные в развитие цифровых сервисов, которые помогают нам, нашей семье или нашей команде.

— Люди, испытывающие дефицит социальной поддержки, контактов, принадлежности к группе, которая их ценит, становятся более подверженными зависимости от общения с чат-ботом. Для них он становится частью психологической опоры. И эта зависимость может еще больше обострять дефицит общения.

ИИ-модели, специально разработанные в психотерапевтических целях, такие как Therabot, могут помочь снизить тревогу и оказать первую помощь с опорой на методы когнитивно-поведенческой терапии, не подменяя собой человека-психолога. Намного более рискованным может быть использование для психологической поддержки моделей, которые для этого не предназначены,— общих больших языковых моделей типа GPT, Gemini, Claude, DeepSeek или «сюжетных» моделей, предназначенных для ролевых игр и романтических отношений. Общение с такими ИИ как с личными психологами может вести к эмоциональной зависимости, нормализации моделью психологического неблагополучия своего собеседника, поддержке опасных действий и даже к суициду.

Общение с искусственным интеллектом как партнером облегчает пользователям эмоциональное самораскрытие и понимание своих чувств, но мы пока не знаем, как оно повлияет на нашу способность сопереживать и доверять другим людям, на то, как мы сравниваем себя с ними и защищаем свою самооценку.

Когда появился кинематограф, он тоже сначала воспринимался как игрушка, что-то смешное, затем — как что-то ужасное. Потом превратился едва ли не в ключевой инструмент воздействия на массы, в инструмент идеологических войн. А в конце концов стал искусством, которое помогает людям понимать себя и друг друга. Думаю, с искусственным интеллектом мы так или иначе пройдем примерно ту же траекторию. И главное, от чего зависит ее успешность,— от нашего умения договариваться друг с другом. Потому что на искусственный интеллект и технологии мы проецируем свои социальные страхи, те дефициты и неразрешенные проблемы, которые коренятся в нас самих.