«Вопрос трансгуманизма — останется ли человек тем, кто задает технологиям цели»

Сохраним ли мы субъектность на фоне автоматизации интеллекта? Достигнем ли настоящего «цифрового бессмертия»? Окажется ли общество будущего антиутопией с «биологическим неравенством»? Отберут ли технологические корпорации власть у государств? Станут ли люди зависимы от нейроинтерфейсов? И как всего этого избежать, то есть выстроить технологическое будущее вокруг человеческих интересов, а не пренебрегая ими? Об этом с «Ъ-Наукой» беседовала кандидат философских наук, заведующая кафедрой философии языка и коммуникации философского факультета МГУ им. М. В. Ломоносова, эксперт Философского клуба «Цивилизационное будущее России» Анна Костикова.

Выйти из полноэкранного режима

Развернуть на весь экран

— Можете ли раскрыть подробнее ваше утверждение о том, что трансгуманизм предлагает проект улучшения средствами автоматизации. И на этом фоне возникает вопрос: насколько мы сохраним субъектность?

— Когда я говорю, что трансгуманизм предлагает проект улучшения средствами автоматизации, я имею в виду следующее. В традиционной культуре улучшение человека связывалось с воспитанием, дисциплиной, образованием, духовной практикой, профессиональным мастерством, нравственным выбором. Это всегда требовало времени и усилия.

Трансгуманистическая логика часто предлагает другой путь: не воспитывать внимание, а поддерживать его стимуляцией; не развивать память, а вынести ее во внешнюю систему; не формировать суждение, а подключить рекомендательный алгоритм; не учиться жить с конечностью, а искать техническую отмену старения. К сожалению, такая логика используется и во многих других концепциях — например, психологических, популяризированных новыми медиа, а также в повседневных коммуникативных клише об удовольствии без усилий, о внутренней гармонии вне социальных связей и обязательств. И здесь возникает главный вопрос: сохраняем ли мы субъектность?

Субъектность — это не просто способность нажать кнопку. Это способность понимать цель, выбирать средства, нести ответственность, сомневаться, ошибаться, менять решение, вступать в диалог. Автоматизация полезна, пока она освобождает человека для более сложных форм деятельности. Но она становится опасной, когда освобождает человека от самой необходимости быть субъектом. Если алгоритм пишет, выбирает, помнит, оценивает, прогнозирует и даже предлагает эмоциональную реакцию, то человек рискует превратиться в оператора собственной жизни, а не в ее автора. Поэтому формула должна быть очень строгой: можно автоматизировать функции, но нельзя автоматизировать ответственность и «социальную самость».

— Еще недавно идея «цифрового бессмертия» — переноса человеческого сознания в техническую систему — воспринималась как сюжет научной фантастики. Однако сегодня подобные практики уже начинают становиться частью реальности. Насколько, на ваш взгляд, реалистична перспектива того, что подобные технологии станут шагом к настоящему «цифровому бессмертию»? И даже если технически это окажется возможным, можно ли будет считать такую цифровую копию продолжением личности, а не лишь ее убедительной имитацией?

— Технологии «цифрового бессмертия» нужно обсуждать очень осторожно. Сервисы вроде Re;memory действительно уже существуют: DeepBrain AI описывает re;memory 2 как мемориальный сервис, который на основе фотографии и короткого аудиофрагмента создает реалистичный аватар умершего человека, способный воспроизводить внешность, голос и выражения; отдельная страница сервиса прямо предлагает «встретиться» с близким человеком через фото и голосовой файл или видео.

В Китае и других странах формируется более широкий рынок grief tech — технологий цифрового присутствия умерших; в академической литературе он уже обсуждается как рынок AI resurrection, связанный с вопросами согласия, изображения, персональных данных и регулирования «цифровой загробной жизни».

Но между цифровой копией и продолжением личности лежит философская пропасть. Цифровой аватар может имитировать манеру речи, жесты, голос, любимые фразы, эмоциональные реакции. Он может быть психологически значимым для родственников, иногда даже терапевтическим.

Но личность — это не только набор поведенческих признаков. Личность связана с первым лицом: с переживанием «я», с непрерывностью опыта, с памятью как прожитой историей, с ответственностью за собственные поступки. Если система говорит голосом умершего человека, это еще не значит, что умерший человек продолжает говорить.

Скорее, мы имеем дело с новой формой культурной памяти, очень сильной эмоционально и очень рискованной этически. Ее нужно называть честно: это не бессмертие, а имитация присутствия. И чем убедительнее имитация, тем важнее не спутать утешение с онтологическим фактом.

— Не приведут ли технологии радикального продления жизни и «улучшения» человека к формированию нового биологического неравенства, когда доступ к таким возможностям получит лишь узкий круг элит? И какими последствиями для общества может обернуться подобное расслоение?

— Опасность нового биологического неравенства абсолютно реальна. И это еще одна важная тема как для философского осмысления, а также предмет особой «коммуникативной» чувствительности: зачастую сам разговор о неравенстве может оказаться токсичным триггером социального недовольства и психологической нестабильности.

Если технологии продления жизни, когнитивного усиления, генетического отбора или нейроинтерфейсов окажутся доступны только узким элитам, общество столкнется уже не просто с имущественным расслоением, а с расслоением антропологическим. Богатые будут отличаться от бедных не только количеством ресурсов, но и продолжительностью жизни, скоростью мышления, устойчивостью к болезням, качеством памяти и, как следствие, репродуктивными возможностями. Тогда старая идея равенства граждан окажется подорвана на биологическом уровне.

В этом смысле даже сами трансгуманисты понимают проблему: у Ника Бострома «wide access», широкий доступ, назван одним из базовых условий реализации трансгуманистического идеала. Но между этическим пожеланием и экономической реальностью лежит огромная дистанция. Рынок сам по себе редко производит справедливость; чаще он производит премиум-тариф на бессмертие.

— Еще недавно считалось, что правила общественной жизни формируют прежде всего государства и политические институты. Но сегодня огромные массивы данных, инструменты анализа поведения и даже механизмы принятия решений сосредотачиваются в руках технологических корпораций. Показателен, например, кейс Palantir Technologies, чьи технологии используются государственными структурами, спецслужбами и силовыми ведомствами для прогнозирования и управления социальными процессами. Не возникает ли в этой ситуации опасность того, что технологические корпорации начинают конкурировать с государствами за право определять нормы человеческой жизни, поведения и даже мышления?

— Ситуация с технологическими корпорациями действительно меняет привычное понимание суверенитета. Еще недавно считалось, что нормы общественной жизни определяются государством, правом, публичной политикой, институтами образования и культуры. Сегодня значительная часть реального управления поведением перемещается в инфраструктуры данных: платформы, рекомендательные системы, системы скоринга, аналитические комплексы, алгоритмы безопасности, модели прогнозирования.

Это не означает, что корпорации буквально заменили государства. Но они становятся соавторами норм, потому что именно они проектируют среды, в которых человек принимает решения, получает информацию, вступает в коммуникацию и даже формирует представление о реальности.

Кейс Palantir здесь показателен не потому, что эта компания уникальна, а потому, что она демонстрирует общий тренд. В годовом отчете Palantir указывает, что компания начинала с разработки программного обеспечения для разведывательного сообщества США, а ее платформы Gotham, Foundry и AIP работают с интеграцией данных, операционными решениями и использованием генеративного ИИ на корпоративных и государственных данных; сама компания описывает свои решения как обеспечивающие AI-driven decisions для критически важных государственных и коммерческих структур.

Опасность здесь не в самой аналитике: государству нужны инструменты безопасности, медицины, логистики, чрезвычайного реагирования. Опасность в том, что критерии нормальности, риска, подозрения, эффективности и управляемости могут оказаться встроены в закрытые технологические системы.

Вопрос «Кто принимает решение?» становится недостаточным. Нужно спрашивать: «Кто проектирует пространство возможных решений?», «Кто владеет данными?», «Кто определяет модель риска?», «Кто отвечает за ошибку?» И в этом смысле технологические корпорации действительно начинают конкурировать с государствами — не обязательно за власть в классическом политическом смысле, но за право задавать правила видимости, предсказуемости и управляемости человеческой жизни.

— Сторонники трансгуманизма, тот же философ Ник Бостром, которого вы упомянули, или, например, футуролог Рэй Курцвейл часто говорят о праве человека преодолевать собственные биологические ограничения и свободно изменять себя с помощью технологий. Сегодня нейроинтерфейсы и технологии когнитивного усиления подаются как способ расширить возможности человека — ускорить мышление, улучшить память, повысить концентрацию и даже напрямую соединить мозг с цифровой средой. Подобные проекты развивают, например, Neuralink Илона Маска, а также целый ряд технологических лабораторий в США и Китае. Но не может ли такая «модернизация» человека со временем привести к новой форме зависимости, когда человек уже не сможет полноценно мыслить, работать и существовать без постоянной технологической «поддержки» или цифрового «протеза»?

— Нейроинтерфейсы и технологии когнитивного усиления, конечно, обладают огромным гуманитарным потенциалом. Когда речь идет о людях с параличом, тяжелыми нарушениями речи, последствиями травм, нейродегенеративными заболеваниями, такие технологии могут возвращать автономию, коммуникацию и достоинство.

Neuralink, например, описывает свою миссию как создание мозгового интерфейса для восстановления автономии людей с неудовлетворенными медицинскими потребностями. В рамках PRIME Study компания сообщает об импланте №1 как об интракортикальном нейрокомпьютерном интерфейсе (intracortical brain-computer interface, iBCI) с 1024 электродами для записи нейронной активности. Поэтому было бы неправильно говорить о нейроинтерфейсах только в алармистском тоне.

Но когда терапевтическая технология переходит в сферу массового усиления, возникает новая зависимость. И это не фантастика: мы уже видим, как цифровые среды меняют память, внимание, способность читать длинный текст, ориентироваться без навигатора, принимать решение без подсказки. Нейроинтерфейс может усилить эту тенденцию радикально.

Если когнитивная поддержка станет обязательным условием работы, образования или конкуренции, то вчерашнее «улучшение» превратится в завтрашний социальный минимум. Человек будет подключаться не потому, что хочет стать сверхчеловеком, а потому, что иначе окажется неконкурентоспособным. В этике brain-computer interfaces (BCI) уже выделяются вопросы автономии, приватности, личности, ответственности, безопасности и справедливости. Обзор BMC Medical Ethics прямо показывает, что эти темы относятся к центральным вызовам BCI. Самая тонкая опасность здесь состоит в том, что протез перестает быть средством компенсации и становится новой нормой полноценности. Тогда человек без подключения начнет восприниматься как «недоукомплектованный».

— Эпоха Возрождения и последующий исторический гуманизм утверждали идею человека как самостоятельной и безусловной ценности. Однако сегодня, в условиях стремительного развития искусственного интеллекта, алгоритмизации и трансгуманистических проектов, само представление о человеке вновь оказывается предметом пересмотра. Возникает ли в этой ситуации потребность в новом — цифровом — гуманизме? И какими принципами он должен руководствоваться, чтобы технологический прогресс не привел к утрате человеческого достоинства, свободы и субъектности?

— Да, я думаю, что потребность в цифровом гуманизме сегодня очевидна. Но цифровой гуманизм не должен быть модной заменой исторического гуманизма. Он должен стать его продолжением в новых технологических условиях. Его главная задача — не романтизировать человека и не демонизировать технику, а установить принцип: технологии должны проектироваться, внедряться и регулироваться так, чтобы усиливать человеческое достоинство, свободу, ответственность и культурное многообразие, а не подменять их эффективностью, скоростью и управляемостью.

Венский манифест цифрового гуманизма очень точно формулирует эту мысль: технологии необходимо формировать в соответствии с человеческими ценностями и потребностями, а не позволять технологиям формировать человека. ЮНЕСКО в рекомендации по этике ИИ также исходит из приоритета прав человека, достоинства, прозрачности, справедливости и человеческого надзора. Есть глубокая литературоцентричная традиция отечественной философии размышлять именно так о человеке.

Принципы возможного «цифрового гуманизма», на мой взгляд, могли бы быть следующими:

• человек не может быть сведен к данным;
• достоинство не может быть обменяно на эффективность;
• решение, существенно влияющее на судьбу человека, не должно быть полностью непрозрачным;
• у человека должно сохраняться право на отказ от технологического вмешательства;
• улучшение не должно превращаться в новую форму дискриминации;
• технологическая власть должна быть подотчетна обществу;
• образование должно развивать не только цифровые навыки, но и способность критически мыслить, понимать смысл, различать подлинное и имитированное.

Конечно, сами формулировки требует тщательного осмысления. Именно поэтому современные международные рамки регулирования ИИ все чаще говорят не только о безопасности, но и о достоинстве, автономии, недискриминации, прозрачности, ответственности и праве человека понимать, что он взаимодействует с системой, а не с другим человеком.

В конечном счете вопрос трансгуманизма — это не вопрос о том, будут ли у нас новые технологии. Новые технологии будут появляться и совершенствоваться. Вопрос в том, останется ли человек тем, кто задает им цели.

Я бы сказала так: будущее должно быть технологически развитым, но антропологически осторожным. Нам нужны не запреты ради запретов и не восторг ради восторга, а культура и коммуникация меры. Потому что улучшить человека можно только тогда, когда мы помним, что именно в человеке нельзя улучшать как деталь машины: его достоинство, свободу, способность любить, страдать, отвечать за себя и быть не функцией, а личностью.

Илья Арзуманов