Восстание против машин
Валерий Зорькин предупредил о цифровых угрозах человечеству
Право должно защитить человека от последствий технической революции, но для этого необходимо установить на законодательном уровне «красные линии», которые человечество не должно переходить. Об этом заявил 25 июня председатель Конституционного суда (КС) Валерий Зорькин в своей лекции на Петербургском международном юридическом форуме (ПМЮФ).
Председатель Конституционного суда России Валерий Зорькин
Фото: Алексей Смагин, Коммерсантъ
Председатель Конституционного суда России Валерий Зорькин
Фото: Алексей Смагин, Коммерсантъ
Одной из ключевых тем ПМЮФ-2026, наряду с внешнеполитическими проблемами и внутренними угрозами, стали вопросы цифровизации. Юристы оживленно обсуждают перспективы регулирования рынка данных, стратегии борьбы с киберпреступностью и правовой статус искусственного интеллекта. А у стенда ФСИН гостей встречает говорящий и разносторонне одаренный робокот ЯРСон, который может рассказать участникам мероприятия не только о том, как погасить задолженность, но и о самых известных памятниках кошкам в городе.
Не обошел эту тему и Валерий Зорькин, который традиционно выступает с лекцией перед участниками форума. Каждое решительное продвижение нашего биологического вида по эволюционному пути оплачивается появлением антропологической травмы, или социотравмы — проще говоря, новых структурных уязвимостей, объяснил собравшимся председатель КС. И привел несколько примеров: за прямохождение человек расплачивается болью в позвоночнике, за символическое мышление — подверженностью манипуляциям, за речь — способностью ко лжи, за государство — институционально закрепленным насилием.
Современность принесла нам цифровую революцию, вслед за которой грядет антропо-технологический симбиоз (пятая промышленная революция), предупредил господин Зорькин.
Она сулит безграничные возможности, но одновременно и риск «когнитивного захвата», то есть контроля над ментальной сферой. Другие не менее серьезные опасности — гигантская дифференциация на биотехнологической почве и риск окончательной потери контроля над искусственным сверхразумом.
Отношения, когда все сведения о поведении человека, которые собираются благодаря всевозможным цифровым средствам слежения и наблюдения, становятся важнейшим ресурсом для извлечения прибыли, глава КС назвал «надзорным капитализмом». «Гиг-экономика превращает человека в придаток платформ,— пояснил он.— Тотальный сбор данных, алгоритмическое управление трудом, человек как "человеческий капитал" — вот новые, внешне неуловимые, но невероятно мощные формы отчуждения». Кроме того, под угрозой оказывается сущностное «человеческое ядро», то есть биологическая и когнитивная природа человека.
В этих условиях именно право должно стать «юрисдикционным гарантом долгосрочной антропологической устойчивости и преемственности», сделал вывод Валерий Зорькин.
По его убеждению, необходимо установление на законодательном уровне «красных линий» — абсолютных запретов в отношении всего, что ведет к технологической дегуманизации человека и создаваемой им системы общественных отношений. Под запретом должны оказаться нейроинтерфейсы, не обеспеченные надежной возможностью мгновенного отключения, генетическое редактирование и нейропротезирование человека. Также чрезвычайно опасны системы тотального социального кредита и алгоритмическая оценка «благонадежности», которые реанимируют (уже на цифровом уровне) крепостнические и тоталитарные социотравмы.
Наконец, любые попытки создать «постчеловека» с когнитивными или физическими возможностями, недостижимыми для обычного человека, уничтожая единственную абсолютную ценность –– человеческое достоинство, должны быть признаны «безусловной и всеобъемлющей угрозой конституционному строю, и даже шире –– будущему человечества», подчеркнул господин Зорькин. Слушатели, здраво рассудив, что о милом ФСИНовском робокоте речь тут явно не идет, воодушевленно аплодировали.