Председатель КС Зорькин заявил о риске дегуманизации из-за «цифровой революции»
Председатель Конституционного суда (КС) Валерий Зорькин предупредил о рисках тотального контроля, которые несет с собой «цифровая революция». Об этом он заявил, выступая с традиционной лекцией на Петербургском международном юридическом форуме.
Председатель Конституционного суда Валерий Зорькин
Фото: Евгений Павленко, Коммерсантъ
Председатель Конституционного суда Валерий Зорькин
Фото: Евгений Павленко, Коммерсантъ
По мнению главы КС, необходимо введение абсолютно жестких запретов в отношении всего, что ведет к технологической дегуманизации человека и создаваемой им системы общественных отношений. Недопустимо и то, что порождает еще более худшие (по сравнению даже с нынешними) формы неравенства и эксплуатации.
Господин Зорькин напомнил, что «цифровая революция» невероятно повысила производительность труда, ускоряя производственные операции и увеличивая объемы производства. Но вместе с тем она несет риски тотального контроля, «мало совместимого с понятием человеческого достоинства», а также полной утраты какой-либо приватности, предупредил он. Кроме того, под угрозой оказывается сущностное «человеческое ядро», то есть биологическая и когнитивная природа человека.
Отношения, при которых все сведения о поведении человека, которые собираются благодаря всевозможным цифровым средствам слежения и наблюдения, становятся важнейшим ресурсом для извлечения прибыли, председатель КС назвал «надзорным капитализмом»: «Гиг-экономика превращает человека в придаток платформ. Тотальный сбор данных, алгоритмическое управление трудом, человек как “человеческий капитал” — вот новые, внешне неуловимые, но невероятно мощные формы отчуждения».
При этом алгоритмическое управление реактивирует вроде бы уже ставшие глубокой архаикой шаблоны жесткой социальной иерархии, подчеркнул Валерий Зорькин. Поэтому, по его мнению, необходимо установление на законодательном уровне «красных линий», то есть абсолютных запретов в отношении всего, что ведет к технологической дегуманизации человека и создаваемой им системы общественных отношений.
Обеспокоенность рисками «цифровой революции» и тотального контроля, выраженная Валерием Зорькиным, перекликается с общими дискуссиями среди экспертов. Многие специалисты сходятся во мнении, что цифровые технологии, включая искусственный интеллект, несут как огромные возможности для повышения производительности и облегчения рутинных задач, так и серьезные угрозы. Среди них — разрушение когнитивных способностей человека, риск социальной уязвимости, новая форма цифровой власти, которая собирает данные о гражданах и может управлять их судьбами, а также обострение цифрового неравенства.
Эксперты обсуждают, что развитие искусственного интеллекта может привести к утрате людьми таких качеств, как воля, способность к созиданию и интерес к жизни, а также к разделению человечества на «касты» тех, кто включен в общественное производство с использованием ИИ, и тех, кто нет. Поднимаются вопросы о возможных угрозах национальному суверенитету при попытках глобального регулирования ИИ и о смещении власти от государства к «цифровикам». Существуют опасения, что ИИ будет дезинформировать людей, выдавая ложную информацию за истинную.
В целом, необходимость правового регулирования ИИ и цифровых технологий признается во всем мире. Существуют различные подходы: европейский ориентирован на оценку и ограничение рисков, американский — на поддержку бизнеса при соблюдении стандартов безопасности и ситуативное регулирование конкретных кейсов, а китайский характеризуется максимальным количеством запретов и ограничений. В России пока преобладает стимулирование развития ИИ с планами по усилению регулирования во второй половине 2020-х годов.