Медведев написал колонку про игнорирование Западом исходящих от ИИ угроз
Заместитель председателя Совета безопасности России Дмитрий Медведев опубликовал в журнале «Эксперт» колонку под названием «Новые технологии: лестница в небо или дорога в ад». В тексте господин Медведев рассуждает об угрозах, с которым в скором времени может столкнуться человечество из-за развития технологий, в том числе искусственного интеллекта.
«Украинский кризис, активно поддерживаемый усилиями группы русофобски настроенных и люто желающих поражения России стран, рано или поздно закончится», — пишет Дмитрий Медведев и продолжает, что «в ближайшем будущем придет осознание необходимости ответа на куда как более серьезные глобальные вызовы и угрозы, связанные с переходом на новый технологический уровень».
Скорость нынешних перемен беспрецедентна, и человечество к ним не готово, считает господин Медведев. Он предупреждает, что удешевление цифровых технологий привело к сверхдоходам ИТ-гигантов, которые монополизируют обработку больших данных. Человек становится идеальным потребителем, а соцсети навязывают мир симулякров, где виртуальное становится важнее реального, пишет зампред Совбеза РФ.
Развитие ИИ сулит массовой безработицей, продолжает он. Главный риск передачи ИИ управления критической инфраструктурой (АЭС, заводы) он видит в необъяснимости решений: человек не сможет понять причину сбоя или катастрофы. Кроме того, отмечает господин Медведев, ИИ может выйти из-под контроля и будет действовать вопреки интересам людей. Могут возникнуть цифровые двойники для кражи данных и терроризма.
В военном деле, считает Дмитрий Медведев, произойдет стирание моральных барьеров: убийство превратиться в компьютерную игру, будет снижен порог применения силы. В биотехнологиях при развитии технологий он видит риск перехода эпидемий из природных явлений в разряд рукотворного оружия.
При переносе критической инфраструктуры в космос (электростанции, серверы) могут возникнуть риски физических и кибератак на космические объекты (от хулиганства до терроризма), что может парализовать земные системы.
Как итог, пишет Дмитрий Медведев, западные страны, уволенные кризисом вокруг Украины и зарабатыванием денег, игнорируют глобальные технологические угрозы. Существующие международные механизмы (ООН) неэффективны для решения этих проблем, отмечает он. Человечеству придется договариваться, так как на кону стоит его выживание, подытоживает господин Медведев.