Эксперты ООН видят угрозу в сосредоточении разработок ИИ в нескольких странах
Группа экспертов ООН по искусственному интеллекту (ИИ) опубликовала первый доклад, в котором представлена оценка воздействия ИИ на общество и существующие риски. В нем указано, что сосредоточение потенциала и прибыли в области разработки ИИ в нескольких странах и компаниях представляет угрозу для демократии и прав человека.
Как написано в докладе, существующие меры «не справляются с развитием ИИ». Правительства стран должны инвестировать в человеческие ресурсы и разрабатывать соответствующую политику, считают эксперты ООН. Авторы также обеспокоены тем, что большинство моделей ИИ разрабатываются в США и Китае и что «существуют значительные различия даже между развитыми странами, что усугубляет неравенство». Такой подход «может привести к авторитарному правлению».
Упоминается и риск того, что ИИ может генерировать большое количество дезинформации и ложных сведений, распространяя ложные представления и приводя к социальному расколу. Эксперты затронули случаи мошенничества и сексуализированного насилия над детьми, возникшие в результате распространения поддельных изображений с использованием ИИ, и призвали к «надлежащему управлению». Темпы развития искусственного интеллекта таковы, что власти запаздывают со сбором данных и регулированием, до сих пор отсутствуют единые критерии оценки управления ИИ и нет взаимодействия между странами.
Из более чем 7 тыс. языков мира модели ИИ склонны поддерживать лишь несколько языков. Многие развивающиеся страны глобального Юга фактически исключены из процесса, и дискурс о надлежащем управлении ИИ там не продвигается.
Экспертная группа по ИИ была создана на основании резолюции Генассамблеи ООН в августе 2025 года. В ее состав входят 40 специалистов, отобранных из разных регионов.
Обеспокоенность по поводу рисков искусственного интеллекта растет по всему миру, и эксперты предлагают признать ИИ глобальным риском, сравнимым с пандемиями или ядерной войной. Эта тема активно обсуждается на международных площадках, включая ООН. Генеральный секретарь ООН Антониу Гутерриш ранее уже обращался с призывом к действиям, указывая на то, что ученые и эксперты считают ИИ экзистенциальной угрозой для человечества. Он также поддержал идею создания нового органа ООН для мониторинга и регулирования ИИ, по аналогии с МАГАТЭ.
Проблемы возникают не только на международном уровне, но и внутри отдельных стран. Например, правительство РФ планирует проверять системы ИИ на наличие угроз безопасности государства и обороны страны, а в Госдуме обсуждаются меры по защите граждан от негативных последствий использования нейросетей, включая внедрение функций родительского контроля. Тем не менее, Россия считает сферу ИИ полем противостояния с Западом, как в отношении технологических решений, так и в вопросах дезинформации.
Компании, в свою очередь, пока не обеспечивают полную прозрачность рисков, связанных с использованием ИИ, в своей ESG-отчетности. Хотя вопросы управления освещаются чаще, экологические и социальные аспекты ИИ остаются недостаточно раскрытыми. Это затрудняет оценку рисков для инвесторов и других заинтересованных сторон, поскольку отсутствуют единые стандарты отчетности.