САС не догонят

На минувшей неделе комитет Генеральной ассамблеи ООН впервые принял проект резолюции по так называемым смертоносным автономным системам вооружений, или, как их еще называют, роботам-убийцам. В документе, получившем поддержку 164 государств, говорится, что международному сообществу «настоятельно необходимо» заняться решением «проблем и вызывающих обеспокоенность вопросов», возникающих в связи с появлением таких вооружений. Против документа выступили пять стран, включая Россию.

Проект резолюции (.pdf) по смертоносным автономным системам вооружений (САС) на рассмотрение Первого комитета Генассамблеи ООН представила Австрия. Соавторами документа выступили еще 43 страны, включая близкого союзника России — Казахстан.

В проекте резолюции говорится о «серьезных проблемах и вызывающих обеспокоенность вопросах, возникающих в связи с новыми технологическими разработками в военной сфере, в том числе связанных с искусственным интеллектом и автономностью систем вооружений, также с гуманитарной, юридической, технической и этической точек зрения и с точки зрения безопасности».

Его авторы обеспокоены «возможными отрицательными последствиями и влиянием автономных систем вооружений на глобальную безопасность и региональную и международную стабильность, включая угрозу возникновения гонки вооружений, снижения порога для начала конфликта и распространения в том числе среди негосударственных субъектов». По их мнению, международному сообществу «настоятельно необходимо заниматься… решением проблем и вызывающих обеспокоенность вопросов, возникающих в связи с автономными системами вооружений».

Составители документа призывают генерального секретаря ООН запросить у государств их мнение по поводу угроз и проблем, связанных с САС, с тем чтобы следующей осенью представить Генассамблее сводный доклад на эту тему. В приложении к этому докладу предлагается отразить мнения международных и региональных организаций, Международного комитета Красного Креста, гражданского общества, научного сообщества и отраслевых структур.

Вся Генассамблея ООН рассмотрит документ в декабре, но по опыту прошлых лет можно сказать, что голосование в комитете обычно совпадает с общим голосованием и с большой долей вероятности документ будет поддержан абсолютным большинством стран—членов ООН.

Перспективы САС дипломаты начали предметно обсуждать на площадке ООН в 2017 году (неформально дискуссии по этой тематике начались за несколько лет до этого). В качестве дискуссионной площадки был выбран формат Конвенции по негуманному оружию. Именно в ее рамках в свое время рождались запреты кассетных боеприпасов, напалма, ослепляющих лазеров и противопехотных мин. С инициативой запретить и полностью автоматизированные системы вооружений выступили несколько государств, а также международных неправительственных организаций. Наиболее решительно настроенные из них настаивают на принятии юридически обязывающего международного договора, который как минимум требовал бы от государств обеспечивать сохранение должного человеческого контроля над машинами, с тем чтобы роботы-убийцы не могли абсолютно самостоятельно выбирать цели и атаковать их. Ряд других стран (среди которых и Россия) считают разработку новой конвенции излишним шагом, настаивая на том, что существующих международных правовых инструментов достаточно для регулирования вооружений с элементами автономности и искусственного интеллекта.

Для предметного обсуждения этой темы была создана Группа правительственных экспертов по вопросам, касающимся новых технологий в сфере создания смертоносных автономных систем вооружений (ГПЭ). В 2019 году она выпустила 11 «руководящих принципов», учитывающих в том числе и важность сохранения контроля человека над такими системами и его ответственность за их действия. О разработке конвенции, однако, речь не идет. Документы ГПЭ носят рекомендательный характер.

При этом многие страны до сих пор по-разному трактуют понятие САС. В самом общем смысле речь идет об «оружии, способном поражать цели на земле, в воздухе, на воде и под водой без участия человека». Но при более детальном подходе выявляются существенные расхождения. Россия, к примеру, предлагает ограничиваться полностью автономными системами, под которыми она понимает «безэкипажные технические средства, не являющиеся боеприпасами и предназначенные для выполнения боевых и обеспечивающих задач без какого-либо участия оператора». Беспилотники она в этом контексте обсуждать не готова, считая их «частным случаем высокоавтоматизированных систем», не относящихся к САС, в то время как ряд других стран считают, что ударные дроны непременно должны рассматриваться в рамках этой тематики.

«Ъ» обратился в МИД РФ с просьбой пояснить, почему Россия проголосовала против проекта резолюции по САС в Первом комитете. В департаменте информации и печати министерства ответили, что это решение «обусловлено рядом причин».

«Считаем, что указанный документ не способствует эффективному функционированию созданной в рамках Конвенции о "негуманном" оружии профильной Группы правительственных экспертов, которая выступает единым международным форумом для рассмотрения тематики САС, и направлен на подрыв деятельности данной группы,— заявили в МИДе.— Свидетельством тому является нежелание авторов проекта резолюции, несмотря на настойчивые призывы целого ряда государств, отразить должным образом в тексте результаты плодотворной работы ГПЭ по САС — например, упомянуть одобренные консенсусом в 2019 году одиннадцать руководящих принципов в отношении таких систем вооружений».

Отметим, что в проекте резолюции Группа правительственных экспертов упоминается дважды (хоть и действительно без ссылок на выработанные ею рекомендации).

«Проект резолюции носит весьма несбалансированный характер. В нем однобоко выпячиваются лишь гуманитарные и правочеловеческие аспекты применительно к САС. При этом авторы проигнорировали возможность использования указанных систем вооружений для обеспечения законных оборонных интересов государств»,— заявили далее в МИД РФ.

«Помимо своих технологических преимуществ такие вооружения зачастую нивелируют риски, обусловленные человеческим фактором. В ГПЭ по САС мы представили убедительные доводы в пользу того, что данные средства играют важную роль при решении задач обороны, борьбы с террористической угрозой, минной опасностью и так далее»,— отметили в министерстве.

При этом там подтвердили «приверженность сохранению контроля человека над любой техникой, в том числе для обеспечения выполнения действующих норм международного права».

Не устроило Россию и то, что проект резолюции содержит ссылки на документы, в подготовке и принятии которых она не принимала участия (речь, например, о «профильной» резолюции Совета ООН по правам человека), а также на мероприятия, куда наша страна даже не была приглашена. «Считаем любые достигнутые в рамках данных структур и встреч понимания ничтожными и не связывающими Россию никакими обязательствами»,— подчеркнули в МИД РФ.

В ведомстве добавили, что Россия рассматривает Группу правительственных экспертов «в качестве единственной оптимальной площадки для консолидированного обсуждения всех вопросов, связанных с данными системами вооружений» и готова «продолжить в конструктивном ключе рассмотрение модальностей применения существующих норм и принципов международного гуманитарного права к данным средствам» в рамках этого механизма. По мнению российской стороны, группа «эффективно выдерживает разумный баланс между гуманитарными озабоченностями и законными оборонными интересами стран в отношении соответствующих систем вооружений».

«Убеждены: международное право, в том числе международное гуманитарное право, полностью применимо к САС и не нуждается в модернизации или адаптации в связи с их спецификой. Не видим оснований для переговоров по международному юридически обязывающему инструменту в отношении САС, а также для введения моратория на разработку и использование таких систем и применяемых для их создания технологий»,— заключили в МИДе.

Сторонники же запрета САС горячо приветствовали результаты голосования в Первом комитете Генассамблеи. «После десяти лет международных дискуссий и в условиях стремительного технологического развития принятие этой резолюции является шагом вперед, освещающим путь к созданию правовых рамок для обеспечения реального контроля человека за применением силы,— заявила представитель глобальной кампании "Остановите роботов-убийц" (Stop Killer Robots) Изабэль Джонс.— Хотя она еще не призывает к переговорам (по выработке новой конвенции.— “Ъ”), эта резолюция сигнализирует о необходимости принятия срочных политических мер для защиты от серьезных рисков, создаваемых автономными системами вооружений». В организации итоги голосования назвали «историческим моментом», выразив надежду, что в декабре этот результат удастся повторить.