В Европейском парламенте начали рассматривать законопроект, существенно ограничивающий использование технологий по распознаванию лиц в камерах наружного наблюдения. По мере распространения таких технологий во многих странах все чаще возникают острые общественные дискуссии о законности и этичности их массового использования.
Международная выставка средств обеспечения безопасности государства «Интерполитех» (2021 год)
Фото: Александр Миридонов, Коммерсантъ
Международная выставка средств обеспечения безопасности государства «Интерполитех» (2021 год)
Фото: Александр Миридонов, Коммерсантъ
В каких странах распознавание стало массовым
В минувший четверг два комитета Европарламента — Комитет по внутреннему рынку и Комитет по гражданским свободам — одобрили проект Закона об искусственном интеллекте (AI Act) (.pdf). В числе прочего он предусматривает запрет на использование технологии распознавания лиц в камерах наружного наблюдения в общественных местах и ограничение других систем «удаленной биометрической идентификации».
Теперь в июне по нему должен проголосовать весь Европарламент, а после этого пройдут обсуждения законопроекта с Еврокомиссией и странами—членами ЕС. Ожидается, что закон будет окончательно принят в конце нынешнего или начале следующего года.
По данным специального исследования Comparitech и Datawrapper, проведенного в 100 государствах мира, в 70% стран власти и правоохранительные органы имеют тот или иной уровень доступа к данным о распознавании лиц с камер наружного наблюдения.
В соответствии с тем, насколько часто и беспрепятственно полиция использует такие технологии, исследователи выделили пять уровней такого доступа и распространения.
В первую группу стран, где уровень использования полицией технологий по распознаванию лиц является максимальным — исследователи определяют его как «чрезмерный/назойливый/агрессивный»,— входят Китай, Япония, Аргентина, Россия и Белоруссия.
В страны с высоким уровнем использования включены Иран, Индия, Мьянма, Узбекистан, ОАЭ, Франция, Италия, Греция, Нидерланды, Канада, Мексика, Боливия, Чили и Эквадор.
Средний уровень зафиксирован в таких странах, как США, Германия, Великобритания, Украина, Швеция, Польша, Сербия, Румыния, Турция, Бразилия, Перу, Колумбия, Венесуэла, Казахстан, Пакистан, Ирак, Таиланд, Индонезия. Среди стран, где такие технологии пока находятся в стадии тестов и поэтому ограничены в применении законодательно, указана только Испания.
В последнюю группу стран, где использование полицией таких технологий запрещено либо об использовании нет данных, входят в основном страны Африки, Папуа—Новая Гвинея, Куба, Афганистан, Сирия, Камбоджа. Исследователи полагают, что это связано с тем, что у властей этих стран попросту нет средств для закупки такого количества камер наблюдения, которое делало бы возможным эффективное применение технологий для распознавания лиц.
США: сначала запрещали, теперь снимают ограничения
Еще в июне 2021 года в Конгресс США был внесен проект федерального закона о моратории на использование технологий сбора биометрических данных и распознавания лиц. В законопроекте предлагается ввести временное ограничение на использование систем слежения с применением биометрических технологий федеральными и региональными ведомствами до разработки полноценного федерального закона о регулировании использования таких технологий. И пока в США нет единого федерального закона, местные законодательные органы ряда штатов начали сами регулировать использование таких технологий, в основном для правоохранительных органов.
Одним из первых в США запрет на использование полицией распознавания лиц камерами наружного наблюдения ввел в 2020 году городской совет Нового Орлеана.
Во многом это было вызвано протестами афроамериканцев, возмущенных чрезмерным применением силы полицией после гибели в мае 2020 года чернокожего Флойда Джорджа во время задержания.
Однако через два года городской совет Нового Орлеана смягчил запрет, дав местной полиции право затребовать у суда право на использование ПО для распознавания лиц при расследовании преступлений насильственного характера. Смягчить запрет власти были вынуждены из-за роста преступности в условиях пандемии COVID-19.
Камеры слежения, установленные возле одной из мечетей в Бруклине (Нью-Йорк)
Фото: Bebeto Matthews / AP
Камеры слежения, установленные возле одной из мечетей в Бруклине (Нью-Йорк)
Фото: Bebeto Matthews / AP
Похожая ситуация произошла в штатах Вирджиния и Калифорния. В Вирджинии местные законодатели в марте 2021 года запретили использование полицией данных о распознавании лиц и закупку соответствующего оборудования. Но менее чем через год, в феврале 2022 года, сняли полный запрет, разрешив полиции использовать данные при определенных обстоятельствах: при поиске пострадавших; лиц, объявленных в розыск; или для идентификации неопознанных трупов.
В сентябре 2019 года Законодательное собрание Калифорнии запретило на три года использование распознавания лиц на нагрудных камерах патрульных полицейских. В сентябре 2022 года срок запрета истек, а в апреле этого года Комитет по защите данных Законодательного собрания Калифорнии одобрил законопроект, регулирующий использование полицией технологий для распознавания лиц. В числе ограничений значатся такие меры, как обязательное удаление через шесть месяцев после записи изображений несовершеннолетних; изображений лиц, которым не были предъявлены обвинения; а также тех, с которых были сняты обвинения. Кроме того, каждое правоохранительное ведомство штата, использующее такие технологии, должно создать внутренние регламенты механизма использования, предоставить эти регламенты в Управление аудита штата Калифорния и при необходимости отчитываться перед ним о соблюдении этих регламентов.
Впрочем, законопроект вызвал острую критику местных правозащитников и ряда политиков. Они упомянули исследование Национального института стандартов и технологий от 2019 года, в котором говорилось, что имеющиеся технологии распознавания лиц весьма несовершенны: частота ошибок при распознавании лиц у граждан африканского и азиатского происхождения намного выше, чем при распознавании лиц у граждан европейского происхождения. Кроме того, правозащитники заявили, что в законопроекте недостаточно четко прописаны случаи использования технологии, что может привести к злоупотреблению властью полицейскими или нарушению ими прав человека.
Великобритания: начали использовать, но боятся Большого брата
На стадии бурного общественного обсуждения ситуация с использованием полицией биометрических данных с камер наружного наблюдения находится и в Великобритании. В апреле стало известно, что британская полиция намерена начать использование технологий по распознаванию лиц в режиме реального времени. Полиция приводит данные опубликованного в марте двухлетнего исследования Национальной физической лаборатории. В нем говорится, что имеющиеся сейчас у полиции технологии позволяют получать достоверные данные в 89% случаев, тогда как однозначные ошибки были зафиксированы лишь в 0,02% случаев.
Британские правозащитники протестуют против использования полицией камер с функцией распознавания лиц (Лондон)
Фото: Kelvin Chan / AP
Британские правозащитники протестуют против использования полицией камер с функцией распознавания лиц (Лондон)
Фото: Kelvin Chan / AP
Эти планы вызвали протесты британских правозащитников, политиков и юристов. «Приводимый полицией доклад признает, что распознавание лиц в режиме реального времени имеет ряд недостатков, в том числе более высокий уровень ошибок в отношении лиц людей разных рас и полов. Но даже признавая наличие предвзятости по расовому и половому признаку, в докладе говорится, что полиция может менять в ПО установки для снижения уровня ошибок. Учитывая многие уже имеющиеся факты расизма и сексизма в самой полиции, у правоохранительных органов не должно быть полномочий для самостоятельного внесения изменения в механизмы использования таких дискриминационных технологий»,— заявила директор по юридическим вопросам правозащитной организации Big Brother Watch Мадлен Стоун.
Лидер фракции Партии зеленых в Лондонской городской ассамблее Каролин Рассел заявила, что «все лондонцы, особенно представители сообществ, которые и без того подвергаются чрезмерному полицейскому контролю, захотят большей прозрачности в вопросе применения таких технологий».
По словам Рассел, люди хотят знать, как именно полиция принимает решение о составлении баз данных лиц, подлежащих отслеживанию по камерам, и будут ли туда попадать, например, родственники и знакомые тех, кто находится в розыске.
«У правительства пока нет единых норм, регулирующих использование технологий по распознаванию лиц, поэтому полиция не должна начинать их применение, как бы ни были эти технологии развиты. Пока мы не решим вопросы этического и юридического характера, мы не можем подвергать риску гражданские свободы жителей Лондона»,— отметила депутат.
Бразилия: внедрили в большинстве штатов и теперь ограничивают
Одним из ярких примеров общественной дискуссии об использовании технологии по распознаванию лиц среди развивающихся стран является Бразилия. В настоящий момент такие технологии работают в 21 из 27 штатов страны. Однако развертывание таких сетей сталкивается с острой критикой правозащитников и технологических экспертов, которые считают, что массовое распространение таких технологий и бесконтрольное использование данных полицией может стать причиной для злоупотребления и дискриминации.
По данным исследовательской компании Panoptico, 90% арестованных с 2019 года при помощи камер людей оказались чернокожими. «Будучи средством массовой слежки, распознавание лиц стало примером технологии, которая со временем распадается, как лоскутное одеяло, оказавшись не в состоянии исполнить задачи, которые изначально на нее возлагались,— отмечает представитель подразделения Amnesty International по технологическим исследованиям Amnesty Tech Мэтт Махмуди.— Все это подрывает базовые права человека».
Полиция Рио-де-Жанейро проводит операцию против преступников в одной из городских фавел
Фото: Alexandre Loureiro / Reuters
Полиция Рио-де-Жанейро проводит операцию против преступников в одной из городских фавел
Фото: Alexandre Loureiro / Reuters
Местный координатор Panoptico Пабло Нуньеш полагает, что многие граждане даже не знают, что камеры следят за каждым их шагом, идентифицируя их. «У нас нет достоверных данных о том, что такие камеры влияют на снижение уровня преступности,— отмечает господин Нуньеш.— При этом сама полиция не раз заявляла, что хочет использовать такие камеры, чтобы помочь защищать офицеров полиции от судебных исков против них».
Протесты бразильских правозащитников и экспертов уже привели к тому, что в мае 2021 года суд Сан-Паулу запретил использовать технологии распознавания лиц в метрополитене этого города.
А в июне 2022 года более 50 депутатов из законодательных собраний 13 штатов запустили совместную инициативу, призывающую к запрету использования в общественных местах технологий по распознаванию лиц.
Уникальностью этой инициативы является то, что она объединила представителей разных политических партий страны.
«Этот призыв объединил сразу несколько партий. Глядя на то, как развивается ситуация, стало более чем очевидно, что в разных муниципалитетах и штатах страны эти технологии используются очень по-разному. Более того, мы выяснили, что в ряде случаев городские власти начинают использовать такие технологии без каких-либо общественных обсуждений, что приводит к отторжению таких технологий со стороны гражданского общества и общественных движений»,— отмечает представитель поддержавшего инициативу депутатов правозащитного движения Coding Rights Жордана Алмейда.