Американский союз защиты гражданских свобод ACLU сообщил об ошибочном задержании человека на основе данных, полученных с использованием технологии по распознаванию лиц. По мнению местных СМИ, этот случай может стать первым официально задокументированным случаем ошибочного задержания с применением такой технологии полицейскими.
В январе чернокожий житель штата Мичиган по имени Роберт Уильямс был задержан во дворе собственного дома, после чего помещен в центр предварительного содержания, где провел 30 часов. По итогам расследования выяснилось, что полицейские ошибочно приняли Роберта Уильямса за человека, который совершил кражу в одном из магазинов Детройта осенью 2018 года. Тогда камеры наблюдения магазина сделали несколько снимков вора. Данные на розыск преступника были внесены в базу данных местной полиции.
После того как ошибка прояснилась, полицейское управление Детройта заявило, что технологии по распознаванию лиц «являются инструментом расследования, который определяет круг подозреваемых» и «требует дополнительных следственных действий, подтверждения улик и возможных мотивов», прежде чем произвести арест. Поставщиком этой технологии для полиции Детройта является частная компания из Южной Каролины DataWork Plus, которая использует алгоритмы обработки биометрических данных от таких высокотехнологичных компаний, как NEC, Rank One Computing и Cognitec. Сама DataWork Plus пока никак не прокомментировала инцидент с задержанием Роберта Уильямса.
Со своей стороны глава Rank One Computing Брендан Клэр заявил, что «применит законные средства, чтобы воспрепятствовать использованию нашего ПО в нарушение нашего этического кодекса, и проведет технический анализ дополнительных систем защиты, которые мы можем внедрить в наше ПО для предотвращения его неправильного использования».
В прошлом году студент из Нью-Йорка потребовал $1 млрд от Apple — система распознавания лиц приняла его за вора. Студент уверен, что во всем виновата система распознавания, которая работает в магазинах Apple. Однако компания Apple заявила, что не использует такие системы в своих магазинах. Об итогах судебного разбирательства пока не сообщалось.