Американская газета The New York Times опубликовала открытое письмо, подписанное более 3 тыс. работников Google. В нем сотрудники призвали руководство корпорации отказаться от сотрудничества с Министерством обороны США по проекту «Специалист», предусматривающему использование искусственного интеллекта и навыков машинного обучения для обработки визуальной информации с беспилотников. “Ъ” перевел текст обращения.
Дорогой Сандар,
Мы считаем, что Google не должен заниматься военным бизнесом. Поэтому мы просим, чтобы проект «Специалист» был прекращен и чтобы Google изложил, предал гласности и начал исполнять прозрачную политику, заявляя, что ни Google, ни его подрядчики никогда не будут заниматься разработкой военных технологий.
Google занимается проектом «Специалист», кастомизированной программой слежения с использованием ИИ, которая использует данные широкозонного видеонаблюдения, собранные беспилотниками правительства США для выявления средств передвижения и других объектов, слежения за ними и передачи результатов Министерству обороны.
Недавно гугловцы выразили озабоченность по поводу «Специалиста» внутри компании. Дайана Грин ответила им, заверив, что технологии не будут «оперировать беспилотниками или управлять их полетами» и не будут «использоваться для запуска средств поражения». При том, что это исключает узкий список непосредственного применения, технология создается для военных, и после ее передачи (заказчику.— “Ъ”) может легко использоваться в помощь этим задачам.
Этот план нанесет невосполнимый ущерб бренду Google и его возможности бороться за талантливых сотрудников. На фоне растущих страхов по поводу пристрастности и применения ИИ в военных целях Google уже борется за сохранение общественного доверия. Заключая этот контракт, Google вступает в ряды таких компаний, как Palantir, Raytheon и General Dynamics. Тот аргумент, что другие фирмы, такие как Microsoft и Amazon, тоже участвуют, не делает ситуацию менее рискованной для Google. Уникальная история Google, его девиз «Не будь злом» и его непосредственное проникновение в жизни миллиардов пользователей выделяют его из других.
Мы не можем передать моральную ответственность за наши технологии третьим сторонам. Заявленные ценности Google делают это очевидным: «Каждый из наших пользователей доверяет нам. Никогда не ставьте это под удар. Никогда». Этот контракт ставит репутацию Google под удар и находится в прямом противоречии с нашими базовыми ценностями. Создание технологии, помогающей правительству США осуществлять военную разведку,— с потенциально смертельным исходом — неприемлемо.
Признавая моральную и этическую ответственность Google и угрозу репутации Google, мы просим вас:
1. Немедленно прекратить проект.
2. Выработать, предать гласности и применить на практике политику, четко заявляющую, что ни Google, ни его подрядчики не будут заниматься разработкой военных технологий.