Американская экспертная комиссия по искусственному интеллекту (ИИ) выпустила первый набор рекомендаций правительству, целью которых называется «победа США в соревновании вокруг искусственного интеллекта». “Ъ” изучил доклад комиссии и попытался узнать, чьим интеллектом в будущем будет прирастать Пентагон.
Фото: Reuters
Фото: Reuters
«В будущем алгоритмический способ ведения боевых действий, возможность положиться на искусственный интеллект и на ту автономность, которую он предоставляет, позволит нам обрести наиболее значительное преимущество в военной сфере»,— так бывший замминистра обороны США и нынешний заместитель председателя комиссии Боб Уорк прокомментировал важность представленного отчета во время телефонной пресс-конференции с журналистами. Он заявил, что сейчас происходит своего рода переход военной мысли «в цифровую отрасль», и теперь «каждый заинтересован в том, чтобы сделать Пентагон более похожим на компанию по разработке программного обеспечения».
Среди предложенных экспертами рекомендаций — одномоментное удвоение (до $2 млрд) расходов на не связанные с оборонными вопросами исследования в области искусственного интеллекта. Это, по словам авторов, позволит укрепить занятые в работе над ИИ лаборатории и академические центры, а также позволит заложить фундамент общих основ современного ИИ — в частности, выработать технические и этические стандарты и начать применение соответствующих технологий в сфере госуправления, а также других областях науки.
Что касается оборонного использования ИИ, авторы не отказываются от возможности призвать к наращиванию инвестиций в этой сфере, однако сначала рекомендуют изучить эффективность уже используемых денег.
На 2021 финансовый год Пентагон запросил $800 млн на разработку систем ИИ, и еще $1,7 млрд на создание автономных систем на его основе.
Господин Уорк отметил, что считает такое соотношение затрат правильным, однако советует на данный момент прежде всего сосредоточиться на невоенных исследованиях искусственного интеллекта. «Мы считаем, что это та сфера, где мы пока отстаем»,— заявил он.
Для более эффективного продвижения сферы и выделения на нее дополнительных ресурсов комиссия также предложила подчинить главу Объединенного центра искусственного интеллекта (структурное подразделение Министерства обороны США) напрямую главе Пентагона, а не главному специалисту по информационным технологиям, как сейчас. Кроме того, эксперты настаивают на создании специального трехстороннего координационного комитета, куда должны войти высокопоставленные представители Минобороны, Объединенного комитета начальника штабов и представитель офиса директора Национальной разведки, «чтобы поддерживать работу по внедрению новых технологий, которая в ином случае может не получать должного внимания».
Кроме того, в докладе содержатся рекомендации по наращиванию производства микроэлектроники, необходимой для работы ИИ, и созданию специальных ведомств в США и союзных странах, которые могли бы заняться налаживанием международного сотрудничества в этих вопросах — причем сначала в рамках альянса «Пять глаз» (участников соглашения о совместной радиоэлектронной разведке UKUS SIGINT: США, Великобритании, Канады, Австралии и Новой Зеландии), а затем в рамках НАТО. Уделено внимание и использованию искусственного интеллекта внутри страны — Министерству внутренней безопасности и ФБР дана рекомендация поделиться опытом использования ИИ с представительствами в штатах и на местном уровне и отслеживать успехи коллег в регионах.
Отдельная глава доклада посвящена этическим вопросам в использовании ИИ: авторы подчеркивают, что крайне важно, чтобы пользователи таких систем осознавали риски их использования и границы их применимости, потому информация об этом должна быть включена в каждый учебный курс о технологии ИИ. Помимо прочего, рекомендовано создать экспертный совет, который раз в год должен читать высокопоставленным чиновникам, работающим в сфере национальной безопасности, лекции о наиболее актуальных проблемах этического и ответственного использования ИИ. Еще один совет — вести четкую и подробную документацию, чтобы обеспечить прозрачность и подотчетность работы с ИИ.
Впрочем, представляя доклад журналистам, его авторы не могли не коснуться очевидной темы — коронавируса. «Мы живем в необычное время. Мы все ждем возможности помочь любым возможным способом»,— заверил участников разговора председатель комиссии Эрик Шмидт, один из бывших руководителей компании Google.