Нейронку в Google Earth отключили из-за фейковых карт с последствиями терактов
Google отключил ИИ-генератор карт Nano Banana спустя сутки после запуска
Сайт Google Earth 30 июля запустил функцию по модификации изображений, в том числе карт, с помощью искусственного интеллекта (ИИ). Однако уже 1 августа дня пресс-служба компании сообщила, что функцию решили отключить из-за того, что пользователи создавали изображения «с нарушением правил».
Технология под названием Google Nano Banana 2 позволяет за секунды создавать изображения на основе картографических и спутниковых данных, в том числе в формате 3D, а также аэрофотоснимков. В Google назвали это способом «визуализировать историю», также при помощи этой функции можно было разрабатывать жилые проекты.
Однако пользователи с помощью новой функции стали генерировать спутниковые снимки, «которые могли иметь серьезные глобальные последствия», пишет AFP. Среди прочих были сгенерированы изображения взрыва в Париже, воронки от бомбы в России, тренировочного полигона террористов в Сирии. На карте Нью-Йорка появилось изображение самолета, врезающегося в небоскреб. В египетской Гизе «провалилась под землю» пирамида. Также на картах появились, например, «толпы бегущих от террористов людей» и «горящие в море авианосцы».
«К сожалению, мы видели, как люди делятся скриншотами сгенерированных изображений, которые нарушают наши правила. Поэтому мы отключили эту функцию... и работаем над внедрением более строгих мер защиты»,— сообщила пресс-служба Google Earth в X.
В целом, эксперты ООН указывают на угрозу для демократии и прав человека в связи с сосредоточением потенциала и прибыли в области разработки искусственного интеллекта в нескольких странах и компаниях. Отмечается, что существующие меры не справляются с развитием ИИ, и правительствам необходимо инвестировать в человеческие ресурсы и разрабатывать соответствующую политику. Особую обеспокоенность вызывает риск генерации большого количества дезинформации и ложных сведений, распространения ложных представлений и мошенничества, а также случаи сексуализированного насилия над детьми с использованием поддельных изображений, созданных ИИ.
Компании, в том числе Google, сталкиваются с дилеммой: активно внедрять ИИ, несмотря на риски, или же медлить и уступать конкурентам. Так, генеральный директор Google Сундар Пичаи признавал, что бурный рост инвестиций в искусственный интеллект может привести к образованию «пузыря», крах которого затронет все компании. Между тем, ранее Google уже удаляла из своих принципов обещание избегать использования ИИ в потенциально опасных для человека приложениях.
Проблема сгенерированных изображений, подобных тем, что стали причиной отключения функции в Google Earth, не нова. Искусственно созданный контент, вводящий в заблуждение (т.н. дипфейки), упоминается как один из вариантов применения ИИ, который может иметь серьёзные последствия для мира и стабильности. Злонамеренное использование систем ИИ террористическими или преступными организациями может привести к разрушениям ужасающих масштабов. В связи с этим в разных странах уже принимаются руководства по использованию инструментов генеративного ИИ, направленные на снижение рисков.
Кроме того, использование ИИ порождает вопросы технической надежности, конфиденциальности и защиты данных, клеветы, нанесения ущерба репутации, а также нарушения авторских прав. В финансовой сфере, например, ошибки ИИ могут стоить дорого и приводить к банкротствам. Эксперты призывают к осторожному применению алгоритмов, особенно когда компания занимает монопольное положение на рынке, чтобы не допустить дискриминации пользователей.