Искусственным интеллектом (AI) восхищаются, искусственного интеллекта боятся. Но ограничиваются эти страхи, как правило, вариантами двух сценариев: научно-фантастического и социально-экономического. В первом все плохо, потому что превзошедший человека интеллектуально на несколько порядков AI решает либо вообще избавиться от человечества, либо обустроить нашу жизнь очень неприятным для нас образом — например, как мы обустраиваем короткую и несчастливую жизнь бройлеров на птицефабрике. Во втором AI звезд с неба не хватает, остается под контролем людей, но позволяет так лихо автоматизировать производство и оптимизировать бизнес, избавившись от 95% белковых работников, что опять-таки все плохо. По крайней мере — у этих 95%.
Фото: Дмитрий Коротаев, Коммерсантъ / купить фото
Третий сценарий
Повсеместное внедрение любой технологии, оказывающей такой впечатляющий эффект на бизнес, неизбежно. Более того, компании будут буквально наперегонки стараться собрать максимальный объем данных о клиентах, скормить их алгоритмам и сделать так, чтобы инновационный «зрелый» маркетинг дотянулся до всех, кого можно подтолкнуть расстаться с деньгами. В противном случае конкуренты вырвутся вперед, а акционеры найдут более динамично мыслящих топ-менеджеров.
«Люди с радостью готовы отдать свое самое ценное — персональные данные — в обмен на бесплатный сервис электронной почты или смешные видео с котиками. Немного напоминает то, как африканские и американские племена, не осознавая того, продавали европейцам целые страны в обмен на разноцветные бусы и дешевые безделушки» — так автор бестселлера Sapiens Юваль Ной Харари описывает в своей новой книге «21 урок для XXI века» ключевую транзакцию, лежащую в основе современного цифрового капитализма.
В интервью Wired и многих других публикациях Харари предупреждает: знания об устройстве человеческого сознания и технологии интерпретации генерируемых нами в повседневной жизни данных уже достигли или вот-вот достигнут важного рубежа. А именно: бизнес или государство сможет понять нас, наши желания, мотивацию, чувства и переживания лучше, чем мы понимаем их сами. Манипулирование большими группами людей существовало с момента зарождения цивилизации, но теперь глобальная сеть и алгоритмы машинного обучения могут вывести эффективность такого манипулирования на принципиально новый уровень. Особенно легко будет это сделать, если мы не начнем ставить под вопрос нашу уверенность, что все решения принимаем сами.
Предложение, от которого нельзя отказаться
Образцово-показательный пример бизнеса, превращающего данные и алгоритмы в топливо для роста,— Amazon, которая уже несколько месяцев с переменным успехом бьется с Apple и Microsoft за титул самого дорогого бизнеса в мире. Компания Джеффа Безоса за четверть века выросла из скромного онлайн-магазина книг в огромный онлайн-рынок, крупнейшего поставщика облачных услуг и лидера рынка «умных» домашних устройств.
Серверы Amazon Web Services выполняют 40% всех облачных вычислений для мирового бизнеса, а микрофоны 100 млн смарт-колонок Amazon Echo внимательно слушают, что происходит в домах их владельцев. Компания активно строит экосистему «умного» дома, в последние 12 месяцев дополнив ее «умными» дверными звонками Ring: они облегчат доставку посылок, когда клиентов нет дома, а также роутерами Eero.
Зачем Безосу роутеры? Чтобы сделать экосистему более завершенной, но, возможно, не только для этого. Роутер знает, стоит он в богатом доме или победнее — об этом расскажут модели подключающихся устройств. А если изучить историю просмотров в интернете пользователей, не составит труда узнать их лучше, чем они знают себя сами, и хакнуть их мозг, нежно навязав ненужные (или выгодные Amazon) покупки. Корпорация получит в руки данные, не сильно уступающие по ценности тому цифровому золоту, которое Google намывает из наших поисковых запросов и кликов.
Зная все о предпочтениях клиентов в покупках и просматриваемых ими сайтах, ритейлер сможет постоянно делать им предложения, от которых они и не подумают отказываться. Предложенное покажется внезапным откровением, простым и понятным ответом на чаяния, которые человек сам толком не осознавал. Чтобы дотянуться до маячащего перед носом счастья, останется сущий пустяк — в пару кликов расстаться с деньгами.
Мы новый мир построим
Недавно выяснилось, что похожие варианты развития цифровой экономики (да что там — цивилизации в целом) рассматривают и в Google. Весной 2018-го журналисты обнаружили ролик (легко найти в YouTube по запросу «selfish ledger»), сделанный в корпорации несколькими годами ранее и, по утверждению авторов, представляющий собой не более чем мысленный эксперимент. Тема ролика крайне волнующая, особенно в связи с одной из крупнейших мировых корпораций. С корпорацией, которой миллиарды людей ежемесячно, сами того не зная, передают около гигабайта данных (цифра всплывала в судебном разбирательстве поисковика с Oracle).
В видео выдуманное приложение «Google Намерения» помогает выбрать цели («полноценно питаться», «беречь природу», «поддерживать местный бизнес»), а потом подталкивает действовать в русле этого приоритета. Как именно, кого и когда подталкивать, решает некий «реестр», руководствующийся результатами анализа больших данных и чем-то крайне неопределенным, названным в ролике «ценности Google как организации».
Чтобы быть всемогущим, «реестру» нужны данные о подопечных, чем больше — тем лучше. И в ролике ему дают возможность придумывать новые способы их собирать, например, создать именно такие «умные» весы, которыми большинство потребителей захотят и будут регулярно пользоваться, информируя реестр о своем весе. Цель у этого всего самая благородная: максимально тщательно проанализировать человека как вид и помочь людям решить самые разные проблемы — от депрессии до бедности.
Антиутопия это или утопия — зависит от точки зрения и отношения пользователя к «ценностям Google (Amazon, Apple, Компартии Китая, Русской православной церкви — нужное подчеркнуть) как организации». Но вне зависимости от ценностей будет очень страшно, если такой уже почти ставший реальностью инструмент попадет в руки людей, руководствующихся сильно упрощенными и поэтому очень опасными взглядами на мир.
Что делать?
Не будет ли нам всем в итоге лучше под опекой внимательного и мудрого искусственного интеллекта? Ведь можно настроить управляющий обществом алгоритм на целевые значения, соответствующие очевидным ориентирам человеческого благополучия. Счастье алгоритм вряд ли подарит, но вот уменьшить совокупность страданий в мире ему точно по плечу.
Красивая мечта, но пока что главная цель всех существующих алгоритмов такого рода — зарабатывать больше и быстрее. Для ритейлеров искусственный интеллект решит задачу максимизации прибыли, не заботясь о том, подталкивает он потребителей к покупке свежих овощей и фруктов или состоящих из простых углеводов, жиров и вкусоароматических добавок снэков, которые язык не повернётся назвать едой. Есть подозрение, что на снэках, сладостях и полуфабрикатах норма прибыли гораздо выше, соблазнить человека такой покупкой проще — в эту сторону и будет работать алгоритм. Когда алгоритм поймет, что с убежденными сторонниками ЗОЖ типовая схема пробуксовывает, им предложат втридорога чипсы из водорослей с семенами чиа, и цель будет достигнута.
То же и в политике, какими бы прозрачными и демократичными ни были механизмы выборов. Неважно, кто именно будет президентом. Важно, какая из групп влияния сможет более эффективно использовать алгоритмы соцсетей, чтобы, умело манипулируя информацией, вызвать нужные эмоции у наиболее подверженных влиянию избирателей. Причем именно эти избиратели, как правило, твёрже всего уверены, что их эмоциональное решение голосовать за откровенно лживого и бездарного кандидата — на самом деле осознанный и единственно правильный выбор.
В этом «светлом будущем», которое вот-вот наступит, стоит каждую минуту помнить: на ваш мозг нацелен суперкомпьютер, задача которого обыграть вас, заставив действовать в чужих интересах. И шансов выиграть у AI гораздо больше, чем у человека.
Осознавать власть алгоритмов лучше, чем пребывать в неведении, но человек не сможет постоянно обыгрывать AI, даже замечая все невидимые нити, тянущиеся с экрана смартфона к разным участкам его мозга. Алгоритмы воздействия полагаются на нейронные цепи, которые эволюция создала на десятки, а то и сотни миллионов лет раньше, чем рациональное мышление Homo sapiens. Так что осознание того, что человека можно «взломать»,— лишь первый шаг.
По мнению Юваля Ноя Харари, быть на один шаг впереди тех, кто воплощает в реальность гегемонию алгоритмов, поможет медитация. А не дать им преобразовать мир в угоду своим интересам позволит активное участие в политических процессах в составе коллектива единомышленников (потому что так эффективнее, чем в одиночку) и поддержка тех политиков, которые осознают угрозу.