4 декабря президент России Владимир Путин вместе с президентом Казахстана Касым-Жомартом Токаевым принял участие в конференции Al Journey 2020, посвященной искусственному интеллекту. Специальный корреспондент “Ъ” Андрей Колесников наблюдал за тем, кто кого ставил на место и причем тут интуиция, а затем пришел к выводу, что на такие темы Владимир Путин еще никогда в своей жизни не рассуждал, по крайней мере публично.
Владимир Путин и Герман Греф вышли к людям из Ново-Огарево
Фото: Пресс-служба Президента РФ
Владимир Путин и Герман Греф вышли к людям из Ново-Огарево
Фото: Пресс-служба Президента РФ
Организатором конференции стал «Сбер», а модератором дискуссии, которая в конце концов, можно уверенно сказать, даже и развернулась,— глава «Сбера» Герман Греф. По его словам, которым хотелось бы верить, в конференции участвовали 28 тыс. человек из 90 стран.
Участие Владимира Путина планировалось с самого начала, а вот появление в этом хрупком эфире президента Казахстана стало сюрпризом. Похоже, господина Токаева активировал для участия в мероприятии сам Герман Греф во время своего недавнего визита в Казахстан. Впрочем, судя по тому, с каким чувством президент Казахстана начал рассуждать на предложенные темы, они его и правда беспокоят.
Кроме того, в дискуссии участвовала студия кибербезопасности «Сбера» (есть у Германа Грефа и такое; и не оттуда ли звонят отдельным доверчивым клиентам люди, в арсенале которых 400 сравнительно честных способов отъема денег у населения?.. Ну по крайней мере, представляются, что примерно оттуда…).
Кроме того, в дискуссии принимала участие виртуальный ассистент «Сбера» Афина (спасибо, что не Олег).
— Она,— признался Герман Греф,— говорит голосом телеведущей Анастасии Чернобровиной и будет анализировать взаимодействие с нашими уважаемыми участниками, и будет давать нам некоторую аналитику, может быть, иногда даже вступать в дискуссию с вопросами.
Так, может, проще было сказать, что в дискуссии также принимает участие Анастасия Чернобровина (спасибо, что не Олег)?
Они не мешкая начали с главных вопросов бытия: человек для машины или машина для человека?
— Владимир Владимирович, искусственный интеллект сегодня все называют главной технологией XXI века,— рассказал Герман Греф Владимиру Путину то, чего еще тот, может, не знал.— Одни говорят, что это новые возможности, которые поменяют качество жизни человека, образования, медицины, позволят радикальным образом повысить производительность труда практически во всех отраслях экономики. С другой стороны, люди (не все. — А. К.) говорят о том, что это технология, которая приведет к тому, что люди начнут терять рабочие места, что каждый наш шаг будут контролировать машины и вообще возможно в конечном итоге фантастическое восстание машин. Как вы считаете, искусственный интеллект — это скорее друг или враг?
— Возможно ли восстание машин? — переспросил президент России.— Когда мы говорим не просто об искусственном интеллекте, а когда мы говорим о сильном интеллекте, имеется в виду, что машины будут самообучаться. Вы сказали, что есть опасения, что они будут контролировать людей. Но люди будут контролировать эти машины. Это первое.
Уверенность Владимира Путина граничила с самоуверенностью.
А ведь за счет этого машины когда-нибудь и победят.
Затем президент России пояснил, что на интернет должны «распространяться все те же правила, которые применяются и применялись до сих пор, имею в виду прежде всего нормативную базу и моральные и этические нормы, которые все человечество выработало на протяжении тысячелетий. (То есть Telegram-каналы, например, не должны быть анонимными. А за содеянное в YouTube следует отвечать по УК РФ.— А. К.) То же самое касается и искусственного интеллекта».
Тут выяснилось, что Владимир Путин отвечал не по плану, во всяком случае не по плану Германа Грефа, а просто реагировал. Во всяком случае, только после этих слов Владимира Путина Герман Греф предоставил слово Владимиру Путину.
И президент России повторил, уже с меньшим энтузиазмом, поскольку следовал тексту своей речи, что «искусственный интеллект никогда не заменит человека… Человек должен в конечном итоге контролировать эти машины».
Если сможет, конечно.
Между тем, похвалив Германа Грефа за создание экосистемы «Сбера», Владимир Путин неожиданно постарался пресечь (то есть пресек) красивые разговоры о том, что «Сбер» — это уже и не банк, а нечто иное, более глобальное (и даже слово «банк» из названия, как известно, вышибли мощнейшим пиар-ударом):
— Герман Оскарович, просил бы вас не забывать, что банк был создан еще в 1841 году,— напомнил господин Путин.— Создатели банка, сберкасс тогда, конечно, не могли даже в самых смелых фантазиях представить, что такое возможно. Но все-таки нужно не забывать, что «Сбер» хоть и экосистема, но это банк в первую очередь, и требования Центрального банка к финансовому учреждению должны соблюдаться.
Ну вот, теперь опять надо логотип возвращать.
В какой-то момент Владимир Путин ушел в свою любимую тему, то есть с головой окунулся в «Сириус», и не без умысла, как выяснилось:
— Впервые, в соответствии с новыми положениями Конституции России, здесь будет создана федеральная территория. Ее сердцем, местом притяжения талантливой молодежи станет центр «Сириус», в котором, насколько мне известно, «Сбер» тоже готов, я вас просил об этом, знаю, что Вы готовы здесь тоже запустить конкретные проекты.
— Да,— подтвердил, конечно, Герман Греф.
— Сделаем это? — переспросил, тепло улыбнувшись, президент.
— Абсолютно! — заверил Герман Греф, тоже тепло улыбнувшись.
А потому что не греф… ой, не грех было подтвердить на всякий случай на людях. Все же вручную, все вручную, тем более для «Сириуса»…
Президенты России и Казахстана еще некоторое время рассуждали о необходимости развития контролируемого искусственного интеллекта, пока Касым-Жомарт Токаев не констатировал:
— Как говорил Никита Сергеевич Хрущев,— неожиданно процитировал президент Казахстана первого секретаря ЦК КПСС,— задачи определены, цели понятны — за работу, товарищи!
Теперь значит, товарищи, навалимся на искусственный интеллект.
Андрей Башков, врач, который разрабатывал одну из моделей искусственного интеллекта, спросил у президентов:
— Благодаря СМИ ну буквально все в нашей стране знают про компьютерную томографию легких,— с оттенком неодобрения произнес доктор.— Ну и действительно, это инструмент, который позволяет поставить диагноз ковидной пневмонии и определить объем поражения легких. Но при интенсивном поступлении пациентов обработка изображения становится непростой задачей…
В общем, доктор участвовал в оцифровке этой работы, гордится этим и спрашивает:
— Владимир Владимирович, вот если бы вы были пациентом…
Господин Путин вздрогнул и посмотрел в экран компьютера на смелого доктора, так легко и даже беззаботно предположившего, что российский президент может стать пациентом.
— Вы бы не отказались,— невозмутимо продолжил доктор,— если бы в постановке диагноза мы в том числе использовали бы возможности искусственного интеллекта?
— Любой пациент,— помедлив, ответил президент,— заинтересован как раз в таких исследованиях… В этом все заинтересованы.
Звучало как «От вас не ожидал».
Анна Арчибасова, студентка Высшей школы экономики, автор стартапа Contour («Мы делаем грузовики беспилотными»), испытывает обеспокоенность оттого, что не все школьники знают, что такое искусственный интеллект (Да кто в зале исчерпывающе ответил бы на этот вопрос, хотел бы я знать? Или бы просто ответил? Тут надо было бы прибегнуть к помощи искусственного интеллекта, то есть, грубо говоря, Анастасии Чернобровиной), и Анна Арчибасова предложила включить его изучение в школьную программу и в вузы, а для этого увеличить бюджетные места в этих вузах (неужели она на платном?).
Про школьную программу президент ничего не сказал, а в вузах, как ни странно, проблему обещал решить.
То есть со следующего года в некоторых университетах ни с того вроде бы ни с сего появятся дополнительные бюджетные места.
Татьяне Шавриной из Высшей школы экономики (со «Сбером» ВШЭ связана чуть ли не родственно, похоже) было, видимо, поручено задействовать в разговоре президента Казахстана — и она это сделала.
— Герман Оскарович только что упомянул программу (скорее конкурс.— А. К.) под названием «Большая перемена», и я сразу вспомнил знаменитый советский фильм, который мы с большим удовольствием смотрели (поэтому и школьный конкурс так назвали.— А. К.) по телевидению в 1980-е года, и в этой связи я вспомнил другой фильм, снятый 40 лет назад,— «Приключения Электроника»,— рассказал Касым-Жомарт Токаев.
Президент Казахстана в разговоре про искусственный интеллект что-то все сбивался на события полувековой давности.
— В том знаменитом фильме,— рассказал он всем, кто этого не помнил (а это почти все и были.— А. К.),— школьник пытался использовать своего робота-двойника, чтобы тот исполнял вместо него обязанности по дому и школе… Ну потом этот робот вошел, как говорится, в роль (президент Казахстана тоже вошел, как говорится, в роль и кратко пересказывал содержание предыдущих серий. И это выдавало в нем человека чувствительного, да и просто человека.— А. К.), стал претендовать на то, чтобы занять место своего оригинала. И вот здесь, в этом простом, казалось бы, фильме содержится очень интересная идея или проблема: смогут ли роботы, обладая высоким искусственным интеллектом, заменить человека?
Вроде уже вначале ответили на этот вопрос, но, видимо, к ответу на него хотелось возвращаться и возвращаться.
— Полностью заменить людей пока не получится,— констатировал господин Токаев.— Потому что искусственный интеллект не обладает интуицией! На этот факт обратили внимание, кстати сказать, шахматисты (это было им единственное утешение.— А. К.)…
Кроме того, президент Казахстана обратил внимание еще на одну упущенную деталь:
— Мне кажется, надо помнить, что человек — это все же порождение Всевышнего.
И не ему одному так кажется.
Тут президент Казахстана начал расставлять акценты и вовсе жестко:
— В то же время человечество деградирует,— подчеркнул он.— Убивает себя. Отсюда вытекает задача совершенствования сути человеческой жизни.
Смысл совершенствования сути он, очень рассчитываю, объяснит в другой раз. А сейчас он просто не стал на это отвлекаться.
— В то же время нужно думать о том, как сосуществовать с искусственным интеллектом,— Касым-Жомарт Токаев был сосредоточен на теме дискуссии.— Нужно быть готовыми к скорому исчезновению таких профессий, как банкиры (Герман Греф необычайно оживился. Он был по всем признакам готов.— А. К.), бухгалтеры, кассиры, курьеры, водители… Ну может быть, юристы еще как-то выживут…
Владимир Путин облегченно посмотрел на коллегу, потом иезуитски — на Германа Грефа, которому не так повезло, и словно что-то смахнул со стола правой рукой — видимо, иллюстрировал слова казахстанского президента: всех, мол, убрал, только меня оставил, и то по первой профессии…
Кстати, с этой логикой и президенты, скорее всего, не нужны будут. Искусственному, собственно говоря, интеллекту. Если он, против ожиданий Владимира Путина, победит.
— Впрочем, недолог тот час, когда машины заменят и юристов,— безжалостно заметил президент Казахстана.— То есть профессии будут уходить в небытие.
Да и сам по себе человек в этой ситуации должен будет уйти, если произносить всю правду друг другу в глаза, примерно туда же.
Дальше было интересней. Президент Казахстана задумался о том, что спасение для человечества есть:
— Как правильно привить человеческие качества и способность к эмпатии?
Только это может уберечь ее, очевидно, от расправы с человеком.
Да, тут говорили о насущном.
Но все-таки господин Токаев вдруг остановился (а все равно уже успел слишком далеко зайти) и заговорил о том, что человек должен стремиться к контролю над машиной. Впрочем, это был, скорее всего, просто ритуальный реверанс в сторону отживающего в пользу машин человечества.
— К сожалению, тревожный прогноз у вас по профессии банкиров,— Герман Греф не выглядел встревоженным.— Понял, что придется, может быть, переквалифицироваться в юристы…
Он засмеялся над своей шуткой, а зря, шутка была так себе, тем более что Касым-Жомарт Токаев предупредил же, что и юристам крышка.
Герман Греф представил Юргена Шмидхубера, «одного из самых цитируемых людей в мире в области искусственного интеллекта».
Господин Шмидхубер упомянул, что его разработки встречаются в миллиардах смартфонов и предположил, что в смартфоне Владимира Путина тоже, возможно, встречаются его алгоритмы для распознавания речи… «Хотя, возможно, ваш смартфон отличается от смартфона большинства людей»,— добавил он, можно сказать, самокритично.
Это, может, и правда так, если допустить, что у Владимира Путина есть смартфон (а ведь он есть).
— Как можно сейчас конкурировать с Шанхаем, например? — вдруг спросил он президента России.— Шанхай инвестирует $15 млрд в развитие!
Знали бы они, сколько инвестирует Москва. Причем триллионов.
Впрочем, ученый, скорее всего, имел в виду инвестиции в одни только научные разработки.
— Наши возможности пока уступают возможностям конкурентов,— признал тем не менее господин Путин.— Но мы добиваемся таких результатов, которых у них пока нет!
Он вспомнил про неувядающие (почему-то до сих пор) традиции советских физматшкол и про создание условий для того, чтобы в России работали интеллектуалы со всего мира, а в пример привел специалистов мирового уровня в области атомной промышленности, которые переезжают в Россию, потому что в Европе атомное производство становится неактуальным.
То есть у нас прибудет, если у них убудет.
Тут же выяснилось, что и Юрген Шмитхубер будет работать в России, в открываемом Институте развития искусственного интеллекта, почетным директором (то есть, скорее всего, не переедет, но зарплату получать станет).
Стало ясно хоть, почему немецкий профессор вдруг стал тянуть вверх палец, когда российский президент начал говорить, что у нас начинают работать их люди.
А Герман Греф обратился наконец к Анастасии Чернобровиной:
— Афина, появился ли у тебя здесь вопрос к нашим спикерам?
— Здравствуйте, это Афина,— сказала Анастасия Чернобровина (странно, что это было «здравствуйте», а не «доброе утро».— А. К.).— У меня к вам вопрос. Может ли искусственный интеллект стать президентом?
А вопрос-то был хороший.
Президент России замялся:
— Надеюсь… Надеюсь… Что нет…— наконец выговорил он.— Сейчас скажу почему. Во всяком случае, пока. Все-таки искусственный интеллект… Он… В самом названии видите что присутствует? Слово «искусственный». Как бы не настоящий.
На самом деле не естественный.
— Президент Токаев уже сказал о высших источниках происхождения человека,— так же медленно добавил Владимир Путин.— У всего искусственного нет сердца, души, нет чувства сострадания (еще пауза.— А. К.)… И совести.
А все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особенными полномочиями в принятии и реализации решений, идущих на благо страны.
Он по всем признакам чрезвычайно серьезно относился к тому, что говорил, хотя мог бы просто переспросить у Анастасии Чернобровиной: «Ну как искусственный интеллект может стать президентом?! Сама-то поняла, что спросила, Афина?» Но нет, он не только играл в эту игру, но и говорил про основные свои беспокойства.
— И иногда… Иногда… Я знаю это по своему собственному опыту… Приходится принимать не совсем рациональные решения… А их нужно принимать исходя из истории, культуры, текущей практики, устремлений, ожиданий граждан страны…
Про Крым он говорил, например, сейчас? Да, говорил.
— И они кажутся иногда нерациональными,— продолжал Владимир Путин.— В области, например, пенсионного обеспечивания (да, и пенсионная реформа тоже.— А. К.)… Но для президента-человека они кажутся обоснованными… Потому что он принимает их не в интересах машин, а в интересах живых людей (если даже они этого пока не понимают.— А. К.). И он должен думать именно об этом.
Ответил. Правда, не ответил, может ли человек ошибаться, принимая нерациональные решения.
Потому что может.
— Президент Казахстана уже сказал, что шахматисты говорили об интеллекте, которого якобы у машин нет. Вообще, спорный вопрос… Машина уже обыгрывает шахматистов.
Президент Казахстана, впрочем, говорил про отсутствие интуиции, а не интеллекта.
— А во-вторых, что такое интеллект… Ой…— захотел поправиться Владимир Путин.— Что такое… Что такое…
Владимир Путин и сам, видимо, понял, что это не про интеллект было у президента Казахстана, и теперь следовало как-то выйти из положения.
— Интуиция…— с эмпатией посодействовал господин Токаев.— Интуиция.
— Да, интуиция…— Владимир Путин согласился, повторил это слово, но оно его все-таки, похоже, несильно устраивало. Президент России, наверное, сам хотел выйти из положения как-то по-другому, какие-то иные слова произнести. Но теперь и останавливаться было нельзя уже. И он продолжил:
— Что такое интуиция? Вот у меня есть основания полагать, что интуиция — это тоже знания, только неактивированные!
Это было смело. Владимир Путин решил назвать вещи своими именами. И какие вещи. На такие темы он еще не рассуждал. И оказалось, у него есть ответы:
— Ведь вся информация скапливается в головном мозге человека за всю его жизнь. Из чего она скапливается? Нейроны головного мозга при получении определенной информации, при принятии решения создают цепочки, а потом создают нейронные сети. Эти нейронные сети не используются каждый день. Но они лежат где-то там глубоко, человек даже не понимает происхождения своих тревог, своих намерений или своих планов… И это называется «интуиция»! Но это все-таки основано на тех многочисленных знаниях, которые заложены в головном мозге человека на протяжении всей его жизни… А нейронов там миллиарды и миллиарды!
Откуда он знал это? А у него, поверьте, были основания полагать.
Ну и интуиция.
Надо было видеть в эти мгновения Германа Грефа. Он выглядел совершенно счастливым. Ведь разговор-то как удался.
— Поэтому, наверное, в какой-то момент, может быть, достигнет таких невероятных возможностей, которые будет возможно сравнить с интуицией,— продолжил Владимир Путин,— но все-таки вот такие субстанции, как душа, совесть и сострадание…
Владимир Путин наконец вернулся, кажется, к тому, о чем хотел сказать сам, без подсказки президента Казахстана:
— Притом что машина должна выбирать наиболее рациональные пути решения… Повторяю, рациональное для главы государства не всегда является абсолютно правильным… Все-таки, на мой взгляд, во всяком случае пока… Машина, искусственный интеллект заменить главу государства не сможет.
То есть с машиной Крым было бы не отбить.
Тут интуиция была нужна.