«Разработка ПО стремится к полной автономности с помощью ИИ»

Какие тренды в области технологий будут определять будущее IT-рынка? Почему его развитие уже невозможно без генеративного искусственного интеллекта? Что такое ИИ-агенты и как их внедрение влияет на эффективность компаний? Эти и другие вопросы ведущий “Ъ FM” Марат Кашин обсудил со старшим вице-президентом, руководителем блока «Технологии» Сбербанка Кириллом Меньшовым.

Выйти из полноэкранного режима

Развернуть на весь экран

— Как генеративный ИИ меняет процессы в банке и на российском рынке в целом?

— Безусловно, весь рынок стремительно начинает двигаться в сторону искусственного интеллекта. И даже те, кто буквально вчера практически про это не говорили, сейчас уже ведут активные эксперименты и внедрения. Одно из самых интересных для IT-рынка направлений применения искусственного интеллекта — это процесс разработки программного обеспечения. Мы, как и весь рынок, сейчас активно меняем жизнь и труд каждого IT-инженера, IT-специалиста, на первом этапе добавляя к нему ИИ-ассистента (Copilot), который помогает ему в его текущей работе. Уже в нескольких конкретных этапах начинаем заходить в сторону автономной разработки, автономного исполнения искусственным интеллектом тех или иных задач. Все на рынке движутся в эту сторону, и мы этому тоже сильно помогаем за счет того, что те наработки, которые мы делаем внутри компании, мы вводим, распространяем, в том числе бесплатно, на российском IT-рынке.

— Как вы отслеживаете качество сгенерированного кода? Не приводит ли скорость к ошибкам? И как вы боретесь с риском создания тех самых хрупких систем, о которых вы предупреждаете?

— На текущий момент мы придерживаемся сценария или подхода man in-the-loop, то есть в процессе всегда присутствует человек. Если мы говорим про автономную разработку кода, когда агент искусственного интеллекта разрабатывает тот или иной код, он отправляет его в виде запроса на проверку в сторону физического разработчика. И это так же работает в обратную сторону. Если человек сейчас разрабатывает самостоятельно код, чаще всего его проверкой — с комментариями, подробной обратной связью — занимается искусственный интеллект. Если раньше это было правило двух рук (один разработчик разрабатывает, другой смотрит, проверяет), то сейчас либо первый, либо второй этап мы отдаем на откуп искусственному интеллекту и видим в этом очень большую перспективу. При этом заходить дальше, в полную автономность, на текущем технологическом этапе нецелесообразно и действительно очень рискованно.

— Вы называли внедрение ИИ-агентов следующим технологическим сдвигом. Когда этот переход станет повсеместным? И когда крупные технологические компании начнут проектировать процессы под агентов в качестве нового стандарта?

— Я думаю, что это произойдет очень быстро и для всех очень-очень незаметно. Уже сейчас многие новые задачи начинают делать с помощью агентов, а не привычным написанием кода. Действительно, это новая дисциплина, там есть определенные сложности и определенный путь, который надо пройти каждому инженеру, чтобы освоить эти навыки. И по мере того, как мы будем его осваивать, а технологии будут развиваться, это будет все менее и менее незаметно происходить. Когда мы выступаем в роли обычных потребителей и пользуемся теми или иными сервисами, мы не в состоянии понять: за ними стоит обычный фронтенд и бэкенд или что-то с использованием агентов, сценариев.

— Я понимаю, что самое ответственное решение все равно принимает человек. Может ли агент ошибиться, принять сложный вопрос за рутину, не обратиться за помощью к человеку и провалить какой-нибудь важный процесс?

— Безусловно, может. Но надо помнить, что люди делают то же самое. И не существует точности на уровне 100% для человека. Она зависит, например, от сложности задачи и от того, начало это или конец рабочей смены. И во многих процессах, особенно сложных, она составляет порядка 90%. Именно поэтому в банках зачастую для высокорискованных операций, скажем так, применяются две пары глаз, которые позволяют как раз эту неточность человеческую исправлять. Ровно этот же инструмент мы используем с агентами. Если мы работаем на сложном сценарии, мы имеем несколько агентов: агент-исполнитель, агент-тестировщик, агент-фасилитатор, агент-критик. Действуя совместно, они позволяют минимизировать эти проблемы. Редко бывает, что какая-то операция исполняется в одно действие. Как правило, ей занимается целое семейство агентов, многие из которых выполняют либо роль второй руки, либо проверяющего. А для совсем критичных операций у нас всегда действует правило второй руки в виде человека.

— Люди ошибаются, когда устают. Почему ошибаются ИИ-агенты?

—ИИ-агенты еще не научились работать со всей сложностью. И самое главное, что мы пока не научились до конца делать эффективных самообучающихся агентов. Когда человек приходит на работу, ему дают должностную инструкцию, он проходит какой-то первый инструктаж, ему помогает наставник пройти несколько задачек, но потом он начинает работать самостоятельно. И, безусловно, вначале он сталкивается с большим количеством сложностей либо ошибок. На ошибках он учится и постепенно познает все то, что в инструкциях не описано. Именно поэтому на следующий год с точки зрения совершенствования наших агентов мы поставили задачу научиться строить мультиагентные системы, которые способны к самообучению, накапливать опыт, анализировать, что у них не получилось, проходить цикл рефлексии, создавать некоторую базу накопленного опыта и использовать дальше ее в работе.

— Внедрение агентов требует инвестиций в искусственный интеллект, перепроектирования, обучения. Есть ли у вас уже измеримая экономика на уровне какого-то конкретного бизнес-процесса? Сколько это стоит? И как быстро окупается внедрение агентов?

— Это очень сильно зависит от процессов. Есть такие примеры, когда внедрение ИИ ускоряет процессы в 3-5 раз, если мы говорим про какие-то базовые бытовые процессы. Если речь идет про IT-процессы, там ускорение может быть на порядок выше. При этом надо помнить, что IT-специалист не занимается написанием кода 100% времени — в таком случае объемы создаваемого кода были бы просто неимоверными. На самом деле он участвует в большом количестве брейнштормов, обсуждений, решений частных проблем, задач, каких-то коммуникаций, совещаний. И это тоже занимает большое количество времени. Соответственно, если мы говорим про базовые ускорения отдельных операций, мы можем достигать многих иксов в этой операции. Но если мы говорим про общую эффективность работы инженера, то нам удалось достичь в целом для всего блока «Технологий» порядка 15% повышения продуктивности в течение года за счет большого количества разных инструментов.

— Если подводить бизнес-итоги года для блока «Технологии», какой самый важный результат вы бы выделили? И как выглядит идеальный KPI на будущий год, то есть что нужно реализовать, чего добиться?

— Первым я бы отметил повышение продуктивности всего блока «Технологий». Потому что чем лучше мы будем выполнять разные задачи, тем больше наши клиенты будут видеть более удобных, функциональных продуктов. Либо они будут сталкиваться с меньшим количеством сложностей, запутанных клиентских путей. И в этом смысле чем мы продуктивнее, тем быстрее и активнее банк развивается, трансформируется. Вторая очень важная для нас история — освоение нового технологического передела. Если в прошлом году мы осваивали генеративные сети, учились писать промпты, взаимодействовать с языковыми моделями, то в этом году мы осваивали следующий передел — создание агентных систем, когда искусственный интеллект активно внедряется в бизнес-процессы банка. Это тоже очень непростая дисциплина, не все с этим справились на отлично, но главное, что мы в целом в этом очень сильно продвинулись. Это позволяет делать задел уже на следующий год, а именно — заходить на самообучающиеся агентные системы.

— Качественный рывок требует как минимум нескольких вещей: надо найти технологии, поменять процессы, изменить мышление людей. Что в этом списке самое трудное, а что самое легкое?

—У нас огромный коллектив, очень большая команда, и мы видим, что можно найти технологию, можно ее сделать, в конце концов, есть много опенсорс-технологий. Это в принципе несложная задача. Сложная задача — научиться работать с новым инструментом. По сути, новый агентный мир, создание агентов, использование искусственного интеллекта в повседневной деятельности — это как освоить новый язык программирования. Если всем просто выдать книжки, допустим, по Java-разработке и попросить их прочесть, никто после этого не станет разработчиком. Так же и здесь: мы получили новые инструменты, получили новые знания, но, чтобы эти инструменты и знания превратились в навыки, чтобы мы научились это делать, надо пройти длинный путь, изменить свое мышление, получить практический опыт, как положительный, так и отрицательный. И только после этого вы становитесь полноценным разработчиком, например. То же самое можно сказать о команде «Технологий»: мы имеем новые инструменты, в течение года мы с ними работали. И сейчас наша команда, можно сказать, стала middle-разработчиком агентных систем на базе искусственного интеллекта.