ИИ-агенты провалили задания

ИИ-агенты не справляются со своими задачами и не оправдывают ожидания бизнеса. В социальных сетях представители компаний стали активно обсуждать ошибки нейросетей и их последствия. Страшнее всего — денежные потери.

Выйти из полноэкранного режима

Развернуть на весь экран

Как рассказал один из пользователей, нейросетевой помощник написал функцию для расчета скидок для небольшого магазина. Но из-за буквального понимания задачи клиенты могли применять промокоды несколько раз. Хотя проблему быстро нашли и исправили, компания потеряла примерно 40 тыс. руб.

Собеседники “Ъ FM” проблему подтверждают. Поэтому если раньше фирмы массово увольняли начинающих специалистов и заменяли их искусственным интеллектом, то сейчас тенденция изменилась. ИИ-агентам в любом случае нужен человек-напарник, уверен руководитель внешних коммуникаций компании Mellow Александр Норовяткин:

«Действительно, компании сокращают наем. Мы видим это по собственной статистике. У нас больше 1 тыс. клиентов, и последние пару лет среднее число сотрудников, работающих с ними, падает. Это зачастую сопряжено с появлением новых языковых моделей или технологий.

Другой вопрос, что мы сейчас находимся в том цикле инноваций, когда люди сильно переоценивают технологии, и это нормально.

В последнее время появляется множество постов в соцсетях, рассказов, как кто-то сделал что-то невероятно интересное с помощью искусственного интеллекта. Проблема в том, что ИИ пока не способен полностью воспроизводить работу человека на долгом промежутке времени. То есть разовую задачу поручить можно, но сделать так, чтобы эта задача постоянно выполнялась определенное время, результат был консистентным, а технология не галлюцинировала, достаточно сложно. Для этого нужны сильные навыки инженеров, описанные процессы, понимание нужного результата, которое зачастую у нас отсутствует.

Если быть совсем честными, то пока финальный результат часто додумывается в процессе выполнения задачи. Поэтому прямо сейчас множество историй будет заканчиваться тем, что ИИ как бы внедрили, но в конечном итоге поняли, что он не может полностью без человека действовать, и это нормально».

Одна из причин внедрения нейросетей — экономия времени. Однако и это не всегда работает, делятся представители бизнеса. Иногда на устранение ошибок и написание промтов для ИИ-агента приходится тратить несколько рабочих часов старшего специалиста. При этом даже если текстовая задача изначально написана как надо, еще не факт, что нейросеть выполнит ее верно, директор по продукту и сооснователь «Дживио» Алексей Егоров:

«Самая распространенная ошибка связана с ценообразованием. Банально 20% плюс 20% ИИ-агенты складывали, у них могло получиться 80%. Ты никак это не объяснишь, просто такая вот генеративная система, и в такой момент происходит как раз и скидка 80%. Если нет никаких страхующих систем, которые проверяют алгоритмически, что дисконт или прайс не ниже определенного уровня бизнеса, минимальной розничной цены, то в конечном итоге можно действительно потерять деньги. И очень часто компании несли потери именно на таких простых вещах. Но виновато не ТЗ, а просто генеративные сети в ключе своей неразвитости.

Сейчас, конечно, ошибок все меньше, но все равно они появляются. Поэтому сейчас критически необходимо внедрять, так сказать, руководителя, отвечающего за такие технологии, чтобы не было каких-то убытков».

Впрочем, часто ошибки совершают и люди, отмечает сооснователь сервиса «Битрикс-24» Сергей Рыжиков:

«Компании только начинают делать подход к тому, чтобы брать ИИ-агентов на работу. И само по себе утверждение это не совсем точное: просто часть работы начинают выполнять эти инструменты. Безусловно, это требует изменения подходов к производственному циклу.

Нельзя заменить сотрудника на ИИ и ожидать, что он будет работать так же, как человек. Это так не работает. Всегда должны быть люди, которые и ставят задачу, и проверяют итоговый результат.

При правильной организации производства по новым принципам можно получить значительную выгоду. И здесь, конечно, есть самоирония, некоторая шутка относительно текущего момента, что не все можно заменить нейросетью. Мы в организации меняем производственные процессы, ИИ-агенты выполняют огромную часть работы, невероятно большую.

Я больше 20 лет руковожу компанией и регулярно сталкиваюсь с ошибками белковых нейронов. Я точно так же сталкиваюсь и с ошибками искусственного интеллекта. Это очень похожая категория ошибок: неправильно понятое и выполненное задание, неправильно написанные тесты. Ожидать, что ИИ будет безошибочным, еще рано».

По мнению экспертов, самая лучшая комбинация — работа ИИ-агента совместно с младшими специалистами. Так инструмент может выполнить больше задач. Однако собеседники “Ъ FM” выразили опасения, что и эта тенденция временная из-за слишком быстрого развития нейросетей.

Ангелина Зотина