Большие языковые модели — большие возможности для роста бизнеса

Как и зачем крупный бизнес внедряет речевые технологии и почему аудио LLM могут стать новым катализатором рынка, рассказал CEO группы компаний ЦРТ Дмитрий Дырмовский.

Выйти из полноэкранного режима

Развернуть на весь экран

Крупный бизнес все активнее внедряет речевые технологии для улучшения качества коммуникаций с клиентами, импортозамещения и сокращения расходов на содержание контактных центров. Речевая аналитика, диалоговые ассистенты уже доказали эффективность, а появление больших языковых моделей (Large Language Model — LLM), таких как GigaChat, позволяет развивать новые подходы, чтобы предоставить бизнесу возможность решения насущных задач принципиально новыми инструментами на основе нейросетей. По прогнозу аналитического агентства Research and Markets, рынок LLM вырастет с $6,4 млрд в 2024 году до $36,1 млрд к 2030 году при совокупном годовом темпе роста 33,2% в течение прогнозируемого периода.

Аналитика речи

Речевые технологии ЦРТ используют крупнейшие банки и телеком-компании. В контактном центре «МегаФона» речевая аналитика позволила переквалифицировать 20% специалистов контроля качества в коучей, повысила уровень удовлетворенности клиентов более чем на 10 пунктов, снизив количество претензий на 40%. Речевая аналитика ЦРТ обрабатывает 98,5% звонков розничных клиентов «Билайна». Использование речевой аналитики звонков позволило снизить количество некорректных возвратов средств клиентам на 19%. Кроме того, было проведено более 250 экспериментов, результаты которых положительно сказались на разных показателях клиентского сервиса.

В «Ростелекоме» речевая аналитика ЦРТ охватывает более 80% продуктов и 75% процессов обслуживания клиентов более чем на 3 тыс. рабочих мест операторов, средняя точность распознавания речи в телефонном канале составила 97,6%, количество жалоб клиентов сократилось на 30%.

МТС речевая аналитика ЦРТ менее чем за год помогла на 10% снизить количество операторских ошибок, повысить уровень удовлетворенности клиентов и эффективность прямых продаж интернет-магазина.

Следуя новым трендам, мы разработали AI-решение для аналитики и управления коммуникациями в контактных центрах. Алгоритмы машинного обучения позволили увеличить скорость обработки и анализа обращений клиентов, а их совмещение с новыми инструментами анализа на основе LLM — нейросетевой модели GigaChat — позволило нам предоставить бизнесу новый функционал: суммаризацию содержания и тематик диалогов, оценку их результативности и тональности. Теперь все данные агрегируются, расшифровываются и анализируются в онлайн-режиме прямо в момент обращения клиента. Это помогает оператору давать более точные ответы на запросы. Онлайн речевая аналитика помогает не просто отвечать на запросы клиента, а прогнозировать изменение клиентских предпочтений. Новое решение позволяет управлять клиентским опытом, увеличивает экономическую эффективность и развивает бизнес.

Диалоговые ассистенты

С прогрессом технологий совершенствуется функциональность голосовых помощников: они могут «на лету» определять тематику обращения в контактный центр, вести интеллектуальный диалог с клиентом: работать с контекстом, реагировать на перебивания, выделять сразу несколько параметров из одной фразы клиента. Эволюция синтеза речи позволяет добиться максимальной плавности и реалистичности речи диалоговых ассистентов, а большие языковые модели открывают новую эру в их развитии.

LLM могут помочь создавать ассистентов без ручного обучения, а также персональных Co-pilots — AI-помощников для целого набора различных специализаций. Так, к примеру, AI-помощник финансиста-аналитика может формировать SQL-запросы к базе данных на основе запроса аналитика на естественном языке, а поисковый AI-помощник сотрудника может помогать осуществлять поиск по корпоративной базе знаний, формулировать ответ на запрос с учетом мгновенного анализа всех нормативных актов и положений компании.

Аудио LLM — новый челлендж для разработчиков

Бизнес уже видит ценность от синергии речевых технологий и LLM. Особый интерес возникает со стороны контактных центров банков, телекома и других компаний. Речевая аналитика уже доказала эффективность, а LLM привносит новые ценности: суммаризацию содержания и тематик диалогов, оценку их результативности, что помогает бизнесу «слышать» голос клиентов и наиболее эффективно удовлетворять желания клиентов, предвосхищать их. И это лишь один из примеров, как технологии уже сейчас приносят пользу бизнесу.

Разработчики двигаются дальше: развивая работу с аудио LLM, можно в перспективе добиться еще более прорывных результатов. Традиционно LLM работает с текстом, а в тексте, очевидно, сложно передать спектр атрибутов живой человеческой речи: сарказм, иронию и другие, при этом именно в естественной речи содержится пласт важной информации о мнении клиента, его настроении и отношении к бренду. Развитие аудио LLM может позволить совершенствовать модели, которые будут способны анализировать и понимать аудио со всей полнотой интонационного контура, а, значит, появится еще больше возможностей для получения инсайтов, улучшения клиентского опыта и развития бизнеса.