У менеджеров уходит много времени на обработку входящих обращений: обзвон, переписка в мессенджерах и почте, выяснение потребности, вопросы про цены и ассортимент. До сделки доходит малая часть, а время сотрудника тратится на каждое обращение. Когда к нам пришёл клиент именно с этой проблемой, мы собрали Helprobot.LLM-агента - сервис, который берёт на себя первичную обработку лидов и общается с клиентами по базе знаний компании.
Helprobot.LLM-агент - часть экосистемы Helprobot, в которую также входят сервис речевой аналитики и транскрибации голоса в текст и чат-бот для техподдержки. Ниже разбираем, чем LLM-агент отличается от обычного чат-бота, как он устроен и какую пользу приносит бизнесу.
Чем LLM-агент отличается от чат-бота
Эти два понятия часто путают, хотя разница принципиальная.
Чат-бот - заранее запрограммированная цепочка ответов и сценариев. В нём настраивают логику взаимодействия, проверку условий, персонализацию, триггеры и действия при определённых словах в переписке. Но за рамки заложенных сценариев чат-бот не выходит: он не принимает решения сам и не формулирует ответы. Что программист в него заложил - то он по скрипту и выдаёт.
LLM-агент - система на основе больших языковых моделей (LLM). Она решает более сложные задачи: анализирует данные, принимает решения, обращается к внешним источникам информации и выполняет действия по запросу пользователя. Если коротко - LLM-агент понимает контекст диалога и действует на его основе, а не по жёсткому скрипту.
Как появилась идея
Сервис вырос из совпадения двух факторов: запроса нашего постоянного клиента и готовых наработок нашего разработчика на Python.
Один из разработчиков давно занимался большими языковыми моделями и в свободное время собирал умного помощника - в духе ассистента Джарвиса из киновселенной Marvel, который сам выполняет запросы пользователя: отправляет сообщения в Telegram, выходит в интернет, ищет видео, ставит напоминания. Когда в Вебформат обратился клиент с проблемой долгой обработки входящих лидов, эти наработки легли в основу продукта для бизнеса.
Запрос клиента - снять рутину с менеджеров
У менеджеров клиента уходило много времени на первичную работу с входящими обращениями:
- →обзвон, общение в мессенджерах и на почте;
- →выявление потребности потенциального клиента;
- →выяснение деталей и предпочтений по заказу;
- →ответы про цены, ассортимент товаров и услуг.
Не каждое обращение становится сделкой, но время сотрудника тратится на каждое, и операционные затраты растут. Задача была перевести рутину на LLM-агента и высвободить менеджерам время на работу со сделками.
Помощник должен был отвечать мгновенно, поддерживать диалоги круглосуточно и в выходные и вести одновременно любое число бесед. Отдельная задача - квалификация лидов: агент отсеивает неквалифицированные обращения, ошибочно пришедшие с рекламы, неплатёжеспособных клиентов и спам.
Если обращение доходит до оператора, это уже квалифицированный лид в воронке продаж: потребность выявлена, клиент тёплый или горячий. Менеджеру остаётся выслать нужную информацию и заключить сделку - минимум рутины, максимум продаж.
Что должен был уметь агент
Под запрос клиента собрали ассистента, который:
- →сам начинает диалог с пользователем;
- →отвечает на вопросы по базе знаний и с учётом контекста ситуации;
- →высылает ссылки на товары и услуги или предоставляет каталог;
- →собирает информацию и передаёт её менеджеру или заносит в карточку клиента, если есть интеграция с CRM или сайтом.
Отдельно заложили важную черту: агент должен вовремя понять, что не в силах помочь, и вызвать живого оператора.
Как менялся сервис: от первой версии до рабочей
Первую версию написали на Python - за скорость разработки и удобство. Сначала собрали архитектуру сервиса. В неё входят четыре составляющие.
- →LLM-агент. Основная часть системы. Общается с клиентами и генерирует ответы на основе подключённых нейросетей.
- →База знаний. Набор данных под конкретную компанию - её ассортимент и сферу деятельности.
- →Интерфейс к базам данных. Механики, которыми агент получает информацию из внутренних и внешних баз, чтобы выдавать пользователю актуальные данные.
- →Модуль внешнего взаимодействия. Определяет, когда чат нужно передать живому менеджеру, и собирает информацию для погружения оператора в контекст.
Дальше встал вопрос производительности и скорости отклика. Проект поэтапно переписали на более производительный язык Go. В обновлённую версию добавили три функции.
- →Интеграция с продуктовыми базами. Модуль взаимодействия с базами данных клиента: агент даёт информацию о товарах, помогает с выбором, уточняет цены и наличие. Может не только дать ссылку на конкретный товар, но и порекомендовать сопутствующие.
- →Интеграция с платформами общения. Подключение через открытые линии в Битрикс24 - агент работает в виджете на сайте, в Telegram-боте, во ВКонтакте и на других площадках.
- →Вызов оператора. Агент передаёт запрос человеку, когда ситуация требует вмешательства.
Эта версия стала рабочей. Сейчас она дорабатывается, обрастает новыми функциями и внедряется нашим клиентам.
Как агент работает: три состояния
У Helprobot.LLM-агента три основных режима работы.
1. Начало диалога с клиентом
Агент сам начинает разговор, выясняет запрос и пожелания пользователя, старается заинтересовать предложением. В ходе диалога он:
- →представляется и сообщает, что он умный помощник;
- →спрашивает имя потенциального клиента и совершает первое касание;
- →уточняет, из какой клиент компании - если агент сделан для B2B;
- →сообщает, что утром с клиентом свяжется менеджер по продажам и предоставит расчёты и информацию;
- →узнаёт предпочитаемый способ связи и сохраняет контакт для менеджера.
Если клиент не готов оставить телефон или почту, агент обещает, что утром менеджер свяжется с ним прямо в этом же чате и проконсультирует лично.
2. Ответы на вопросы по базе знаний
Агент сам формулирует ответы о компании, её товарах и услугах, стоимости доставки, даёт рекомендации по выбору. Данные он берёт из базы знаний, обученной под конкретную компанию.
База знаний формируется на этапе внедрения. Чем полнее данные о бизнес-процессах, этапах работы и скриптах менеджеров, тем полезнее агент. Хорошо обученный, он работает не хуже живого сотрудника.
3. Передача сложных запросов оператору
Агент переводит чат и весь собранный контекст на оператора в двух случаях:
- →вся нужная информация собрана и клиент готов продолжить сделку с менеджером;
- →сбор информации затруднён - поступил сложный или нестандартный вопрос.
К сложным относятся:
- →нестандартные вопросы о товарах и услугах, их характеристиках и свойствах;
- →запросы партнёрства, оптовых продаж и подобные;
- →индивидуальные расчёты, нетипичные конфигурации, изготовление на заказ;
- →диалоги, где клиент настойчиво требует связи с живым оператором.
По сложным вызовам мы рекомендуем вести статистику и разбирать каждый вопрос, который агент пометил как сложный. Многие из них после анализа добавляются в базу знаний - и дальше агент отвечает на них сам. Так автоматизация растёт, а число вызовов менеджера падает.
Что это даёт бизнесу
- →Снижает нагрузку на менеджеров. Первичный рутинный опрос клиентов берёт на себя агент.
- →Обрабатывает все обращения и квалифицирует лиды. До оператора доходит уже тёплый клиент с собранной информацией, готовый к покупке.
- →Работает круглосуточно, без выходных и перерывов. Агент держит связь с клиентами из разных часовых поясов. Если диалог шёл в нерабочее время, данные уйдут оператору сразу, как он появится в сети.
Сколько стоит внедрение
Для новых пользователей есть бесплатный тестовый тариф на 7 дней: мы подключаем сервис в один из каналов компании, вы тестируете и решаете, внедрять ли. На тестовом периоде обучение под задачи компании не проводится. Платные тарифы с обучением под ваш бизнес начинаются от 3500 рублей в месяц - это во много раз меньше стоимости найма штатного менеджера. Актуальные тарифы - на llmagent.ru.
Что развиваем дальше
Продукт молодой и активно дорабатывается. В ближайших планах:
- →Статистика и аналитика. Инструменты для анализа диалогов с пользователями - чтобы оптимизировать работу агента и качество обслуживания.
- →Несколько LLM на выбор. Подключение разных языковых моделей: пользователь выбирает подходящую под задачу и оптимизирует затраты.
- →Расширение возможностей. Лучшая обработка сложных запросов, интеграции с новыми системами и сервисами, новые иностранные языки для расширения аудитории.
Как подключить
Если данные подготовлены заранее, мы подключаем LLM-агента на сайт за один день. Для этого нужно:
- →заполнить базу знаний с общей информацией для обучения;
- →для интернет-магазина - прислать ссылку на yml-файл, чтобы агент консультировал по товарам;
- →чтобы агент отвечал посетителям сайта - прислать ссылку на ваш Битрикс24 (либо мы подключаем агента в Telegram).
Helprobot.LLM-агент берёт на себя первичную обработку и квалификацию обращений, а менеджерам оставляет тёплых клиентов, готовых к сделке. Разберём вашу задачу и подскажем, что из этого подойдёт под ваши каналы и процессы.
