LLM-Агент

Разбор понятия

Что такое LLM-агент

LLM-агент - программа на основе большой языковой модели, которая не идёт по заранее нарисованному сценарию, а сама выбирает, что сделать с вопросом: поискать ответ в документах компании, посчитать по прайсу, завести карточку в CRM или передать вопрос человеку. Отсюда и название: LLM - большая языковая модель, агент - тот, кто действует сам. Ниже разбираем, как это устроено внутри, чем отличается от кнопочного бота и что нужно компании, чтобы такой агент заработал.

Начать бесплатноИстория клиента ↓
Отвечает по вашим документамВыполняет задачи, а не только пишетНе знает - зовёт человека
LA

Демо: LLM-агент компании

@ваш-агент · отвечает по документам

пример
Нужна партия 60 штук с доставкой в Казань. Сколько выйдет и когда отгрузите?
От 50 штук действует оптовая сетка, для Казани отгрузка со склада на третий рабочий день. Посчитал по актуальному прайсу и собрал заявку: остаётся подтвердить позиции. Передал менеджеру - он пришлёт расчёт с документами.

До 7 секунд · источники: прайс и документ "Условия работы с оптовыми клиентами" · заведена карточка в CRM

А рассрочку на полгода дадите?
В загруженных документах про рассрочку на полгода ничего нет, поэтому придумывать не буду. Передаю вопрос руководителю отдела продаж вместе с этой перепиской - он ответит.

Ответа в документах нет - агент зовёт человека, а не сочиняет условия

Это макет диалога. Живой чат с реальным агентом — после регистрации. Попробовать на своих данных →

Как это устроено

Четыре признака, по которым LLM-агент отличается от кнопочного бота

Слово "агент" в названии означает не уровень интеллекта, а способ работы: система сама выбирает следующий шаг вместо того, чтобы идти по нарисованной ветке. Разница видна по четырём вещам.

Решение вместо сценария
Кнопочный бот идёт по дереву, которое заранее нарисовал человек: шаг в сторону - и в ответ "не понял вас, выберите пункт меню". LLM-агент читает вопрос целиком, своими словами, и сам решает, что с ним делать: ответить, уточнить, посчитать или позвать человека.
Знания компании, а не интернета
Языковая модель знает мир вообще, но не знает ваш прайс, регламенты и условия поставки. Поэтому агенту загружают документы: он ищет ответ в них и показывает, из какого файла взял. Приём называется RAG - поиск по вашим данным перед ответом. Переобучать модель под компанию для этого не нужно.
Действия, а не только текст
Кроме ответа агент вызывает функции: считает по прайсу, собирает досье на клиента перед встречей, заводит карточку и ставит задачу менеджеру. В технической литературе это называется function calling - именно оно превращает собеседника в исполнителя.
Граница и передача человеку
Ответа в документах нет - рабочий агент говорит об этом прямо и передаёт вопрос человеку вместе с перепиской. Этим он отличается от модели, которая на любой вопрос выдаёт правдоподобный текст: в работе с клиентами уверенная выдумка дороже честного "не знаю".

История клиента

Компания, которая выбирала между ботом и агентом

Собирательный пример: оптовые продажи, Битрикс24, документы в разных местах

Технология сама по себе компанию не интересовала. Вопрос звучал приземлённо: клиенты и сотрудники изо дня в день задают одни и те же вопросы, кнопочный бот с ними не справился - поможет ли LLM-агент, чем он вообще отличается и не окажется ли это тем же самым под новым названием.

Собирательный пример: типовая ситуация, без имён клиентов.

В чём боль

Путаницу создавали слова. "Чат-бот", "ИИ-ассистент", "нейросеть", "LLM-агент" в коммерческих предложениях означали примерно одно и то же, а стоили по-разному. Понять, за что именно платишь, по описаниям было нельзя.

Кнопочного бота к тому времени уже попробовали. Дерево пунктов отвечало только на то, что заранее предусмотрели: клиенты нажимали "позвать оператора" на втором экране, а сотрудники к такому боту просто не заходили. Осталось ощущение, что автоматизация ответов в принципе не работает.

Отдельно смущали рассказы про "обучение нейросети под ваш бизнес": звучало как долгий проект с подрядчиком, бюджетом и непонятным результатом. Что знания компании можно просто загрузить документами, а модель при этом не трогать, в компании не знали.

Что сделал клиент

Три шага. 15 минут.

  1. 01

    Разделили модель и знания

    Первое, что прояснилось: модель отвечает за язык и рассуждение, а знания о компании приходят из ваших документов. Значит, нужен не проект по обучению нейросети, а порядок в файлах: прайс, условия, регламенты.

  2. 02

    Поставили приложение и загрузили документы

    Агента не пишут с нуля - приложение ставится из маркетплейса Битрикс24 примерно за 15 минут. Дальше загрузили документы: агент читает 9+ форматов, от PDF, DOCX и XLSX до Google Docs, ссылок и каталога из YML-фида, а База знаний Битрикс24 подтягивается сама.

  3. 03

    Две недели смотрели на ответы

    Бесплатный тест длится 14 дней - за это время задали агенту реальные вопросы клиентов и сотрудников. Смотрели не на красоту формулировок, а на две вещи: показывает ли источник ответа и признаётся ли, когда данных нет.

Что получилось

Что меняется в работе

МетрикаБылоСтало
Вопрос своими словамикнопочный бот: "выберите пункт меню"агент читает вопрос целиком и отвечает
Откуда берётся ответиз головы менеджераиз ваших документов, со ссылкой на источник
Знания о компании"надо обучать нейросеть"документы загружаются, модель не переобучается
Кроме ответатолько текст в чатерасчёт по прайсу, карточка в CRM, задача менеджеру
Когда данных нетправдоподобная выдумкапрямо говорит и передаёт человеку
Проверить на себе-15 минут на запуск, 14 дней бесплатно

Под капотом

Что именно настроено

Не «магия», а конфигурация платформы: специализация, подключённые функции, источники знаний и каналы.

Специализация

Стандартный режим

Готовая конфигурация: системный промпт, тон, ограничения и набор разрешённых функций. Можно дописать свой промпт сверху.

Включённые функции

Ответы строго по документам

Отвечает по загруженным файлам и базе знаний, показывает, из какого документа взял ответ. Уверенности нет - передаёт человеку вместе с историей диалога, а не сочиняет правдоподобный текст.

Первый ответ на заявку

Днём готовит менеджеру черновик ответа, ночью и в выходные отвечает сам: показывает клиенту, что заявку прочитали, и задаёт 2-3 уточняющих вопроса по делу.

Кому передать вопрос

Понимает по обращению, что за клиент и с чем пришёл, и ставит задачу тому, кто этим занимается, с готовой инструкцией. Непрофильные обращения закрывает сам.

Источники знаний

  • База знаний Битрикс24, включая 2.0
  • Регламенты и условия в PDF, DOCX, XLSX
  • Google Docs и ссылки на страницы сайта
  • Прайс и каталог из YML-фида

Каналы коммуникации

  • Открытые линии Битрикс24
  • Корпоративный чат Битрикс24
  • Telegram
  • Виджет на сайте

Время настройки

≈ 15 минут от установки из маркетплейса до первого ответа

Частые вопросы

Что обычно спрашивают

Сколько стоит LLM-Агент?
У LLM-Агента два тарифа, в каждом — 1 000 запросов в месяц. «Базовый» (70 000 ₸/мес) — бот отвечает по вашей базе знаний и каталогу плюс один навык на выбор (резюме созвонов, сметы, досье на клиента и т. д.): все шесть специализаций, все каналы и интеграции с Битрикс24. «Расширенный» (170 000 ₸/мес) — то же самое, но навыков два вместо одного: закрываем сразу несколько процессов. Если нужно больше, в «Расширенном» навыки докупаются — по 70 000 ₸/мес за каждый. Перед покупкой — бесплатный тест: режим консультанта целиком на 14 дней, без карты.
Что такое навыки в тарифах LLM-Агента?
Навык — задача, которую бот выполняет сам, а не просто отвечает по базе знаний: разбирает приоритеты дня по сделкам в CRM, пишет резюме созвона, находит скрытые потребности клиента в переписке, собирает досье на компанию перед встречей, делает конспект встречи с договорённостями, считает сметы и декомпозирует проект по ТЗ. В «Базовый» входит один навык на выбор, в «Расширенный» — два, а если нужно больше — докупите: каждый следующий 70 000 ₸ в месяц. Настраиваем под процессы компании. Свой навык под нестандартную задачу — в индивидуальном тарифе.
Что считается одним запросом?
Один вопрос пользователя и ответ бота. Внутренние вызовы function calling и поиск по базе знаний не считаются отдельными запросами.
Можно ли поменять тариф в середине месяца?
Да. С «Базового» на «Расширенный» можно перейти в любой момент: доплата считается пропорционально остатку месяца, неиспользованные запросы не сгорают.
На какой LLM работает бот?
Поддерживаются российские модели (YandexGPT, GigaChat) и зарубежные. Конкретный набор согласуется с тарифом, отраслью и требованиями к локализации данных. Модель выбирается в настройках агента, можно сравнивать ответы разных моделей.
Как устроена защита от галлюцинаций?
RAG с гибридным поиском, function calling с проверкой источников и режим строгих ответов по базе знаний с цитированием. Если бот не уверен — он эскалирует на оператора, а не выдумывает.

Проверьте на своих документах, а не на описании

Понять разницу между кнопочным ботом и LLM-агентом проще на своих вопросах, чем по статьям. 14 дней бесплатно, без карты: загрузите прайс и регламенты и спросите то, на чём обычно спотыкаются менеджеры.

Попробовать бесплатноСначала почитать документацию