Перейти к основному содержанию

Промпт агента, модели и окно истории

Цель модуля: развести три роли моделей, подстраховать агента резервами и не платить задержкой там, где она не нужна.
Общий промпт, язык разговора и модель исполнения находятся на вкладке «Настройки» левой панели редактора, в блоке «Агент и промпт». Модель классификации («Понимание запроса») и прогрев LLM — в окне «Дополнительно», в группе «Модели и маршрутизация», резервы — там же, в группе «Резерв». Все эти настройки версионируются вместе с агентом. Подробно — Промпт и модели. Окно истории в агенте не задаётся — о нём ниже.
Карточка «Агент и промпт»: общий промпт, языки агента, модель исполнения и строка её резерва

Настройки → Агент и промпт. Общий промпт, язык разговора, модель исполнения и строка её резерва.

Карточка «Агент и промпт»: общий промпт, языки агента, модель исполнения и строка её резерва

Общий промпт: что туда писать

Совет: в «Общий промпт» стоит положить три вещи.
  • Кто агент: имя, организация, роль. Это же имя услышит клиент.
  • Стиль: длина реплик («1–2 предложения»), тон, язык. Для двуязычного агента — правило выбора языка, например: «отвечай на языке последней реплики клиента: русский или казахский» или, для англоязычного агента на рынке США (us_tcpa), «Reply in the language of the caller’s last message: English or Spanish». Основной язык агента задаётся отдельно — в поле «Язык разговора»: в списке есть русский (ru), казахский (kk), английский (en), испанский (es) и другие языки из каталога платформы.
  • Жёсткие запреты: не выдумывать цены и свободные окна, не давать медицинских или юридических советов, не обещать скидок.
Чего в общем промпте быть не должно: пошагового сценария. Сценарий — это граф; дублируя его в промпте, вы получаете два источника правды, которые начнут спорить.

Три роли моделей

Модель выбирается из справочника моделей, а не вписывается руками: endpoint и ключ вводить не нужно, а в снапшот опубликованной версии попадает зафиксированная запись — публикация не «поедет» из-за правки справочника.
  • «По умолчанию» в поле значит, что своей модели у агента нет: действует модель, которую задаёт платформа.
  • «Сбросить к умолчанию» рядом с полем убирает выбранную модель; параметры шестерёнки остаются.
  • Шестерёнка открывает параметры модели: «Температура», «Лимит ответа» (потолок одного ответа в токенах), «Тир обслуживания» — только у моделей, которые его поддерживают, — и «Глубина рассуждений» — только у рассуждающих моделей. Пустое поле — значение платформы.
Выбор модели исполнения из справочника

Модель исполнения агента: выбор из справочника с пометками «рекомендуем» / «быстрая». «По умолчанию» — модель, которую задаёт платформа.

Выбор модели исполнения из справочника

Резервные сервисы

Резерв подхватывает звонок, если основной сервис не отвечает. Все резервы агента — в одной таблице «Дополнительно» → «Резерв» → «Резервные сервисы»: «Модель ответов», «Понимание запроса», «Распознавание речи» и «Голос», слева основной сервис, справа резервный. Быстрый путь к резерву модели — строка «Резерв: … · изменить» или «Резерв не задан · задать» под моделью исполнения в «Агент и промпт».
  • Резерв — только запись справочника и только другого провайдера, чем основной сервис (для собственных моделей — другого хоста): записей того же провайдера в списке нет, они откажут вместе.
  • Над таблицей карточка перечисляет строки без резерва: «Нет резерва: … При их сбое звонок прервётся».
  • Модель-резерв обслуживает ход, если основная модель не начала отвечать в короткий бюджет или недоступна; пока она недоступна, все ходы идут на резерв. Если у узла своя модель того же провайдера, что и резерв агента, на этом узле резерв не сработает — проверка агента об этом предупреждает.
  • Резервный голос, подхватив звонок, остаётся до его конца.
  • Если резерв сработал, в шапке карточки звонка стоит пометка «Использованы резервные сервисы»; подробности — в полном виде карточки.
Подробно — Резервные сервисы. Совет: для агента, который звонит по живой базе, резервы стоит задать для всех четырёх сервисов — сбой одного провайдера иначе превращается в тишину на линии или обрыв звонка.
Окно истории — самый недооценённый параметрОкно истории — сколько последних сообщений разговора видит модель. По умолчанию 40 сообщений ≈ 4–5 минут разговора. Тот же срез уходит и в классификатор, поэтому окно влияет и на паузу на каждом ходе.Окно в агенте не задаётся: его задаёт платформа, одно на всех агентов, и оно действует и на опубликованные версии. Совет: если агенту в длинном разговоре нужно помнить ранние факты — имя, выбранную услугу, согласие, — сохраняйте их в переменные, а не надейтесь на историю. Подробно — Настройки платформы для агентов.
Прогрев LLMСекция «Прогрев LLM» в «Дополнительно» → «Модели и маршрутизация»: платформа держит префикс промпта агента «горячим» у провайдера, чтобы первый ответ не был самым медленным в разговоре. Прогрев работает только с моделями из справочника, а агент с переменными {{...}} в общем промпте в прогрев не попадает. Совет: для агента, который отвечает на входящие звонки редко и неравномерно, это заметная разница на первом слове.