Skip to main content

​
Промпт агента, модели и окно истории

Цель модуля: развести три роли моделей и не платить за задержку там, где она не нужна.
Все настройки этого блока живут на вкладке Настройки в редакторе и версионируются вместе с агентом.
Секция «Агент и промпт»: общий промпт, язык агента, окно истории

Настройки → Агент и промпт. Общий промпт, язык разговора, окно истории и переключатель режима обработки речи (каскад STT-LLM-TTS или Realtime-модель).

Секция «Агент и промпт»: общий промпт, язык агента, окно истории

​
Общий промпт: что туда писать

  • Кто агент: имя, организация, роль. Это же имя услышит клиент.
  • Стиль: длина реплик («1–2 предложения»), тон, язык — для нас обычно «на языке последней реплики клиента: русский или казахский».
  • Жёсткие запреты: не выдумывать цены и свободные окна, не давать медицинских или юридических советов, не обещать скидок.
Чего в общем промпте быть не должно: пошагового сценария. Сценарий — это граф; дублируя его в промпте, вы получаете два источника правды, которые начнут спорить.

​
Три роли моделей

Модель выбирается из справочника организации, а не вписывается руками: так замена модели делается централизованно, а в снапшот опубликованной версии попадает зафиксированная ссылка — публикация не «поедет» из-за правки справочника.
Переопределение модели исполнения агента: выбор из справочника

Модель исполнения агента: выбор из справочника с подсказками «рекомендуем» / «быстрая» и температурой. Пустое поле = модель из серверного конфига.

Переопределение модели исполнения агента: выбор из справочника
Окно истории — самый недооценённый параметр40 сообщений ≈ 4–5 минут разговора. Тот же срез уходит и в классификатор, поэтому увеличение окна дорожает дважды: растёт стоимость и растёт пауза на каждом ходу. Увеличивайте только если агент реально теряет контекст в длинных разговорах.
Прогрев LLMОтдельная секция: платформа держит префикс промпта агента «горячим» у провайдера, чтобы первый ответ не был самым медленным в разговоре. Для агента, который отвечает на входящие звонки редко и неравномерно, это заметная разница на первом слове.