Перейти к основному содержанию

Промпт, модели и знания

Агент и промпт

  • «Общий промпт · личность агента, правила» — личность, правила, тон и общее поведение агента. Действует на протяжении всего разговора. Кнопка справа от подписи открывает промпт в полноэкранном редакторе: там видны язык и модель агента, счётчик символов и справка из «?». «Сохранить» или ⌘ Enter переносит текст в поле, «Отмена» или Esc оставляет поле как было.
  • «Языки агента» — на каких языках агент говорит; язык кабинета от этого не меняется. Подробно — Языки агента ниже.
  • «Модель исполнения» — см. Модель исполнения ниже.
  • Окно истории — сколько последних сообщений диалога уходит в модель — больше не задаётся у агента: это настройка платформы, см. Настройки платформы для агентов.
  • Точка входа — её задаёт узел Begin на холсте: его единственная связь ведёт к первому узлу диалога, там же выбирается, кто говорит первым, и включается старт по тишине клиента. Подробно — Узел Begin.
Карточка «Агент и промпт»: общий промпт, языки агента и модель исполнения

Языки агента

Поле «Языки агента» — список языков, на которых агент разговаривает. Первый язык отмечен «Основной»: на нём начинается каждый звонок.
  • Клик по полю — по чипу, пустому месту или стрелке справа — открывает список языков каталога платформы с поиском, повторный клик закрывает его. Отметьте нужные; «Сделать основным» переносит язык в начало списка, «Очистить» снимает все отметки, «Готово» закрывает список.
  • Крестик на языке убирает его из списка. Последний язык убрать нельзя: без языка агент не сможет говорить.
  • «Автопереход на язык клиента» — переключатель появляется, когда языков два и больше; по умолчанию включён. Включён — агент определяет, на каком из своих языков говорит клиент, и отвечает на нём. Выключен — звонок идёт на основном языке, пока шаг сценария не сменит язык (группа «Язык звонка» в ноде Override Settings).
Язык звонка. Всё, что агент говорит и слышит, следует текущему языку звонка:
  • голос говорит на текущем языке, а распознавание слушает все языки агента — переключать их отдельно не нужно;
  • встроенные фразы — напоминание при молчании, подтверждение ожидания, слова активного слушания, вступление при переводе, извинение при сбое модели — звучат на текущем языке звонка;
  • если клиент заговорил на языке, которого нет в списке агента, звонок остаётся на основном языке;
  • смена языка видна в истории звонка событием «Язык звонка».
Голос, распознавание и realtime-модель должны поддерживать все языки агента. Окна выбора показывают только подходящие варианты. Если выбранная модель или голос перестали подходить после добавления языка, они остаются в списке первыми с пометкой «Не поддерживает: …», а публикация блокируется, пока вы не выберете другую модель или не уберёте язык.
«Несколько языков» больше не язык агента. Если у агента стоит этот вариант, поле просит выбрать языки списком: без этого агент не опубликуется.
Каждый язык агента, импортированного из файла или присланного через API, должен совпадать с кодом каталога языков буква в букву: kz, KK или kk-KZ вместо kk блокируют публикацию. Ошибка называет правильный код; выберите язык заново в поле «Языки агента».

Переменные в авторском тексте

Плейсхолдер {{имя_переменной}} подставляется значением сессии во всём тексте, который пишете вы, а не только в инструкции узла:
  • общий промпт агента;
  • условия переходов, включая глобальные;
  • сводка задач агента;
  • описания и аргументы инструментов и функций;
  • поля извлечения переменных;
  • промпт flex-режима;
  • подсказка распознавания автоответчика;
  • тексты обучающих примеров.
Подстановку проходит и общий промпт, а не только инструкция узла. Скрипт, положенный в общий промпт, доезжает до модели с подставленными значениями — дублировать его текст в инструкции узлов ради подстановки не нужно.
Неизвестное имя остаётся текстом, а не превращается в пустоту. Если переменной в звонке нет, модель увидит {{имя}} — ровно так же, как это всегда работало в инструкции узла. Пустая подстановка сделала бы опечатку автора невидимой: агент молча заговорил бы с дырой в фразе вместо явного сигнала, что переменная не пришла.Недостающие колонки файла ловятся не здесь, а на шаге запуска кампании, и только для переменных, отмеченных у агента флажком «В сигнатуре» (см. Переменные агента): нет колонки для сигнатурной переменной — кампания не запустится.
На агентов без плейсхолдеров это не влияет вовсе. Текст без {{ рендерится сам в себя, поэтому кеш префикса промпта и его прогрев у таких агентов работают в полную силу. У агента, который подстановкой пользуется, префикс становится разным на каждом звонке — и прогрев его пропускает: греть текст, который никогда не запросят, значит завышать статистику попаданий.
Когда модель отказывается отвечать, агент извиняется на языке звонка. Если языковая модель отклонила ход, агент произносит короткую фразу-фолбэк вместо того, чтобы замолчать. Фраза звучит на текущем языке звонка; если для него встроенной фразы нет — на основном языке агента, а если нет и для него — на английском. Выбор фразы ничего не стоит абоненту — ни лишней реплики, ни сетевого вызова.

Модель исполнения

Поле «Модель исполнения» в карточке «Агент и промпт» задаёт модель для основных операций агента: генерации ответов, вызова инструментов и извлечения переменных — на всех узлах агента. Порядок приоритета: узел → агент → сервер. Модель, заданная на узле, важнее агентской, а агентская — важнее конфигурации сервера.
  • «По умолчанию» в поле значит, что своей модели у агента нет и действует конфигурация сервера.
  • Выбор модели из справочника моделей задаёт её этому агенту — отдельного переключателя переопределения нет.
  • «Сбросить к умолчанию» рядом с полем убирает выбранную модель и возвращает агента к конфигурации сервера. Параметры шестерёнки сохраняются.
  • Шестерёнка открывает «Модель исполнения — параметры»: «Температура» и «Лимит ответа» (максимум токенов в ответе; пустое поле — значение платформы), «Тир обслуживания» (см. ниже) и, у рассуждающей модели, «Глубина рассуждений» (low / medium / high). Границы полей берутся из описания выбранной модели; значение вне границ блокирует публикацию агента.
В realtime-режиме поля нет: разговор ведёт realtime-модель. Модели — только из справочника. Адрес и ключ модели исполнения, классификатора, пост-аналитики, наблюдателей, распознавания и голоса берутся из записи справочника; своего адреса или ключа в агенте задать нельзя. Если у агента сохранилась модель, заданная вручную, поле показывает «Вне справочника», а проверка не даёт опубликовать агента и запустить тест: «слот … задан вручную (…): адрес и ключ берутся только из справочника — выберите запись». Выберите запись справочника — и агент снова публикуется.

Модель классификатора агента

«Понимание запроса» задаёт модель классификации — она на каждом ходе диалога решает: перейти на другую ноду или остаться на текущей. Раздел находится в «Дополнительно» → «Модели и маршрутизация». Поле работает так же, как модель исполнения: «По умолчанию» — действует серверный классификатор, выбор модели из справочника задаёт её этому агенту, «Сбросить к умолчанию» возвращает серверную, а шестерёнка хранит параметры. Это чувствительный к задержке этап, поэтому обычно лучше использовать быструю модель без reasoning. Модель классификатора агента можно заменить на холсте: у узла Logic Split есть своя «Модель решения о переходе» для выбора его связи, а группа классификатора в узле Override Settings задаёт модель для узлов без собственной — до конца звонка. См. Нода Logic Split и Нода Override Settings.

Резервные сервисы

Если основной сервис не отвечает, агент переключается на резервный и продолжает разговор. Резервы всех четырёх сервисов задаются в одной таблице: «Дополнительно» → «Резерв» → «Резервные сервисы». Строки таблицы — «Модель ответов» (модель исполнения), «Понимание запроса» (модель классификации), «Распознавание речи» и «Голос». В столбце «Основной» — сервис агента, в столбце «Резервный» — выбор резерва. Секция «Резервные сервисы»: четыре строки со столбцами «Основной» и «Резервный» и резервы других провайдеров
  • Резерв — всегда другой провайдер. Модели и голоса провайдера основного сервиса в списке резерва не показываются: когда провайдер недоступен, недоступны все его модели и голоса. Пустое поле — «Не выбран», последний пункт списка — «Без резерва».
  • Над таблицей — предупреждение «Нет резерва: … При их сбое звонок прервётся» со строками, у которых резерва нет. Под голосом — предупреждение, что голос сменится посреди звонка и абонент это заметит.
  • В карточке «Агент и промпт» под моделью исполнения стоит строка «Резерв: … · изменить» или «Резерв не задан · задать» — она открывает эту секцию.
  • Проверка агента предупреждает, если резервный голос того же провайдера, что основной. Кнопка в предупреждении открывает секцию.
  • В realtime-режиме резервы не применяются, и секция пишет об этом вместо таблицы.
Как срабатывает каждый резерв:
  • Модель ответов — резерв обслуживает ход, на котором основная модель не начала отвечать в отведённое время, и все новые ходы, пока основная модель недоступна. Если у узла своя модель того же провайдера, что и резерв агента, на этом узле резерв не сработает — проверка агента об этом предупреждает.
  • Понимание запроса — то же для модели классификации.
  • Распознавание речи — звонок переходит на резерв при первом отказе распознавания. Пока основной провайдер недоступен, новые звонки начинаются на резерве.
  • Голос — фразу, на которой основной голос отказал, произносит резервный, и дальше звонок идёт на нём, не возвращаясь к основному. Если провайдер синтеза 2 минуты не может произнести ни одной фразы, платформа считает его недоступным: новые звонки сразу начинаются на резерве, пока провайдер 3 минуты подряд снова не ответит без сбоев. Идущие звонки при этом не переключаются. Голоса cybernet переходят на резерв только внутри звонка. Резервный голос звучит так, как задан в справочнике, — без модели, скорости и тонкой настройки агента.
Переход на резерв виден в карточке звонка.

Модель решений о переходе (Jev)

Решение о переходе может принимать не LLM-классификатор, а модель решений — модель System One (Jev). Она не генерирует текст: она выбирает один из вариантов перехода и сообщает, насколько уверена. Настройка — в «Дополнительно» → «Модели и маршрутизация» → «Классификатор переходов». «Режим» выбирается из четырёх вариантов:
  • «Как на сервере» — по умолчанию. Агент следует умолчанию платформы; на платформе по умолчанию режим выключен.
  • «Выкл.» — решает LLM-классификатор, как раньше.
  • «Теневой» — каждое решение дополнительно уходит модели решений в фоне. Её ответ и уверенность попадают в событие звонка «Решение о переходе», а маршрут и время хода остаются прежними. Режим нужен, чтобы сравнить решения на своих звонках, ничего не меняя для абонента.
  • «Каскад» — модель решений решает, когда её уверенность не ниже порога. Ниже порога, при таймауте или ошибке решает LLM-классификатор с тем же входом, что в выключенном режиме.
Полное описание каждого режима — под «?» рядом с «Режим». Если режим не выключен, появляются остальные поля:
  • «Модель решений» — запись справочника моделей с ролью «decision». В теневом режиме и в каскаде без выбранной записи публикация заблокирована. Запись замораживается в опубликованной версии.
  • «Порог уверенности» — только для каскада: при этой уверенности и выше решает модель решений. В теневом режиме поле заблокировано — действует серверный порог. Пустое поле — значение платформы (по умолчанию 0,8).
  • «Таймаут, мс» — в каскаде: сколько ход ждёт модель решений, прежде чем решит LLM-классификатор; в теневом режиме: сколько может работать фоновый вызов. Пустое поле — значение платформы (по умолчанию 350 мс).
Включайте каскад только после теневого режима. Сначала посмотрите на живых звонках, насколько решения модели совпадают с LLM-классификатором, где они расходятся и какая задержка. В FLEX-режиме модель решений не используется: переход там — часть ответа.

Тир обслуживания

У слота модели — и у агентского, и у того, что задан на узле, — есть селект «Тир обслуживания»: с каким приоритетом поставщик обслужит запрос. У агента он находится в шестерёнке поля модели. Это не другая модель, а та же самая, обслуженная с другим приоритетом:
  • «По умолчанию провайдера (не передаётся)» — платформа тир не просит, поведение прежнее;
  • priority — быстрее;
  • flex — медленнее;
  • auto — выбор остаётся за поставщиком;
  • default — явная просьба обслужить обычным тиром.
Селект показывается только у моделей с признаком «Поддерживает тиры обслуживания (OpenAI service_tier)»; у остальных его нет. Подсказка рядом с селектом предупреждает о неудачных сочетаниях: flex на живом ходу разговора добавит абоненту ожидания, а priority там, где ответа никто не ждёт — в фоновой аналитике, — ничего не даст. Это подсказка, а не запрет.

Настройки платформы для агентов

Два параметра задаются не в агенте, а платформой — одинаково для всех агентов. Они действуют и на опубликованные версии, без переопубликации.
  • «Окно истории (сообщений)» — сколько последних сообщений диалога уходит в модель: от 4 до 400, по умолчанию 40 (примерно 4–5 минут разговора). Тот же срез получает классификатор, поэтому большое окно увеличивает задержку каждого хода.
  • «Переформулировка запроса» — режим переформулировки запроса к базам знаний для всех агентов и узлов, у которых выбрано «По умолчанию»: «LLM-переформулировка» (значение по умолчанию) или выключена. Агент или узел может выключить её у себя — см. Настройки поиска.
Модель для переформулировки тоже задаёт платформа. Если она не задана, используется модель-классификатор агента — с её адресом и ключом.
Значения, заданные раньше в агенте, больше не действуют. Если у агента было своё окно истории или своя модель переформулировки, теперь он работает со значениями платформы. Например, агент, у которого стояло окно 120 сообщений, видит последние 40 — если на платформе не задано другое значение.

Прогрев LLM

Прогрев поддерживает префиксы системного промпта агента в KV-кэше провайдера модели. Благодаря этому при первом ходе разговора модели нужно обрабатывать меньше контекста, и агент может ответить быстрее. Раздел находится в «Дополнительно» → «Модели и маршрутизация» → «Прогрев LLM».
  • Переключатель в заголовке раздела включает периодические прогревочные запросы. Выключите, если лишний трафик не нужен.
  • «Роли» — какой именно промпт держать в кэше: execution — системный промпт агента, classifier — промпт классификатора стартового узла.
  • «Интервал прогрева, сек» — частота запросов. Пустое поле означает дефолт сервера.
Прогрев работает только с моделями из справочника моделей. Если прогрев выключен на платформе, раздел неактивен и показывает «Прогрев LLM выключен на этой установке. Настройки агента сохранены и снова заработают после включения.» Окно «Дополнительно», открытое на разделе «Прогрев LLM»

Базы знаний (RAG)

У агента есть набор баз знаний по умолчанию. Он используется всеми нодами Conversation, если для конкретной ноды не задана собственная база знаний. Набор правится в карточке «Базы знаний» на вкладке.
  • Добавить базу — нажмите на поле «Поиск базы знаний…»: в списке появятся все базы, ещё не привязанные к агенту. Ввод текста сужает список по названию, Enter берёт первое совпадение. Выбранная база появляется под полем.
  • Убрать базу — нажмите на её название с ✕ под полем.
  • Создать базу — не в карточке: базы создаются на странице «Базы знаний», а здесь выбираются.
  • Пустой набор — поиск идёт только на тех узлах, у которых задан свой набор. Пока ни одна база не привязана, карточка об этом пишет.
База наполняется файлами. Форматы — только .pdf, .txt и .json. Один файл — до 5 МБ. За раз можно загрузить до 32 файлов, но вместе не больше 5 МБ. Уже загруженные раньше файлы других форматов остаются в базе.Ссылку на сайт база не принимает: чтобы агент отвечал по содержимому страниц, сохраните их в PDF или скопируйте текст в .txt и загрузите файлами. Обновление источника в базу само не приезжает: загрузите новую версию файла и удалите старую.Сколько займёт обработка, заранее не известно: время растёт вместе с очередью. Статус каждого файла виден в таблице файлов базы. Долгая обработка и повторная попытка ошибкой не считаются; ошибкой по времени файл помечается, только если не обработался за 2 часа с начала обработки. База, в которой готова часть файлов, уже открывается и работает с готовыми.Чтобы забрать файл обратно, нажмите «Скачать файл» слева от кнопки удаления в таблице файлов базы: исходник сохранится под именем из списка, байт в байт таким, каким его загрузили. Пока файл обрабатывается, кнопка заблокирована с подсказкой «Файл ещё обрабатывается»; у готовых файлов и файлов с ошибкой она активна. Каждое скачивание пишется в журнал аудита.
Как найти базу. На странице «Базы знаний» поле «Поиск по названию или ID» фильтрует список по части названия или полного ID без учёта регистра. Строка поиска хранится в адресе страницы, поэтому ссылка открывает уже отфильтрованный список. Если ничего не подошло, страница пишет «Ничего не найдено» и предлагает сбросить поиск. Колонка ID показывает первые 8 символов; полный ID виден при наведении, а кнопка «Скопировать ID» копирует его, не открывая базу. Внутри базы полный ID показан с той же кнопкой. Карточка «Базы знаний» с подключённой базой и шестерёнкой «Настройки поиска»

Настройки поиска

«Настройки поиска» открываются шестерёнкой в заголовке карточки «Базы знаний». Пустое поле — дефолт сервиса баз знаний (hybrid_search / 0.4 / 5). «Сохранить» записывает значения в черновик, «Отмена» отбрасывает их; точка на шестерёнке значит, что какое-то значение отличается от умолчания.
  • «Тип поиска» — способ поиска по выбранным базам; значение «по умолчанию (hybrid)» объединяет несколько сигналов.
  • «Порог похожести (0..1)» — минимальная релевантность результата. Чем выше, тем меньше находок и тем они точнее.
  • «Максимум результатов (1..100)» — потолок числа находок.
  • «Переформулировка запроса (LLM)» — переписывать ли запрос перед поиском: пункт по умолчанию, «Выключена (фильтр + склейка)» или «LLM-переформулировка». Пункт по умолчанию — «По умолчанию (платформа)»: режим берётся из настройки платформы. Режим выбирается по цепочке: узел → агент → платформа.

Модель переформулировки запроса

При «LLM-переформулировке» перед каждым поиском идёт ещё один вызов модели; на голосовом ходе он ограничен 2 секундами. Модель задаётся не в агенте, а на платформе — слот «Модель переформулировки запроса», см. Настройки платформы для агентов. Если слот пуст, используется модель-классификатор агента.
На платформе переформулировка по умолчанию включена. Агенты с базой знаний, у которых в настройках поиска выбрано «По умолчанию», делают этот вызов на каждом ходе с поиском. Если скорость ответа важнее качества поиска, выберите у агента или узла «Выключена (фильтр + склейка)».

Flex mode

Flex mode передаёт весь сценарий модели как единый структурированный промпт вместо обработки отдельных частей только через стандартный поток нод. Раздел находится в «Дополнительно» → «Модели и маршрутизация» → «Flex mode».
  • Переключатель в заголовке раздела — включает обработку полного сценария как единого структурированного промпта.
  • Сводка компонента — после включения показывает количество нод и примерный объём промпта в токенах, например Компонент: 2 узла, ~389 токенов промпта. Предупреждения по компоненту выводятся под его строкой.
Секция Flex mode со сводкой компонента Используйте сводку, чтобы оценить размер сгенерированного промпта до запуска агента. Оставьте Flex mode выключенным, если для агента лучше подходит стандартная обработка сценария по нодам.