Cabi.Chat Ignite — модели и использование AI
Каждый ответ оракула — это прогон LLM, и модель выбираете вы. Модель задаётся в агенде, поэтому один оракул может отвечать на быстрой и дешёвой модели, а первый контакт кампании — идти на более сильной. Cabi.Chat Ignite — агенды
Выбор
- Модель — id модели, задаётся в агенде. Оставьте пустым — и работает модель платформы по умолчанию.
- Рассуждение — off, low (по умолчанию), medium или high: насколько усердно модель думает перед ответом. Выше — больше токенов и времени.
- Когда разговор принадлежит кампании, сменная агенда кампании приносит свои модель и рассуждение, и они важнее, чем у агенды-прошивки; пустые поля берутся из агенды-прошивки.
Фото. Когда в сообщении есть изображение, а модель в агенде не задана, прогон сам переключается на модель зрения.
Сколько делает прогон
- Ход Cabi.Chat Ignite имеет фиксированный лимит шагов.
- Модель видит недавнюю часть разговора в пределах фиксированного бюджета и листает назад к старым сообщениям, только когда они нужны. Длинные чаты не делают дороже каждый ответ.
Оплата. Цена использования ИИ — в прайс-листе. link
Ещё: link Cabi.Chat Ignite — инструменты, эндпоинты и секреты