Cabi.Chat Ignite — modelos y uso de IA
Cada respuesta de un oráculo es una ejecución de LLM, y tú eliges el modelo. El modelo se define por agenda, así que un oráculo puede responder con un modelo rápido y barato mientras el primer contacto de una campaña usa uno más potente. Cabi.Chat Ignite — Agendas
Elegir
- Modelo — un id de modelo, definido en la agenda. Déjalo vacío y se usa el predeterminado de la plataforma.
- Razonamiento — off, low (predeterminado), medium o high: cuánto piensa el modelo antes de responder. Más alto cuesta más tokens y tiempo.
- Cuando una conversación pertenece a una campaña, la agenda intercambiable de la campaña trae su propio modelo y razonamiento, que prevalecen sobre los de la agenda de firmware; los campos que deja vacíos toman los de la agenda de firmware.
Fotos. Cuando un mensaje trae una imagen y la agenda no define modelo, la ejecución pasa sola a un modelo de visión.
Cuánto hace una ejecución
- Un turno Cabi.Chat Ignite tiene un límite fijo de pasos.
- El modelo ve la parte reciente de la conversación, hasta un presupuesto fijo, y retrocede a mensajes anteriores solo cuando los necesita. Los chats largos no encarecen cada respuesta.
Cómo se paga. El precio del uso de IA está en la lista de precios. link
Más: link Cabi.Chat Ignite — herramientas, endpoints y secretos