Elección del modelo
Ajusta la complejidad, la latencia y el coste al modelo adecuado para gestionar la solicitud.
Haz explícito el siguiente camino: modelo rápido, modelo potente, herramienta, persona o ninguna acción.
Solicitud entrante
“Refactoriza la autenticación para SAML y SCIM manteniendo la compatibilidad con versiones anteriores.”
Siguiente paso
modelo potente · herramientas
Dos capas de enrutamiento
Elegir una herramienta no es lo mismo que permitir su ejecución. Mantén ambas decisiones visibles en el flujo de trabajo.
Ajusta la complejidad, la latencia y el coste al modelo adecuado para gestionar la solicitud.
Selecciona la siguiente herramienta aprobada o determina que no se requiere ninguna herramienta.
Deriva las solicitudes inciertas o de alto impacto a un modelo más potente o a una persona.
Operaciones
Una ruta económica solo es útil si el flujo de trabajo sabe cuándo escalar a una opción superior.
Proporciona una descripción breve y honesta de las capacidades de cada modelo o herramienta.
Utiliza una única pregunta para abordar la complejidad, el destino y la aprobación.
El enrutador debe poder determinar que ninguna herramienta es adecuada.
Elige una ruta
Una ruta económica solo es útil si el flujo de trabajo sabe cuándo escalar a una opción superior.
{
"state": "Summarize this 80-page contract and flag renewal risks.",
"questions": {
"complexity": { "type": "score", "instructions": "How complex is this request?", "criteria": ["simple", "moderate", "hard"] },
"destination": { "type": "choice", "instructions": "Which route should handle it?", "criteria": { "fast": "short lookup", "strong": "complex reasoning", "tool": "needs a document tool" } }
}
}Describe los modelos, herramientas y controladores disponibles en este ciclo.
Devuelve un destino tipado y las señales necesarias para la siguiente etapa de control.
Permite que el código determinista se ejecute, active una alternativa de respaldo o solicite confirmación.
Preguntas frecuentes
No. El mismo patrón puede elegir un modelo, controlador, herramienta, cola o una vía de revisión humana.
Por lo general, no. Determina primero a dónde debe dirigirse la solicitud y, a continuación, aplica una política independiente y determinista de permisos o confirmación.
Elige una alternativa de respaldo —como un modelo más potente, una opción predeterminada segura o una revisión humana— y mide la frecuencia con la que se utiliza esa vía.
Sigue explorando