Decision Models: la nueva generación de IA para decisiones estructuradas en pymes
Los decision models permiten que la IA elija entre opciones predefinidas y devuelva probabilidades, sin generar texto. Una alternativa eficiente para automatizar clasificaciones y enrutamientos en pymes.
Foto: Kelly Sikkema · unsplash
Decision Models: una nueva forma de usar IA para decidir
Hugging Face ha presentado los decision models, un tipo de modelo que evalúa un contexto y devuelve una decisión estructurada con probabilidades, sin necesidad de generar texto. En lugar de pedir a un LLM que escriba una respuesta, el modelo asigna probabilidades a un conjunto predefinido de opciones que la aplicación ya entiende.
Esta aproximación es especialmente relevante para tareas como clasificar tickets de soporte, enrutar consultas a distintos equipos o determinar la urgencia de una solicitud. Para una pyme, donde la eficiencia operativa es clave, este enfoque puede simplificar la automatización de procesos repetitivos.
¿Qué son exactamente los decision models?
Un decision model recibe un estado (el contexto de entrada), una serie de preguntas y las respuestas permitidas, y devuelve la decisión tomada junto con la probabilidad asociada a cada opción. La interfaz fundamental es: Estado + Preguntas + Respuestas permitidas → Decisiones + Probabilidades.
La diferencia clave con un LLM tradicional es que no se genera texto token a token, sino que se evalúan directamente las opciones disponibles. Esto reduce la latencia y evita problemas de formato, como JSON inválido o respuestas fuera de las opciones permitidas.
El concepto ha sido impulsado por TypeSafe AI con su modelo Jev, descrito como un modelo de "Sistema 1" (pensamiento rápido e intuitivo), en contraste con el "Sistema 2" (pensamiento deliberativo y lento) que asociamos a los LLM generativos. La comunidad ha adoptado el término "decision model" por su precisión descriptiva.
Por qué no usar siempre un LLM para todo
Podríamos pedir a un LLM que devuelva un JSON con las decisiones, y de hecho muchas aplicaciones ya lo hacen para clasificación y enrutamiento. Sin embargo, este enfoque tiene limitaciones importantes.
- Falta de garantía de esquema: incluso con instrucciones explícitas, un LLM puede producir JSON inválido, claves inesperadas o respuestas fuera de las opciones permitidas.
- Decodificación restringida: librerías como Outlines o XGrammar pueden forzar gramáticas o esquemas JSON, pero añaden complejidad computacional.
- Generación innecesaria: si solo necesitamos elegir entre opciones predefinidas, generar una respuesta completa es un trabajo adicional que consume recursos.
Para una pyme que procesa cientos de consultas al día, estos detalles pueden marcar la diferencia en costos de infraestructura y fiabilidad del sistema.
Decision models frente a clasificación tradicional y zero-shot
La clasificación tradicional entrena un modelo para predecir etiquetas fijas. Si añadimos una nueva categoría, como un departamento legal, debemos modificar la cabeza de clasificación y reentrenar. La clasificación zero-shot permite especificar las etiquetas en el momento de la inferencia, lo que aporta flexibilidad, pero sigue siendo un proceso de clasificación.
Los decision models van un paso más allá: permiten definir preguntas con opciones y criterios, y el modelo devuelve la opción elegida con su probabilidad. Esto facilita la creación de asistentes de decisión para múltiples propósitos sin reentrenar el modelo para cada nueva tarea.
Imagina una pyme que recibe pedidos por correo electrónico. Un decision model podría determinar si el pedido es urgente, qué producto se solicita y si requiere factura, todo en una sola llamada y con resultados estructurados listos para integrarse en Odoo o en un flujo de automatización.
Implicaciones prácticas para las pymes
La llegada de los decision models abre la puerta a automatizaciones más ligeras y predecibles. En lugar de depender de la generación de texto para tareas de clasificación, las pymes pueden integrar modelos que devuelven decisiones directamente utilizables por sus sistemas.
Esto es especialmente útil en áreas como atención al cliente, gestión de incidencias, priorización de tareas o enrutamiento de leads. Al reducir la necesidad de postprocesar texto, se simplifica la integración con herramientas como Odoo, CRM o plataformas de ticketing.
Además, la confianza expresada como probabilidad permite establecer umbrales: si la confianza es baja, el sistema puede derivar la decisión a un humano. Esto es clave para mantener la calidad sin sacrificar la automatización.
Lectura práctica: cómo empezar a explorar
Si tu pyme ya utiliza modelos de lenguaje para clasificar o enrutar información, los decision models pueden ser una evolución natural. No requieren generar texto, lo que reduce costos y mejora la fiabilidad. Si aún no has automatizado estas tareas, es un buen momento para evaluar si un enfoque basado en decisiones estructuradas encaja con tus procesos.
En Altya Studio podemos ayudarte a identificar dónde los decision models pueden aportar valor en tu operación y cómo integrarlos con tus sistemas actuales, incluyendo Odoo y tus flujos de automatización. ¿Hablamos?
Fuente: huggingface.co