Modelos de decisión de Baseten: IA para clasificar y enrutar en pymes

Nuevos modelos de decisión para automatizar tareas repetitivas

Baseten ha lanzado Mammoth-1 y Elephant-1, dos modelos de decisión disponibles de forma gratuita en AI Gateway de Vercel durante una semana, hasta el 27 de octubre. Estos modelos están diseñados para clasificar texto, enrutar solicitudes y puntuar contenido según criterios definidos por el usuario. Para las pymes, esto representa una oportunidad de incorporar inteligencia artificial en la automatización de procesos sin grandes inversiones iniciales.

Mammoth-1 es el modelo más grande, con 27 mil millones de parámetros, mientras que Elephant-1 es una opción más pequeña de 9 mil millones. Ambos soportan una ventana de contexto de 16k tokens y devuelven opciones, probabilidades y puntuaciones. Además, Mammoth-1 ocupa el primer lugar en el Jev Decision Index y Elephant-1 comparte el primer puesto en el Artificial Analysis Decision Index, lo que indica su alto rendimiento en tareas de decisión.

¿Por qué importa esto para una pyme?

La mayoría de las pymes no necesita modelos de lenguaje gigantes para tareas cotidianas como clasificar correos, enrutar consultas de clientes o evaluar la urgencia de una solicitud. Los modelos de decisión como Mammoth-1 y Elephant-1 están especializados en estas funciones, ofreciendo resultados estructurados y umbrales de probabilidad configurables. Esto permite automatizar flujos de trabajo con mayor precisión y control, reduciendo la necesidad de intervención manual.

Por ejemplo, un pequeño negocio de comercio electrónico podría usar estos modelos para clasificar automáticamente los mensajes de soporte en categorías como devoluciones, quejas o consultas generales. O una consultora podría puntuar la urgencia de los leads entrantes para priorizar su atención. La capacidad de hacer varias preguntas sobre un mismo texto en una sola petición simplifica la implementación y reduce costos de API.

Integración sencilla a través de AI Gateway

AI Gateway de Vercel proporciona una API unificada para acceder a diversos modelos y realizar un seguimiento del uso y los costos. Las llamadas a los modelos de decisión aparecen en los registros y se contabilizan en los presupuestos junto con otras solicitudes. Esto facilita la gestión y el control del gasto en IA, algo crucial para las pymes que necesitan previsibilidad financiera.

La integración se realiza utilizando los nombres de modelo baseten/mammoth-1 o baseten/elephant-1 dentro del SDK de Vercel AI. Con unas pocas líneas de código, los desarrolladores pueden implementar preguntas de tipo Choice (selección múltiple), Boolean (verdadero/falso) o Score (puntuación) para obtener respuestas estructuradas. La aplicación decide el umbral de probabilidad para actuar automáticamente o enviar el resultado a revisión humana.

Implicaciones prácticas para la automatización en pymes

La llegada de estos modelos refuerza la tendencia hacia una IA más especializada y accesible. Las pymes pueden beneficiarse de la automatización de tareas repetitivas sin necesidad de contratar científicos de datos. Al utilizar modelos de decisión, se reducen los errores de clasificación y se agilizan los tiempos de respuesta, lo que se traduce en una mejor experiencia para el cliente y un ahorro de costos operativos.

Sin embargo, es importante considerar que la disponibilidad gratuita es temporal (hasta el 27 de octubre). Las pymes interesadas deben evaluar rápidamente si estos modelos se adaptan a sus necesidades y, en caso afirmativo, planificar su integración a largo plazo. La experimentación durante el periodo gratuito puede ayudar a validar casos de uso antes de comprometer recursos.

Lectura práctica: cómo aprovechar estos modelos en tu pyme

Si tu pyme gestiona un volumen considerable de correos, mensajes o formularios, los modelos de decisión pueden ser un aliado para filtrar y enrutar información. Por ejemplo, podrías configurar un flujo que clasifique automáticamente las solicitudes de soporte en función de su urgencia y las asigne al equipo adecuado. O evaluar la probabilidad de que un cliente esté solicitando una devolución y activar un proceso automatizado.

La clave está en definir claramente las preguntas y los umbrales de probabilidad que se ajusten a tu operativa. Con la ayuda de un socio tecnológico como Altya, puedes diseñar e implementar estas soluciones de manera efectiva, asegurando una integración fluida con tus sistemas existentes. La IA de decisión ya está al alcance de las pymes; solo falta dar el paso.

Fuente: vercel.com