LFM2.5-24B-A2B: agentes de IA privados y veloces en tu propio equipo
Liquid AI lanza un modelo de lenguaje optimizado para agentes que razonan y usan herramientas, con inferencia local rápida y resultados competitivos frente a modelos más grandes.
Un modelo pensado para agentes que trabajan en tu equipo
Liquid AI ha presentado LFM2.5-24B-A2B, un modelo de lenguaje de arquitectura Mixture of Experts (MoE) diseñado específicamente para ejecutar agentes de IA en dispositivos locales. A diferencia de los modelos generalistas que priorizan el conocimiento enciclopédico, este modelo se enfoca en el razonamiento, el uso de herramientas y el seguimiento de instrucciones, tareas clave para automatizar flujos de trabajo en una pyme.
El modelo mantiene la arquitectura de su predecesor, con 40 capas y 64 expertos por bloque MoE, pero amplía la ventana de contexto de 32K a 131K tokens y duplica el vocabulario para mejorar la tokenización de idiomas no latinos. Esto significa que puede procesar documentos extensos y conversaciones multi-turno sin perder el hilo, algo esencial para asistentes que gestionan tareas administrativas o de atención al cliente.
Rendimiento competitivo con menor tamaño
Según los benchmarks publicados por Liquid AI, LFM2.5-24B-A2B compite con modelos MoE que tienen aproximadamente un 50% más de parámetros totales y activos. En tareas de uso de herramientas y flujos agénticos, lidera o iguala a la competencia en cinco de ocho pruebas, destacando en AutomationBench con una puntuación más de tres veces superior al siguiente mejor modelo.
También sobresale en seguimiento de instrucciones, con resultados líderes en IFEval, IFBench y Multi-IF. Sin embargo, en pruebas de conocimiento general como GPQA Diamond o HLE, los modelos más grandes mantienen ventaja. Para una pyme, esto implica que el modelo es ideal para automatizar procesos estructurados, pero conviene combinarlo con búsqueda web o recuperación de información para consultas que requieran conocimiento actualizado o especializado.
Velocidad y eficiencia en hardware de consumo
La eficiencia es uno de los puntos fuertes del modelo. Con solo 2B de parámetros activos por token, cada token de razonamiento es computacionalmente económico. En pruebas de decodificación, alcanza 184 tokens por segundo en un chip Apple M5 Max y 114 tokens por segundo en un Ryzen AI Max+ 395, siendo hasta 1.7 veces más rápido que el siguiente mejor modelo y utilizando menos memoria.
En GPU, supera los 21K tokens de salida por segundo en una sola NVIDIA B300 con alta concurrencia. Esta velocidad hace viable ejecutar agentes locales en equipos de escritorio o portátiles de gama alta, sin depender de servicios en la nube. Para una pyme, esto se traduce en menor latencia, costos predecibles y, sobre todo, mayor privacidad: los datos no salen de la empresa.
Implicaciones prácticas para pymes hispanohablantes
La posibilidad de correr agentes de IA en local abre un abanico de oportunidades para pequeñas y medianas empresas que manejan información sensible o que operan en entornos con conectividad limitada. Un agente local puede encargarse de tareas repetitivas como clasificar correos, extraer datos de facturas, generar respuestas automáticas o asistir en la gestión de inventario, todo sin enviar datos a servidores externos.
Además, el modelo está disponible en el ecosistema de inferencia desde el primer día, con soporte para llama.cpp, MLX, vLLM, SGLang y ONNX. Esto facilita su integración con herramientas existentes y su despliegue en infraestructuras diversas, desde un servidor local hasta un equipo de desarrollo.
Para aprovechar estas capacidades, es recomendable evaluar qué procesos de la empresa podrían beneficiarse de un agente que razone y use herramientas. No se trata de reemplazar sistemas completos, sino de automatizar tareas específicas donde la privacidad y la velocidad son críticas.
Un paso más hacia la IA soberana en la pyme
La tendencia hacia modelos más pequeños, eficientes y ejecutables en local refleja una maduración del mercado: las empresas ya no solo buscan precisión, sino también control, costos predecibles y cumplimiento normativo. LFM2.5-24B-A2B se posiciona como una pieza clave para construir agentes que operen dentro de la infraestructura de la empresa, sin depender de terceros.
Si estás considerando incorporar agentes de IA en tu pyme, este tipo de modelos allana el camino. En Altya Studio podemos ayudarte a evaluar la viabilidad técnica y a integrar estas tecnologías en tus procesos de negocio, siempre con un enfoque práctico y adaptado a tu realidad.
Fuente: huggingface.co