Segun MarkTechPost (AI/ML News), Liquid AI ha lanzado LFM2.5-2.6B, un modelo agente diseñado para operar completamente en dispositivos locales. Este sistema, con 2.69 billones de parámetros, permite ejecutar tareas complejas como planificación, llamada a herramientas y procesos multietapa, sin necesidad de conexión a servidores externos. El modelo cuenta con una ventana de contexto de 131.072 tokens y un vocabulario de 128.000 unidades, lo que lo posiciona como una solución eficiente para entornos donde la privacidad y el control local son cruciales. La preentrenación se basó en aproximadamente 34 trillones de tokens, asegurando una amplia exposición a datos diversos. Dos versiones se han lanzado públicamente: LFM2.5-2.6B-Base, destinada a fines de afinamiento, y una versión postentrenada optimizada para tareas agentes.
El rendimiento del modelo se mide en escenarios de seguimiento de instrucciones y uso de herramientas, superando en eficiencia a modelos que tienen casi cuatro veces su tamaño. La ejecución se mantiene completamente local, lo que impide que datos sensibles abandonen el dispositivo. Cada inferencia tiene un costo marginal casi nulo, haciendo que el modelo sea escalable en costos. Los pesos están disponibles en formatos nativos, GGUF, MLX y ONNX, y ya son compatibles con entornos como llama.cpp, vLLM, SGLang y LM Studio. En condiciones ideales, el modelo decodifica a una velocidad de 220 tokens por segundo en una unidad M5 Max, consumiendo menos de 2.5 GB de memoria. Un solo GPU NVIDIA H100 SXM5 puede manejar alrededor de 1.300 millones de tokens diarios, ideal para equipos medianos.
Para entidades que buscan integrar inteligencia artificial sin depender de redes externas, el modelo ofrece soluciones viables en sectores como automotriz, electrónica de consumo, robótica industrial, salud, servicios financieros, comercio electrónico y defensa. Es particularmente adecuado en entornos regulados o aislados, donde no se permite el acceso a APIs externas. Aplicaciones prácticas incluyen asistentes en dispositivos móviles, triaje de documentos de más de 128K tokens, extracción de formularios e invoices, interpretación de comandos para robots y agentes en segundo plano que funcionan sin gasto por token.
Para el lector peruano, este avance representa una oportunidad para adoptar inteligencia artificial sin exponer datos personales o comerciales a plataformas remotas. En un contexto donde las empresas y pymes enfrentan restricciones regulatorias y preocupaciones por ciberseguridad, soluciones como esta permiten automatizar procesos críticos —como la gestión de documentos o el seguimiento de operaciones— sin comprometer la privacidad. Aunque el modelo no está recomendado para ciertos usos específicos, su arquitectura local y bajo costo lo convierte en una herramienta viable para innovadores que buscan aplicar IA de forma sencilla, segura y escalable.