Segun MarkTechPost (AI/ML News), investigadores de la Universidad de Stanford y Lambda Labs han presentado OpenJarvis, un marco abierto que permite ejecutar inferencia, agentes, memoria y aprendizaje completamente en dispositivos personales. Este sistema no depende de servidores remotos, lo que reduce significativamente los costos y tiempos de respuesta. En pruebas comparativas, los modelos configurados mediante OpenJarvis alcanzan un promedio de 3,2 puntos porcentuales por debajo del rendimiento de los modelos más avanzados en la nube, con un costo marginal de API 800 veces menor y una latencia aproximadamente cuatro veces menor bajo el protocolo de referencia.
La investigación se extiende a un estudio previo sobre eficiencia de inteligencia por vatios, que mostró que los modelos locales ya manejan el 88,7% de las consultas de chat y razonamiento en tiempo interativo, y que la eficiencia ha mejorado 5,3 veces entre 2023 y 2025. OpenJarvis no incluye un modelo específico, sino que actúa como un entorno modular que integra cualquier modelo compatible, evaluado en once modelos locales provenientes de cuatro familias distintas. Su estructura se basa en cinco componentes fundamentales: inteligencia, motor de inferencia, agentes, herramientas y memoria, y sistema de aprendizaje. Cada uno de estos elementos puede ser reemplazado de forma independiente, lo que permite personalizar el sistema según las necesidades del usuario.
La inteligencia se define mediante el modelo, sus pesos y parámetros de generación, con opciones de cuantización. El motor de inferencia incluye configuraciones de ejecución, agrupación de consultas y rutas hacia hardware específicos. Los agentes gestionan ciclos de razonamiento mediante estrategias como ReAct o CodeAct, junto con políticas de uso de herramientas y límites de interacciones. Las herramientas y la memoria permiten conectarse a más de 25 fuentes de datos y 32 canales de comunicación, con soporte nativo para MCP y backends intercambiables. El sistema de aprendizaje utiliza optimizadores como LoRA, DSPy o GEPA, y permite buscar configuraciones mediante búsqueda guiada por modelos. Todas estas piezas se definen en un archivo TOML, que permite compartir configuraciones de agentes y herramientas entre distintos escenarios, mientras se mantienen diferencias solo en el modelo y el motor de ejecución.
Para los usuarios peruanos, esta tecnología representa una oportunidad clave para acceder a inteligencia artificial sin depender de internet de alta velocidad o de servicios en la nube. En zonas rurales o con conectividad limitada, el uso de IA local puede transformar el acceso a asistentes digitales, apoyo en educación, diagnósticos básicos o gestión de tareas personales. Aunque aún se encuentra en fase de desarrollo, OpenJarvis demuestra que es posible operar sistemas de inteligencia artificial de alto rendimiento directamente en dispositivos comunes, como computadoras personales o tabletas. Esto no solo reduce costos, sino que también aumenta la privacidad y la autonomía digital, aspectos críticos en un contexto de conectividad variable en el país.