Segun MarkTechPost (AI/ML News), Nace AI ha lanzado Drex Max v1, un modelo de decisión de 27 mil millones de parámetros que puede ejecutarse directamente en dispositivos locales, incluyendo computadoras con procesadores de Apple Silicon. Esta versión, disponible como peso abierto, permite a desarrolladores y usuarios procesar tareas de clasificación, evaluación de opciones y control de políticas sin depender de servidores en la nube. El modelo incluye formatos de peso en bf16, Q8_0 GGUF y un checkpoint affine Q4, además de integraciones con plataformas como llama.cpp y Ollama, ampliando su accesibilidad.
La arquitectura de Drex Max se basa en una capa densa de 27B parámetros, con una ventana de tokens de 262,144 (por defecto 16,384), y soporta hasta 255 opciones por consulta. Su rendimiento ha sido validado en pruebas públicas, alcanzando una puntuación de 67.52 en el Índice de Decisión, un incremento de 6.27 puntos respecto a Drex v2.0, según datos autoinformados. En pruebas específicas, logra una precisión de 97.3 en InfographicVQA y un resultado de 81.9 en el área de herramientas. El modelo no genera texto, sino que asigna probabilidades a opciones predefinidas, lo que lo convierte en ideal para tareas de agente que requieren toma de decisiones rápidas y precisas.
El funcionamiento se divide en capas: 48 capas de atención con atención diferencial (Gated DeltaNet) que procesan secuencialmente los tokens, y 16 capas de atención completa, distribuidas cada cuatro capas y no causales, permitiendo que cada token evalúe toda la entrada. Este diseño permite una comprensión contextual profunda sin perder eficiencia. Para ejecución, el modelo puede operar en GPUs NVIDIA como H100 (con bf16) o L40S de 48 GB en modo de 8 bits, así como en Macs con al menos 24 GB de RAM (para Q4 affine) o 48 GB (para Q8_0 GGUF). Alternativamente, se puede ejecutar en CPU mediante herramientas como llama.cpp y Ollama.
Para el lector peruano, esta tecnología representa una oportunidad clave para reducir dependencia de servicios en la nube, especialmente en entornos de pequeñas y medianas empresas donde el acceso a infraestructura de alto costo es limitado. Con el crecimiento de la automatización en sectores como atención al cliente, gestión de tickets y control de procesos internos, modelos como Drex Max permiten implementar inteligencia artificial local, con menor riesgo de fallos por conectividad, mayor privacidad de datos y costos operativos más bajos. Esto es particularmente relevante en contextos donde la seguridad y el control de información son prioridades, como en entidades públicas o empresas del sector financiero. Aunque aún no está disponible en mercados latinoamericanos, su desarrollo abre caminos para soluciones prácticas y escalables que pueden adaptarse a las necesidades locales.