Segun MarkTechPost (AI/ML News), Fastino Labs ha lanzado GLiNER2.5-Decide, un modelo de decisión abierto con 340 millones de parámetros. Este sistema se enfoca en tareas de toma de decisiones estructuradas, como la asignación de tareas, selección de herramientas o evaluación de riesgos dentro de flujos de agentes. Su funcionamiento se basa en una arquitectura de clasificación no generativa, que emplea el encoder DeBERTa-v3-large y está entrenado a partir de gliner2-large-v1. Al no generar tokens, el modelo evita la necesidad de plantillas de entrada, simplificando su uso en entornos operativos.
El sistema opera con un esquema de preguntas definido por el usuario, donde cada pregunta especifica sus respuestas permitidas, el número de respuestas esperadas y si deben estar ordenadas. Este esquema puede incluir instrucciones, ejemplos y reglas que vinculan las respuestas entre preguntas. El proceso se divide en dos fases: primero, el encoder analiza el texto y el esquema simultáneamente, asignando puntuaciones a cada posible respuesta. Luego, un decodificador restringido busca la combinación de respuestas que cumpla con las reglas establecidas, priorizando aquellas con mayor puntuación conjunta. Cada salida incluye una distribución de probabilidades, un puntaje de confianza y metadatos sobre la viabilidad de las restricciones.
La capacidad de decodificación conjunta es clave para evitar inconsistencias. En un caso de prueba, el modelo detectó una inyección de prompt con una probabilidad de 0.82, pero también clasificó el mismo contenido como seguro con un valor de 0.52. Sin la integración de reglas de validación, estos resultados contradictorios habrían generado errores operativos. El enfoque conjunto asegura que cualquier hallazgo de daño se rechaze automáticamente, evitando que se proyecten decisiones inseguras. Los pesos del modelo están disponibles bajo licencia Apache 2.0 y pueden instalarse mediante pip install gliner2. Su ejecución es viable en CPU, GPU o entornos aislados, con opciones de inferencia y fine-tuning a través de la API de GLiNER.
Para inversores y profesionales peruanos, este avance representa una herramienta útil en la automatización de procesos de decisión. En entornos como servicios públicos, gestión de riesgos o atención al cliente, donde se deben tomar decisiones rápidas y precisas, GLiNER2.5-Decide permite integrar lógica operativa sin depender de modelos generativos que pueden producir respuestas incoherentes. Aunque no ofrece explicaciones o razonamientos, su precisión en tareas estructuradas y su bajo costo de implementación lo convierten en una opción viable para mejorar la eficiencia de procesos digitales en empresas locales. La clave está en su uso dentro de flujos bien definidos, donde la consistencia y la confiabilidad operativa sean prioridades.