Según MarkTechPost (AI/ML News), You.com ha presentado Inference Router, una solución gestionada que permite ejecutar modelos abiertos en entornos productivos. Esta plataforma, compatible con las APIs de OpenAI y Anthropic, conecta 12 modelos activos, desde GPT-OSS 120B con contexto de 125 mil tokens hasta Kimi K3 y Qwen3.8 Max, que alcanzan hasta 1 millón de tokens. Kimi K3 posee 2.8 trillones de parámetros, mientras que Qwen3.8 Max es un modelo MoE de 2.4 trillones. El servicio garantiza un tiempo de disponibilidad de 99.9%, sin almacenamiento de datos, y opera con hosting completamente en Estados Unidos. La operación es de tipo pay-as-you-go, sin cargos adicionales por uso de la plataforma.
El flujo de solicitud se estructura de forma escalonada: cada petición primero ingresa al servicio propio de inferencia de You.com, conocido como Inference Direct. En caso de inactividad, se redirige automáticamente a proveedores en Estados Unidos. Este mecanismo evita que los equipos de desarrollo gestionen infraestructuras de hardware, como GPUs, eliminando así responsabilidades operativas. En pruebas realizadas con el conjunto de evaluación LiveNewsBench, combinaciones de modelos abiertos junto con la búsqueda web de You.com alcanzan rendimientos comparables a los de modelos de vanguardia, pero al costo reducido. Por ejemplo, GLM-5.3 con integración de búsqueda obtuvo un puntaje de 86.53%, a un costo de 0.0485 dólares por pregunta, frente a 0.0920 dólares para Claude Sonnet 5.5. Los precios por token se mantienen cercanos al mercado, con Kimi K3 a 2.85 dólares por 14.25, ligeramente por debajo de los 3.00 y 15.00 de Together AI.
Este desarrollo responde a una necesidad identificada en el sector: las migraciones a modelos abiertos se ven obstaculizadas por revisión de seguridad, particularmente en temas como el manejo de datos, accesibilidad y políticas de privacidad. Los proveedores especializados suelen requerir compromisos financieros elevados. Inference Router aborda esta brecha al ofrecer una solución integrada, segura y accesible, sin necesidad de inversiones iniciales masivas.
Para el lector peruano, este avance representa una oportunidad clave en el acceso a tecnologías de inteligencia artificial de alto rendimiento. Mientras que muchos equipos en el país aún dependen de servicios externos o soluciones de pago por licencia, herramientas como esta permiten integrar inteligencia artificial en aplicaciones empresariales, desde atención al cliente hasta análisis de mercados, sin necesidad de infraestructura propia. La combinación de bajo costo, alta disponibilidad y cumplimiento de estándares de privacidad abre la puerta a que más empresas, especialmente pequeñas y medianas, puedan experimentar con IA de calidad sin riesgos ni barreras tecnológicas.