Según MarkTechPost (AI/ML News), un equipo de investigadores de la Universidad de California en Berkeley y de la Universidad de Texas en Austin ha presentado FreeToken, una plataforma de ejecución de modelos de inteligencia artificial diseñada para funcionar en equipos personales, no en infraestructuras de datos. Esta innovación resuelve una brecha clave: aunque modelos de gran tamaño como GLM-5.2 ya se disponen públicamente, su ejecución requiere infraestructuras de hardware de alto costo, como clusters de GPUs industriales. FreeToken cambia ese paradigma al tratar a una computadora personal como una plataforma flexible y escalable de inferencia, optimizando el uso de recursos como GPU, CPU, memoria y conectividad.
Los resultados muestran un rendimiento notable: un modelo de 35 billones de parámetros opera a velocidad interactiva en una GPU de un portátil de 8 GB, mientras que un sistema de 284 billones logra su ejecución en una estación de trabajo con tarjeta gráfica de gaming. Lo más destacado es que el modelo GLM-5.2, con 753 billones de parámetros, se ejecuta sin problemas en una sola tarjeta gráfica de escritorio. La plataforma está disponible bajo licencia Apache 2.0, publicada en GitHub y en PyPI como freetoken v0.1.2. Su instalación es directa mediante comandos de línea para Linux con GPU NVIDIA de driver r580 o superior y CUDA 13. Además, FreeToken ofrece endpoints compatibles con OpenAI y Anthropic, y permite conectar servicios como Claude Code, Codex o OpenClaw directamente a la máquina local.
Para el entorno peruano, este avance tiene un impacto significativo. Muchos desarrolladores independientes, emprendedores y equipos pequeños en sectores como servicios financieros, salud o legalidad enfrentan altos costos de infraestructura para implementar inteligencia artificial. Hoy, con FreeToken, estos actores pueden ejecutar modelos avanzados sin necesidad de contratar servidores externos o invertir en hardware especializado. En el sector financiero, por ejemplo, una empresa de asesoría podría usar el sistema para automatizar análisis de documentos sin que los datos salgan de su red local, cumpliendo con normativas de privacidad. En salud, pequeñas clínicas podrían integrar herramientas de diagnóstico basadas en IA, sin depender de centros tecnológicos. Aunque no sustituye a infraestructuras corporativas, FreeToken abre una vía viable para que el poder de la inteligencia artificial se extienda más allá de las grandes empresas.
Este desarrollo refleja una tendencia clave: la descentralización del poder computacional. En un contexto donde el acceso a tecnologías avanzadas se ve limitado por costos, soluciones como FreeToken permiten democratizar el uso de IA, especialmente en entornos donde la seguridad y la autonomía tecnológica son prioridades.