Segun MarkTechPost (AI/ML News), un equipo de investigadores y desarrolladores ha lanzado Token Saver, una extensión abierta para la plataforma Claude Desktop. Esta herramienta, creada durante un periodo de prácticas por Arnav Rai, estudiante de ciencias de la computación en el Instituto de Tecnología de Rochester, bajo la supervisión de Jean-marc Mommessin y Asif Razzaq, resuelve un problema recurrente en el uso de inteligencia artificial: el gasto excesivo de tokens al procesar documentos largos.
El fenómeno se manifiesta cuando se cargan PDFs de hasta 200 páginas. Aunque el usuario cree que solo se extrae texto, la mayoría de las versiones de Claude convierten cada página en una imagen para mantener diseños y gráficos. Este proceso genera un costo inicial elevado: entre 1.500 y 3.000 tokens por página solo en texto. Luego, cada interacción posterior reenvía el contenido completo al modelo, duplicando el uso de recursos. Aunque funciones como el almacenamiento de prompts o proyectos de Claude reducen el impacto, el documento completo sigue siendo transmitido a servidores externos.
Token Saver introduce una solución basada en RAG híbrido local. En lugar de enviar el archivo original, la herramienta procesa el contenido directamente en la máquina del usuario. Esto permite realizar búsquedas precisas sobre documentos extensos sin que el texto ingrese a los servidores de Claude. Los resultados demuestran que el consumo de tokens se reduce entre el 90 y el 99 por ciento. La implementación es sencilla: no requiere configuración de entornos de Python ni uso de terminales. La versión actual es de licencia MIT y está disponible en su estado inicial v1.0.
Para el lector peruano, este avance es especialmente relevante en un contexto de creciente acceso a tecnología digital. Muchos profesionales del sector público o privado —como docentes, analistas financieros o administradores de empresas— manejan archivos técnicos, informes o libros de texto de gran volumen. Sin herramientas que permitan procesar estos documentos de forma eficiente y privada, se enfrentan a altos costos operativos, riesgos de exposición de datos y tiempos de respuesta inaceptables. Con Token Saver, se puede analizar un manual de 1.000 páginas para responder preguntas específicas, sin necesidad de subir el documento ni comprometer la seguridad de la información. Esto no solo optimiza el uso de recursos, sino que también fomenta una práctica más responsable y sostenible de la inteligencia artificial en entornos locales.
La innovación no solo es técnica, sino también ética. Al mantener los datos en el dispositivo propio, se evita la dependencia de plataformas externas y se potencia la autonomía digital. En un país donde la conectividad y la infraestructura tecnológica siguen en desarrollo, soluciones como esta representan un paso clave hacia una adopción más inclusiva y segura de la inteligencia artificial en el día a día profesional.