Segun MarkTechPost (AI/ML News), IBM ha presentado Granite Speech 5.0 2B, un nuevo modelo de lenguaje abierto diseñado para convertir habla en texto y realizar traducciones en seis idiomas. Este modelo, con 2 mil millones de parámetros, opera bajo licencia Apache 2.0 y está optimizado para aplicaciones de transcripción en entornos de uso local. Su arquitectura se divide en tres componentes clave: un codificador de voz compuesto por 16 bloques de Conformer entrenados mediante CTC, una etapa de atención basada en ventanas de audio de cuatro segundos y un proceso de reducción de embeddings que finaliza en una tasa de 10 Hz. Esta estructura permite que el modelo procese fragmentos de audio de hasta dos minutos, manteniendo precisión y eficiencia.
El núcleo de la inteligencia del modelo se basa en una versión intermedia del sistema Granite-4.0-1B-Base, ampliada hasta 16 mil posiciones mediante la extensión YaRN y refinada con técnicas de fine-tuning por medio de LoRA. Este enfoque permite que el modelo no solo detecte y transcriba el habla, sino que también distinga entre hablantes en un mismo audio, generando transcripciones atribuidas a cada persona. Los resultados de pruebas muestran que el modelo ocupa el segundo lugar en el leaderboard abierto de reconocimiento de voz, con un error promedio de 5,68% en inglés (WER), alcanzando una precisión de 0,99% en el conjunto LibriSpeech Clean y un desempeño más bajo de 13,79% en un conjunto privado de conversaciones.
Para desarrolladores, el modelo ofrece opciones de ejecución versátiles: puede correrse en GPUs mediante herramientas como Transformers o vLLM, en procesadores Apple Silicon con mlx-audio, y en dispositivos locales con CPU o Mac a través de llama.cpp y el formato GGUF (con recomendación de calidad Q8_0). Aunque su rendimiento es robusto, IBM sugiere limitar los segmentos de audio a dos minutos, ya que el modelo no está diseñado para procesar duraciones más largas sin pérdida de coherencia.
Para los lectores peruanos, este avance representa una herramienta clave en el acceso a tecnologías de reconocimiento de voz que pueden integrarse en entornos locales. En un contexto donde el acceso a servicios de traducción o transcripción en idiomas como el quechua o el aimara sigue siendo limitado, modelos como este pueden facilitar el uso de tecnologías de comunicación en comunidades rurales. Aunque aún no está disponible en idiomas indígenas, su capacidad de adaptación a múltiples lenguas abre puertas para futuras aplicaciones que potencien la inclusión digital en el Perú.