Segun MarkTechPost (AI/ML News), investigadores de Sakana AI han presentado PC-ALM, una alternativa local al algoritmo de retropropagación en redes neuronales. Esta metodología, basada en el modelo predictivo (predictive coding), permite entrenar redes de hasta 1000 capas, alcanzando un rendimiento aproximado al 2 por ciento de lo que logra el algoritmo clásico de retropropagación en el conjunto de datos MNIST. La innovación radica en que cada actualización se mantiene local, sin necesidad de sincronización global entre capas, lo que contrasta con el proceso tradicional de retropropagación, que requiere una secuencia de pasos interconectados y bloqueados.
El enfoque de PC-ALM parte de una restricción matemática: minimizar el error supervisado bajo la condición de que cada activación en una capa se derive directamente de la anterior, mediante una función de activación sigma. En lugar de aplicar una penalización cuadrática como en el modelo predictivo estándar, esta versión utiliza un método de Lagrangiano ampliado, incorporando un multiplicador de Lagrange λᵢ que tiene la misma dimensión que la activación de la capa. Esta estructura permite que el sistema recupere señales de crédito similares a las obtenidas en retropropagación, aunque sin depender de una propagación global de gradientes.
El estudio se centra en redes residuales de capas múltiples, evaluadas en tareas de reconocimiento de imágenes. Los resultados muestran que el método es viable en entornos de cálculo limitado, ya que su implementación inicial se ejecuta en CPU mediante código abierto basado en JAX, bajo licencia MIT. Aunque los resultados se obtienen en benchmarks pequeños, como MNIST, el avance representa un paso significativo en la búsqueda de alternativas más eficientes y escalables al algoritmo tradicional de retropropagación.
Para el lector peruano, este desarrollo tiene implicaciones en la viabilidad de construir modelos más grandes y rápidos sin depender de infraestructuras de alto costo. En un contexto donde el acceso a hardware especializado es limitado, técnicas como PC-ALM podrían democratizar el acceso a inteligencia artificial avanzada. Aunque aún se requieren pruebas en escenarios más complejos, como imágenes reales o datos de mercados, su capacidad de operar en dispositivos comunes sugiere que podrían integrarse en aplicaciones de finanzas, comercio o servicios digitales locales. La innovación no solo busca mejorar el rendimiento, sino también reducir barreras tecnológicas que históricamente han limitado el uso de modelos profundos en entornos de bajo presupuesto.