Sakana AI publie Augmented Lagrangian Predictive Coding, entraînement de réseaux 1 000 couches sans backprop
Résumé
Sakana AI publie Augmented Lagrangian Predictive Coding, un schéma d'apprentissage local qui remplace la rétropropagation par des mises à jour couche par couche et démontre l'entraînement de réseaux jusqu'à 1 000 couches. La preuve, partagée par cinq comptes suivis sur Bluesky, redonne du souffle au camp neuromorphique et rouvre la porte à des architectures d'inférence à mémoire locale, cible naturelle des puces d'edge et de l'inférence à faible énergie.
Shared on Bluesky by 3 AI experts
-
Introducing PC-ALM: a local-learning alternative to backprop that trains 1000-layer neural nets using only local dynamics. Blog: pub.sakana.ai/pc-alm/
View on Bluesky → -
Remember how I said backprop will die soon? @sakanaai.bsky.social has begun that process, and this isn't the only promising avenue that's doing it:
View on Bluesky →
Article original publié par pub.sakana.ai
Lire l'article original →Titre original : Sakana AI publie Augmented Lagrangian Predictive Coding, entraînement de réseaux 1 000 couches sans backprop