SwarmEvolve : Qwen3-8B bat AlphaEvolve avec 450 agents latents
TL;DR
- Sur 21 problèmes, SwarmEvolve atteint en 3 à 8 minutes les scores que les concurrents obtiennent en 60 minutes.
- Le framework évalue 734 programmes par heure, contre 158 pour OpenEvolve, 99 pour ShinkaEvolve et 81 pour CodeEvolve.
- Avec Qwen3-8B gelé, SwarmEvolve améliore trois constructions initialement trouvées par AlphaEvolve avec les modèles Gemini.
Un modèle open-source de 8 milliards de paramètres a battu AlphaEvolve sur trois problèmes de mathématiques, dont le packing de 26 cercles où il atteint la meilleure somme de rayons connue à 2.635983.
Le framework responsable, SwarmEvolve, fait tourner 450 agents par round (dix essaims de 45) qui raisonnent directement dans l'espace latent et échangent leurs idées en se passant des KV caches, sans jamais décoder de texte. Publié le 6 novembre et relayé sur Hugging Face, le papier décrit une approche où « hundreds of low-cost agents per round work in swarms, reason in latent space without decoding to text, and share information by passing KV caches ».
Sur 21 problèmes de découverte mathématique et de calcul scientifique, les auteurs rapportent que SwarmEvolve « gets the highest average score and needs a median of only 3 to 8 minutes to reach the best scores that other state-of-the-art frameworks reach in 60 minutes ». En débit brut : 734 programmes évalués par heure, contre 158 pour OpenEvolve, 99 pour ShinkaEvolve et 81 pour CodeEvolve.
Le point qui va faire parler les labs : avec Qwen3-8B, SwarmEvolve dépasse en score moyen les trois mêmes baselines tournant pourtant sous Qwen3-32B-FP8. Et sur trois problèmes (un packing de cercles et deux inégalités d'autocorrélation), « SwarmEvolve with a frozen Qwen3 8B also improves on the constructions that AlphaEvolve originally found with frontier Gemini models », écrivent les auteurs.
Reste la lecture prudente : il s'agit d'un preprint non reproduit, et les 21 problèmes restent cantonnés aux maths et au calcul scientifique. Côté coverage, c'est le vingt-deuxième papier que nous relayons depuis le canal Hugging Face sur 90 jours, dans une veine où des modèles OSS plus petits, à l'image de Muir chez Google, cherchent à rogner l'écart avec les systèmes frontier par l'architecture plutôt que la taille.
Article original publié par huggingface.co
Lire l'article original →Titre original : SwarmEvolve exécute 450 agents latents par tour et bat AlphaEvolve avec Qwen3-8B