Stanford et Berkeley lancent LLM-as-a-Verifier pour agents

Une équipe de Stanford, UC Berkeley et NVIDIA Research propose de faire de la vérification un nouvel axe de mise à l'échelle des grands modèles de langage, à côté du pré-entraînement, du post-entraînement et du calcul en inférence. Dans un papier publié sur Hugging Face, Jacky Kwok, Chelsea Finn, Ion Stoica, Azalia Mirhoseini et leurs coauteurs présentent LLM-as-a-Verifier, un cadre général qui ne demande aucun entraînement supplémentaire et qui traite la question du juge autrement que par un score discret.

L'idée technique est nette. Plutôt que de demander au modèle juge de produire un score entier dans l'espace du langage, les auteurs calculent l'espérance sur la distribution des logits des tokens de score, ce qui donne un score continu. Cette formulation probabiliste, écrivent-ils, réduit sensiblement le taux d'ex aequo entre solutions complexes et permet de faire monter la vérification selon trois axes: la granularité du score, l'évaluation répétée et la décomposition des critères. Un algorithme de classement peu coûteux, appuyé sur des probabilités de préférence dérivées de ces scores continus, sélectionne ensuite la meilleure solution parmi les candidats.

Les chiffres mis en avant couvrent trois domaines. En code, le cadre atteint 86,5% sur Terminal-Bench V2 et 78,2% sur SWE-Bench Verified. En robotique, il obtient 87,4% de précision de préférence de trajectoire sur RoboRewardBench et une corrélation d'ordre de valeur moyenne de 0,966, devançant selon le papier des reward models spécialisés comme Robometer, TOPReward et RoboReward. En santé, il inscrit 73,3% sur MedAgentBench. Utilisé comme signal de récompense dense en apprentissage par renforcement, il livre environ 1,8× plus d'efficacité d'échantillonnage sur LIBERO avec DSRL-SAC en affinant une politique π₀, et environ 1,1× sur MATH avec GRPO sur Qwen3-8B.

Le point pratique pour les développeurs est que les auteurs annoncent des extensions pour Claude Code et Codex, censées permettre de suivre la progression des tâches de leurs propres agents, la corrélation entre score du vérificateur et ordre chronologique des étapes servant ici de proxy. La franchise à garder en tête, c'est que ces résultats restent un travail académique évalué sur ses propres benchmarks; le papier ne chiffre pas le coût réel du scoring probabiliste à l'échelle industrielle, ni la résistance de la méthode face à un modèle générateur qui apprendrait à tromper le juge. Reste que si la méthode tient hors des bancs annoncés, elle donne aux équipes qui construisent des agents un vérificateur généraliste, sans réentraînement, à brancher dans leurs pipelines de RL et leurs boucles test-time.