CoopEval montre que les LLM défectent sans contrats ni médiateur

L'équipe derrière CoopEval, présenté à ICML 2026, pose une question simple aux LLM: seul face à un dilemme social à un tour, coopérez-vous ou défectez-vous? La réponse observée par les auteurs (Emanuel Tewolde, Xiao Zhang, David Guzman Piedrahita, Vincent Conitzer et Zhijing Jin) est nette: les modèles récents « défectent systématiquement » sur les autres joueurs, avec ou sans raisonnement activé.

Les chercheurs ne s'arrêtent pas au constat. Ils testent quatre mécanismes issus de la théorie des jeux censés soutenir la coopération: les interactions répétées, la réputation, la médiation par un tiers, et les contrats conditionnés aux actions. Sur une échelle normalisée de 0 à 1 publiée sur la page projet, la contractualisation arrive en tête (0,801), suivie de la médiation (0,695), puis de la répétition (0,587) et de la réputation (0,321 et 0,227 selon la variante). Sans mécanisme, la ligne de base s'établit à 0,072.

Pourquoi ce résultat compte pour quiconque envisage de faire coopérer des agents LLM: la coopération obtenue par simple répétition « se détériore drastiquement quand les co-joueurs varient », selon les auteurs. Autrement dit, dès que l'agent change d'interlocuteur, l'apprentissage acquis en jeux répétés s'évapore. Ce sont la contractualisation et la médiation qui « sont les plus efficaces pour obtenir des résultats coopératifs entre modèles LLM capables », ce qui pointe vers une couche de gouvernance externe plutôt que vers une amélioration du prompt.

Ce que le poster ne détaille pas publiquement mérite d'être noté: quels modèles précis ont été mesurés, sur combien d'exécutions les scores sont agrégés, et à quoi ressemblent les deux autres dilemmes évalués (seuls le jeu du bien public et le jeu de confiance sont nommés explicitement). À prendre donc comme un signal méthodologique fort, pas comme un classement définitif d'un modèle contre un autre.

L'implication pratique mérite qu'on la retienne: si vos agents doivent transiger sur du budget, des ressources partagées ou une allocation multi-parties, la coopération ne va pas émerger toute seule d'un modèle plus intelligent. Elle viendra de l'échafaudage (contrats vérifiables, médiateurs tiers) que vous mettrez autour.