ICML 2026 sacre l'alerte « censor's toolkit » de Ball et Hackemann

Il y a quelque chose d'inconfortable dans le palmarès 2026 annoncé par ICML : la conférence décerne son Outstanding Position Paper à Sarah Ball et Phil Hackemann pour un texte au titre volontairement gênant, « The Alignment Community is Unintentionally Building a Censor's Toolkit ». Selon la citation du jury, le papier « challenges the comfortable assumption held by some of us that we are a force for good », en soutenant que même l'alignement des valeurs, l'outil que la communauté construit pour éviter que l'IA ne nuise, peut être détourné. Le jury note aussi que le texte propose des directions de mitigation « raising awareness of the dual-use nature of the technologies our community develops ».

Les deux Outstanding Papers concernent tous les deux les modèles de diffusion, ce qui en dit long sur l'état de la recherche. Le premier, « The Flexibility Trap », signé Zanlin Ni, Shenzhi Wang, Yang Yue et huit co-auteurs, revient sur une hypothèse dominante du domaine : que la génération dans un ordre arbitraire serait un atout des diffusion language models. Le papier soutient au contraire que cet ordre permet de « bypass exactly the high-uncertainty 'forking' tokens », et propose une approche baptisée JustGRPO. Le second, « High-Accuracy Sampling for Diffusion Models and Log-Concave Distributions » de Fan Chen, Sinho Chewi, Constantinos Daskalakis et Alexander Rakhlin, tranche une question théorique de long cours sur l'échantillonnage score-based, en démontrant qu'une erreur ε peut être atteinte en polylog(1/ε) étapes plutôt qu'en poly(1/ε).

Le Test of Time revient à un papier de 2016 : « Asynchronous Methods for Deep Reinforcement Learning », de Volodymyr Mnih, Adrià Puigdomènech Badia, Mehdi Mirza, Alex Graves, Timothy P. Lillicrap, Tim Harley, David Silver et Koray Kavukcuoglu. Le jury salue un texte qui « pioneered asynchronous reinforcement learning (RL) » et qui « has been a major contributing factor to the success of RL in LLM post-training ». Dix ans plus tard, la méthode irrigue encore la manière dont on post-entraîne les grands modèles.

Le message pour un praticien est double. Côté technique, la trajectoire se joue autant sur la théorie de l'échantillonnage que sur les architectures, et les diffusion language models restent un terrain d'hypothèses fragiles. Côté politique de la recherche, primer un position paper qui accuse sa propre communauté d'outiller involontairement la censure est un signal éditorial fort d'ICML, même si le communiqué se garde de désigner un censeur précis ou un cadre juridique particulier.

Ce que la note du blog ne donne pas, c'est le détail des « real-world evidence » invoquées par Ball et Hackemann, ni la liste des pistes de mitigation qu'ils proposent, ni les affiliations des équipes lauréates. La suite intéressante sera de voir si le débat porté par ce prix trouve un écho dans les prochains programmes de financement de la recherche en alignement, ou s'il reste cantonné à une controverse de conférence.