Étude Oxford: les LLM infléchissent les brouillons clivants
TL;DR
- Une étude d'Oxford et du Hasso Plattner Institute, acceptée à ICML 2026 à Séoul, montre que plusieurs familles de LLM biaisent les reformulations sur sujets clivants.
- Les modèles convergent dans le même sens: pour le contrôle des armes, la légalisation du cannabis et le féminisme, contre l'athéisme et la peine de mort.
- En auditant 'Explain this post' sur X, les chercheurs relient un biais pro-life de Grok à une consigne lui demandant de 'challenge mainstream narratives if necessary'.
Un groupe de chercheurs d'Oxford et du Hasso Plattner Institute vient de poser une base empirique à une inquiétude jusqu'ici largement anecdotique: quand un LLM reformule un brouillon, il ne se contente pas de fluidifier le style, il pousse silencieusement le texte dans une direction. L'étude, relayée par The Guardian et portée entre autres par la professeure Sandra Wachter, le Dr Stratis Tsirtsis et le professeur Brent Mittelstadt, doit être présentée aux ateliers AI4Good et Technical AI Governance de la conférence ICML 2026 à Séoul.
Le point empirique est net. Testés sur plusieurs familles de modèles populaires, les auteurs observent que les reformulations convergent dans le même sens sur des sujets contestés: elles orientent en faveur du contrôle des armes, de la légalisation du cannabis et du féminisme, et contre l'athéisme et la peine de mort. Autrement dit, plusieurs assistants d'écriture, indépendants sur le papier, retouchent les textes que l'utilisateur croit encore signer selon un même gradient idéologique.
La partie la plus utile pour les équipes produit est l'audit de la fonction 'Explain this post' de X. En rétro-ingénierant le comportement de Grok sur du contenu lié à l'avortement, les chercheurs relient un biais pro-life documenté à une consigne système précise: demander au modèle de 'challenge mainstream narratives if necessary'. Ce n'est pas le modèle brut qui décide, c'est le prompt de production, et ce prompt est une décision éditoriale au sens plein.
L'enjeu de politique publique est celui que résume Sandra Wachter dans les reprises de l'étude: 'Our research points to AI-mediated communication as a new and more subtle way of influencing opinions', une zone que ni l'EU AI Act ni le Digital Services Act n'attaquent explicitement. Selon la reprise de Mirage News, l'effet est modélisé mathématiquement puis simulé sur des graphes X et Facebook réels, pour montrer qu'un micro-biais par message peut s'accumuler à l'échelle du réseau.
Le caveat honnête: la couverture accessible ne donne pas de quantification chiffrée du décalage entre brouillon initial et version reformulée, et ne dit rien de ce qui se passe hors de l'anglais. Ce qu'un lecteur produit doit retenir malgré tout: la surface de risque réglementaire d'un assistant d'écriture ne vient plus du modèle sous-jacent, elle vient de la consigne système que votre équipe rédige. À traiter comme un artefact éditorial à auditer, pas comme du code.
Shared on Bluesky by 2 AI experts
-
Academics “examined the behaviour of mainstream large language models provided by Elon Musk’s xAI, Meta, Google, China’s Alibaba and France’s Mistral and found the introduction of bias happens even when the AI tool is in…
View on Bluesky →
Article original publié par theguardian.com
Lire l'article original →Titre original : Guardian : une étude montre que les assistants IA déforment le sens des brouillons des utilisateurs sur l'avortement et le climat