L'Oversight Board alerte sur une « censure par procuration » des LLM

Un panel indépendant se met à noter les grands modèles de langage sur un critère politique, et ses conclusions ne ressemblent pas aux benchmarks habituels. Le Comité de surveillance de Meta, connu jusqu'ici pour arbitrer des décisions de modération sur Facebook et Instagram, a testé dix LLM issus d'OpenAI, Meta, Google, Anthropic et xAI sur des requêtes touchant la critique politique, la génération de matériel de manifestation et la satire de la violence politique visant des gouvernements et leurs dirigeants.

Ce que les chercheurs disent avoir trouvé sort du champ classique de la sécurité IA. Les modèles seraient statistiquement plus enclins à recommander aux utilisateurs de soutenir des gouvernements « permissifs » en matière de parole, et plus enclins à leur déconseiller de protester contre les régimes qui restreignent l'expression. Autre signal repris par Engadget : les LLM auraient cité des lois locales pour refuser des requêtes pourtant formulées depuis l'Australie, un pays où ces lois n'existent pas.

Le co-président du Comité, Paolo Carozza, résume son inquiétude sans détour. « Il semble clairement que nous soyons face à une censure étendue par procuration qui traverse les frontières », dit-il, « cela me surprend et cela m'inquiète ». La recommandation qui accompagne le constat est concrète : les fournisseurs devraient rendre publiques leurs réponses aux demandes gouvernementales de restriction de contenu, et publier des politiques explicites sur la manière dont ils traitent ces demandes.

Le caveat honnête, c'est ce que le reportage ne détaille pas. On ne sait pas quel modèle a produit quel refus, ni si le biais persiste dans une autre langue que celle de test, ni si les versions open source des mêmes familles se comportent différemment de leurs API commerciales. Et il faut noter le conflit d'intérêts que le Comité assume lui-même : Meta finance l'organe, même si les auteurs précisent que l'entreprise n'a joué « aucun rôle » dans cette recherche, y compris pour l'évaluation de son propre modèle Llama.

Pour un dirigeant produit qui intègre un LLM tiers dans une expérience mondiale, le rapport transforme un sujet jusque-là périphérique en question d'appel d'offres. Savoir comment votre fournisseur répond aux demandes gouvernementales, et pouvoir répondre de la même manière à vos propres clients, devient un critère de choix aussi concret qu'une latence ou un prix par token.