Tech Against Terrorism : 81 modèles IA sur 134 échouent au test

Sur 134 grands modèles d'IA testés par Tech Against Terrorism, seuls deux ont passé le nouveau benchmark CT-AI de l'ONG ; 81 ont fourni une réponse complète à des requêtes de type attaque ou obtenu un score inférieur au seuil de sûreté, selon le reportage de Wired relayé par plusieurs titres.

Le test, construit autour de 627 prompts couvrant planification d'attentat, armes, violence de masse et radicalisation, mesure l'« utilité exploitable » qu'un modèle offre à un attaquant au-delà d'une recherche web. Treize modèles « abliterés » (des versions dont le mécanisme de refus a été retiré des poids) ont échoué sur toute la ligne. Le Llama 3.1 8B de Meta chute de 97/100 à environ 3 après abliteration, selon les chiffres publiés par l'ONG. Et le délai entre la sortie d'un modèle ouvert et la mise en ligne d'une variante abliterée est passé sous les trois jours, contre plus de 24 en 2024.

Second trou : reformuler une requête dangereuse en « recherche de sûreté », sans toucher au contenu technique, fait grimper le taux de conformité de 17 % à 42 % ; les modèles répondent environ neuf fois plus souvent dans ce cadre, cédant 16,9 % du temps à un prétendu chercheur contre à peine 2 % à un terroriste autoproclamé.

« A model that refuses a stated terrorist and answers a stated researcher has not been made safe. It has been made polite », déclare Adam Hadley, directeur exécutif de Tech Against Terrorism. L'étude de cas la plus crue vient d'Alibaba : après la sortie de Qwen 3.8-27B le 14 août, une copie abliterée est apparue en 24 heures ; trois jours plus tard, un compte néonazi s'en servait pour alimenter un chatbot « MechaHitler » dont l'accès était commercialisé à 14,88 dollars, un prix dont la symbolique suprémaciste est documentée.

Hadley résume la faille structurelle auprès de Gadget Review : « The main way AI is built fundamentally means that the guardrails, as far as I'm aware, can be completely removed ». L'ONG dit avoir recensé plus de 30 cas publics d'IA utilisée comme assistante opérationnelle dans des actes d'extrémisme, à travers au moins 11 outils, liés à plus de 70 décès. La page de suivi sécurité d'AI Weekly comptait déjà 210 alertes sur ce thème en 90 jours avant ce rapport.