ISD: le 'slop jihad' IA pro-ISIS déferle sur TikTok et Instagram

Un rapport de l'Institute for Strategic Dialogue, partagé en exclusivité à Wired, décrit une vague de propagande djihadiste générée par IA que ses auteurs surnomment 'slop jihad' : cartoons, fan-edits et mèmes produits par de jeunes sympathisants d'ISIS et d'Al-Qaïda pour recruter en ligne.

Le document cite une vidéo d'exécution de l'État islamique vieille de plus d'une décennie, rejouée en cartoon SpongeBob SquarePants avec des poissons en combinaison orange. Sur TikTok, Instagram et Discord, des personnages animés comme SpongeBob et Rick Sanchez, ou des YouTubeurs populaires tels que PewDiePie et MrBeast, apparaissent en train d'entonner des nasheeds de combat, ces «Islamic vocal music pieces traditionally used to motivate warriors in combat».

Adam Hadley, directeur exécutif de Tech Against Terrorism, organisation antiterroriste soutenue par l'ONU, résume l'enjeu de modération : «Highly stylized AI-generated content can make violent Islamist extremist material more accessible to younger audiences while reducing the visibility of conventional terrorist branding.» Selon lui, un utilisateur peut croiser la glorification des auteurs «perpetrator glorification inadvertently through fan edits, cartoons, memes», ce qui oriente ensuite les recommandations algorithmiques vers de la propagande plus explicite.

L'ISD y voit «a fundamental transformation in the aesthetics of jihadist propaganda online». Le rapport prolonge une série de dossiers récents sur l'usage détourné de l'IA générative sur les grandes plateformes, dont les 300 publicités pédocriminelles diffusées par Meta signalées cette semaine par le Tech Transparency Project.