TikTok a exclu 10% des Américains d'un correctif de son algo

Un document interne obtenu par Bloomberg montre qu'en 2021, quand TikTok a ajusté son algorithme pour éviter de submerger ses utilisateurs de contenus problématiques, l'entreprise n'a pas déployé la nouvelle version à tout le monde. Elle a conservé environ 10% des utilisateurs américains, soit à peu près 15 millions de personnes à l'époque, sur l'ancienne version, afin de mesurer si le correctif risquait de réduire l'attractivité de l'application.

Le document parle d'un ajustement retenu « by design », c'est-à-dire délibérément, dans le cadre d'une expérience d'engagement. Ce groupe témoin incluait Chase Nasca, adolescent américain de 16 ans mort par suicide, dont le nom revient déjà dans les procédures visant la plateforme sur la santé mentale des mineurs.

Ce qui rend ce détail politiquement lourd, c'est la nature de la variable testée. Un test A/B sur une couleur de bouton est une pratique produit banale. Un test A/B où la version « moins nocive » est retenue à des millions d'utilisateurs pour vérifier combien de temps supplémentaire ils passent sur l'application est un arbitrage d'un tout autre ordre, précisément celui que les procureurs cherchent à documenter depuis des années dans les dossiers sur les adolescents et les réseaux sociaux.

La prudence honnête, c'est que le reportage repose sur un document interne dont Bloomberg a extrait la mécanique mais dont on ne connaît pas la durée exacte de l'expérience, le libellé complet du correctif de sécurité, ni la façon dont TikTok a documenté en interne les risques individuels encourus par ceux qui restaient dans le groupe témoin. À prendre comme tel, pas comme un dossier refermé.

Ce qui commence maintenant, c'est un tour de vis contentieux et réglementaire. Pour les plaignants dans les affaires liées à des adolescents, pour les procureurs généraux d'États américains qui poursuivent déjà TikTok, et pour les autorités européennes qui appliquent le régime des très grandes plateformes, un document interne qui chiffre à 15 millions d'utilisateurs le groupe témoin d'une expérience de sécurité vaut plus, comme pièce, que n'importe quel témoignage d'expert.