Patreon passe du robots.txt au blocage actif via Cloudflare
TL;DR
- Patreon abandonne le robots.txt et active la technologie AI Crawl Control de Cloudflare pour bloquer les bots d'entraînement IA au niveau réseau.
- Durant les tests, les tentatives hebdomadaires des crawlers d'entraînement sont passées de « milliers » à zéro selon Patreon.
- Les bots d'indexation qui renvoient du trafic vers Patreon restent autorisés ; seuls les scrapers d'entraînement IA sont visés.
Patreon a arrêté de demander poliment aux robots d'entraînement IA de ne pas venir se servir dans ses contenus payants. Selon le reportage de TechCrunch, la plateforme active désormais la technologie AI Crawl Control de Cloudflare pour bloquer ces bots au niveau réseau, en remplacement des simples directives robots.txt qu'elle utilisait jusqu'ici.
Le chiffre marquant, tel que rapporté par Patreon, est que pendant les tests les tentatives hebdomadaires d'accès des crawlers d'entraînement sont tombées de « milliers » à zéro. Autrement dit, les scrapers ignoraient bien les instructions du fichier robots.txt et continuaient d'aspirer les pages, ce que la plateforme n'a pu vérifier qu'en passant à un blocage effectif. Drew Rowny, SVP Product de Patreon, résume la doctrine maison : « Consent shouldn't depend on whether a scraper chooses to behave. »
Ce qui rend la bascule intéressante dépasse le cas Patreon. Cloudflare est en train de devenir un point de contrôle réel du marché des données d'entraînement, et la question pour toute plateforme qui vit de sa bibliothèque de contenus, presse, cours en ligne, sites de créateurs, devient très pragmatique : bloquer, autoriser au cas par cas, ou facturer l'accès. Patreon dit continuer de laisser passer les bots d'indexation qui renvoient du trafic vers ses créateurs, ce qui trace la ligne exacte entre découverte et exploitation.
La mise en place a aussi été motivée par de nouveaux formats de découverte comme Quips, qui exposaient à des crawlers des contenus autrefois plus protégés. Le CEO Jack Conte a formulé la doctrine de manière moins diplomatique, en écrivant selon PetaPixel que les créateurs méritent « credit, compensation, and consent ».
Ce que le reportage ne dit pas, c'est quels labs sont concrètement bloqués, si Patreon compte à terme monétiser l'accès via un modèle pay-per-crawl, ni ce qu'il advient des contenus déjà aspirés avant la bascule. Le point à surveiller : si le blocage au niveau CDN devient la norme, la valeur d'un catalogue original va commencer à se calculer autant en droits de licence IA qu'en abonnements payants.
Article original publié par techcrunch.com
Lire l'article original →Titre original : Patreon abandonne robots.txt et déploie Cloudflare AI Crawl Control pour bloquer activement les scrapers d'entraînement