Gebru et Bender démontent 'l'été du hype IA' dans MIT Tech Review

MIT Technology Review publie une tribune de Timnit Gebru, directrice exécutive de DAIR, et d'Emily M. Bender, professeure de linguistique à l'Université de Washington, qui reprennent un à un les 'breakthroughs' IA de ces derniers mois pour les démonter. Fin avril, Anthropic affirmait que son modèle Claude Mythos débusquait les failles logicielles mieux que la plupart des experts en sécurité. Sont venus ensuite l'incident de hacking OpenAI-Hugging Face, les mea culpa d'Anthropic (fier) et de Meta (à contrecœur) sur des incidents similaires, deux 'percées mathématiques' revendiquées coup sur coup par Anthropic puis OpenAI, et la sortie virale de l'ingénieur d'Anthropic Jacob Coxon annonçant son départ parce que son employeur et OpenAI 'foncent tout droit vers une superintelligence auto-améliorante et jouent avec nos vies'.

Deux jours avant la publication, Tristan Buckmaster, professeur de mathématiques à l'Institut Courant de NYU, a mis en ligne une déclaration laissant entendre qu'OpenAI 'avait volé le travail d'autres personnes et l'avait mal attribué'. Sur les prétendus modèles hackeurs, les autrices renvoient aux experts en cybersécurité, qui décrivent selon elles 'la négligence d'OpenAI et son incapacité à adopter des pratiques de sécurité basiques et établies', pas des 'modèles devenus voyous'.

Côté mathématiques, plusieurs centaines de signataires de la Leiden Declaration écrivent qu'il existe 'actuellement une forte incitation commerciale, de la part de l'industrie technologique, à surestimer les capacités de ses produits' et demandent aux décideurs de 'consulter des experts, y compris des mathématiciens' plutôt que de s'appuyer sur les communiqués et la couverture presse des résultats mathématiques.

L'industrie IA est même allée, écrivent Gebru et Bender, jusqu'à qualifier l'activisme populaire et bipartisan contre les data centers de 'distraction' par rapport à la régulation des machines 'surhumaines' qu'elle construit. Les autrices retournent la focale: la catastrophe climatique aggravée par ces installations, l'asthme des riverains, les factures d'électricité subventionnées par le public, l'eau redirigée pour les refroidir. La tribune se referme sur un mot d'ordre: apprendre à 'reprendre notre souffle', maintenir le scepticisme et reconnaître ce genre de hype 'pour ce qu'il est la prochaine fois'.