Gebru et Bender : un chatbot a failli déclencher une frappe US

Dans une tribune publiée le 1er octobre dans The Guardian, Timnit Gebru, directrice de l'institut Dair, et Emily M. Bender, professeure de linguistique à l'University of Washington, retournent le débat sur les risques de l'IA. Le chapô pose la ligne : « The risks of AI aren't what we think they are, as a recent security incident between China and the United States reveals. »

Les autrices partent d'un reportage CNN du 18 septembre 2026. Un analyste américain avait demandé à un chatbot de combiner renseignement open-source et signaux classifiés sur un cargo chinois ; le rapport produit affirmait que le navire transportait des composants d'armes nucléaires vers l'Iran. Selon la même source, « Military aircraft were already en route to intercept the ship when officials discovered the intelligence was fabricated » par un chatbot qui avait « hallucinated » les détails de la cargaison.

Gebru et Bender s'arrêtent sur un détail du reportage : un ancien haut responsable américain décrit les chatbots en usage dans l'administration comme « just copies of the commercial stuff wearing lipstick ». Leur thèse se construit sur cette image. La menace à court terme n'est pas une IA autonome décidant seule : ce sont des systèmes déjà déployés, capables d'habiller une erreur du vocabulaire d'un rapport officiel et de la glisser dans une chaîne de décision humaine qui l'avale.

Le texte prolonge une séquence lisible dans nos pages : 87 alertes éthique IA sur les 90 derniers jours, et Gebru y figurait déjà cette semaine, après son entretien dans Wired qui refusait, sur un ton proche, le récit d'extinction par l'IA.