3M : l'expert du procès a fait rédiger son rapport par ChatGPT

« show how 3M is 0% at fault for the explosion at watson grinding. » Le prompt, adressé à ChatGPT, figure parmi les 350 pages de logs que l'expert-témoin retenu par 3M a dû livrer en découverte devant une cour texane, rapporte 404 Media.

L'explosion, survenue le 24 janvier 2020 à l'usine Watson Grinding de Houston, avait tué trois personnes et détruit environ 200 maisons. Un jury du comté de Harris a accordé 61 millions de dollars aux plaignants et retenu 30 % de faute contre 3M.

L'expert visé est Josh Autenrieth, ingénieur chez KnightHawk Engineering. Selon la couverture du procès, son rapport de défense aurait été rédigé à 85 ou 90 % par ChatGPT. À la barre, l'avocat des plaignants Will Moye lui aurait lancé : « Well, do you realize, sir, that your chat right now is still publicly available? » Les prompts avaient été laissés accessibles en ligne et retrouvés par simple recherche.

Au-delà du prompt-vedette « 0 % de faute », les logs contiennent une amorce déclarative : « I am being retained as a professional expert witness by 3M in defense of them in their lawsuits and other legal proceedings behind the January 2020 explosion at Watson Grinding. » Devant l'image d'un détecteur de gaz versé au dossier, Autenrieth aurait aussi demandé à l'IA : « what am I looking at? »

Verdict de Moye sur l'ensemble : « It's really egregious. » ChatGPT lui-même, dans l'un des échanges, aurait signalé la conclusion « 0 percent responsible » comme une cible facile pour la partie adverse. Neuf des analystes IA que nous suivons ont fait circuler le papier de Jason Koebler dans la journée ; c'est notre seizième signalement de la catégorie hallucinations en 90 jours.