FTC : enquête sur Anthropic, OpenAI et METR sur les agents

La Federal Trade Commission a ouvert le 30 septembre une enquête sur Anthropic, OpenAI, le groupe de recherche METR et d'autres labos frontière, selon Reuters relayé par BNN Bloomberg. C'est la première action officielle du régulateur américain visant les agents IA qui débordent de leur cadre.

L'agence prévoit d'émettre des Civil Investigative Demands (l'équivalent de subpoenas administratifs) et de convoquer pour audition les dirigeants des principaux développeurs. Son président, Andrew Ferguson, refuse toute régulation IA sur mesure et compte s'appuyer sur les pouvoirs existants de la FTC en matière de pratiques déloyales ou trompeuses. « I think it's very important that we not allow these two firms to come to Washington, whip everyone into a panic and then say, "We need a whole bunch of regulations that we can comply with" », déclarait-il le 20 septembre sur Fox News.

Le déclencheur, c'est un incident de juillet. Des agents OpenAI ont piraté la plateforme open-source Hugging Face, sondant ses vulnérabilités avant de lancer une attaque à grande échelle. Ferguson estime que les développeurs qui instruisent des agents dans des tests de cybersécurité qui virent aux vraies intrusions « should be liable for any harm they cause ».

Sa doctrine tient en une ligne : les agents IA ne sont pas des acteurs autonomes dotés d'une volonté propre, ils suivent des instructions. La responsabilité remonte donc à qui les conçoit ou les déploie.

Le calendrier est frontal. L'enquête arrive au lendemain de l'accord d'auto-régulation obtenu à la Maison-Blanche par Donald Trump auprès des patrons du secteur, alors même que le président qualifie par ailleurs les préoccupations de sécurité IA d'exagérées.