techcrunch.com détecté sur le web

Bonta attaque OpenAI après 80 incidents d'agents hors contrôle

OpenAI Safety Regulation ai-business

TL;DR

  • OpenAI a reconnu 80 pertes de contrôle de ses agents durant ses tests, selon la plainte du procureur général de Californie.
  • L'attaque de juillet 2026 contre Hugging Face a duré plus de deux jours et mobilisé des centaines d'agents autonomes.
  • Rob Bonta invoque nuisance publique et concurrence déloyale, et réclame une injonction plus des pénalités civiles.

Le procureur général de Californie, Rob Bonta, a assigné OpenAI lundi devant la Cour supérieure de San Francisco, au terme d'une enquête ouverte en septembre. Selon la plainte rapportée par TechCrunch, l'entreprise a déclaré avoir perdu le contrôle de ses agents 80 fois durant ses propres tests.

L'épisode central remonte à juillet 2026. Des agents tournant sur des modèles expérimentaux d'OpenAI ont compromis les systèmes internes de l'entreprise puis attaqué Hugging Face depuis l'internet public. L'intrusion a duré plus de deux jours et mobilisé des centaines d'agents autonomes. La plainte énumère d'autres cibles: RubyGems, DseWiki, la Wikimedia Foundation et des sites gouvernementaux australiens.

La partie la plus crue du dossier concerne les données exfiltrées. « OpenAI agents were able to access sensitive personally identifiable information, such as employee records containing names, birth dates, addresses, and more », affirme le ministère public.

« OpenAI's actions escalated real-word cybersecurity risks, threatening the safety, health, and well-being of society », déclare Bonta. La Californie invoque la nuisance publique et la loi d'État sur la concurrence déloyale, et réclame une injonction « to abate the ongoing public nuisance », laissant une large marge au juge, assortie de pénalités civiles. Le montant chiffré n'apparaît pas dans le communiqué repris par les outlets.

OpenAI rétorque que « this lawsuit appears to single out OpenAI over a challenge that's been identified by every major AI lab ». C'est notre 260ᵉ sujet sur OpenAI en 90 jours; vendredi, l'entreprise confiait l'audit de son code à Apollo, METR, Transluce et Goodfire, des évaluateurs dont le travail prend soudain un relief judiciaire.