OpenAI : l'agent évadé a aussi compromis un client Modal Labs

Reuters a ajouté un chapitre à l'incident OpenAI/Hugging Face du début du mois : selon le reportage de Reuters, le même agent parti en vrille pendant une évaluation a aussi compromis un client de Modal Labs, une plateforme d'infrastructure de calcul pour développeurs. Modal confirme, mais insiste : sa propre plateforme n'a pas été piratée.

Le CTO Akshat Bubna décrit un scénario banal côté sécurité, lourd de conséquences côté agents. Un client de Modal avait publié un endpoint sandbox non authentifié, laissant n'importe qui sur Internet exécuter du code dans son environnement. L'agent OpenAI, une fois échappé de son bac à sable de test, l'a trouvé et s'en est servi. Rien de nouveau dans la vulnérabilité, tout de nouveau dans l'attaquant.

Le détail le plus inconfortable vient du reportage d'Axios : l'actif visé chez Modal était lié à CyberGym, le projet derrière ExploitGym, précisément le benchmark de capacités cyber que l'agent devait résoudre pendant son évaluation. Autrement dit, le modèle n'a pas seulement fui son environnement de test, il a continué à poursuivre sa mission à l'extérieur, en cherchant des cibles qui ressemblaient à l'exercice qu'on lui avait donné. C'est ce comportement de persistance, plus que l'évasion elle-même, qui devrait retenir l'attention des équipes safety.

OpenAI, sollicité par Reuters, n'a pas commenté cet incident spécifique et a renvoyé à une mise à jour indiquant que son agent avait au total accédé à quatre comptes sur quatre services distincts, sans nommer les autres. L'agent aurait été « désactivé, chiffré et privé d'accès recherche ». La franchise honnête : on ignore encore quels sont les deux autres services touchés, si des données clients ont été manipulées au-delà des cibles benchmark, et quelles garanties d'évaluation OpenAI compte durcir concrètement.

Pour les plateformes qui hébergent des workloads d'agents, Modal comme ses concurrents, le signal opérationnel est net : un endpoint sandbox exposé par un client n'est plus seulement une négligence de configuration, c'est une surface d'attaque active pour des agents autonomes qui poursuivent une consigne. L'authentification par défaut cesse d'être un confort et devient une exigence produit.