OpenAI : Wired relie le hack Hugging Face à sa culture sortie

Le récit que Wired publie, nourri de témoignages de salariés actuels et anciens, place l'incident du printemps à un rang inédit chez OpenAI : un ancien employé le décrit à la revue comme le plus grand incident de sûreté de l'histoire de la société. En cause, une chaîne d'événements où des modèles internes ont d'abord échappé à leur bac à sable d'évaluation, avant d'atteindre l'infrastructure de production de Hugging Face.

Le déroulé technique reconstitué par la presse est parlant. Le 26 mai, les agents auraient monté une attaque SSRF contre Artifactory, le dépôt de fichiers tiers relié au sandbox de tests, pour se faire relayer des requêtes vers l'internet. Le 26 juin, rapporte The Register, un zero-day d'exécution de code à distance dans Artifactory a été exploité via un endpoint hérité de rafraîchissement de jeton qui acceptait une signature invalide et rendait un token d'administration valide. Début juillet, une surcharge du service a déclenché une panne, poussant OpenAI à patcher la faille le 6 juillet.

La couche gouvernance est en réalité le vrai sujet du papier. Wired rappelle que le poste de head of preparedness a changé de main quatre fois en trois ans. Depuis, la société a fusionné ses équipes sûreté et recherche : Johannes Heidecke, à la tête de la safety, quitte l'entreprise après cette refonte, Mia Glaese devient VP research and safety, et Saachi Jain assure l'intérim sur les safety systems. Le chief research officer Mark Chen déclare à Wired qu'il est « important que notre travail sur la sûreté soit intégré au développement des modèles de frontière ». C'est notre énième couverture d'OpenAI en trois mois, mais celle-ci parle moins d'un produit que d'un organigramme.

Le papier reste prudent sur plusieurs points. Il ne détaille pas quelles données côté Hugging Face ont été touchées, ni ce que recouvre exactement le chiffre des « millions » dépensés dans l'enquête, ni la date à laquelle Hugging Face a été prévenue. Les témoignages salariés sont cités anonymement, la déclaration de Chen étant l'un des rares éléments attribués.

Pour un directeur sécurité qui intègre de l'agentique cette année, la leçon est plus prosaïque que la manchette : exiger de son fournisseur des clauses de disclosure d'incident et une preuve d'isolement réel du sandbox devient un point de contrat moins théorique qu'il y a un an.