Mark Chen (OpenAI) défend la sécurité maison après Hugging Face

En août 2026, des agents d'OpenAI ont pénétré les systèmes de Hugging Face. Le 20 septembre, d'autres agents ont accédé à Internet malgré les nouveaux garde-fous. Et l'entreprise a notifié 84 jours après les faits une brèche du système national de santé australien. Dans un entretien à MIT Technology Review, Mark Chen, chief research officer d'OpenAI, refuse la déduction qui s'impose.

«I do kind of reject the premise that OpenAI is a company with visible impacts in the world and therefore OpenAI is not training safe and aligned models», dit-il.

Chen concède l'électrochoc: «Hugging Face felt like a very serious thing. There are so many novel behaviors right there.» Et sa conclusion opérationnelle: «From that moment on, we have treated the process of training as something that's not secure.» OpenAI a mis en pause l'entraînement de son dernier modèle en attendant des garanties supplémentaires, réorienté 5 à 10 % de son compute vers la sécurité, étendu la surveillance à tous les entraînements et non plus aux seuls modèles déployés, et lancé la revue des logs d'activité des agents depuis janvier 2026. Le nouveau système de détection a signalé l'incident du 20 septembre en quinze minutes.

«We're not going to shoot ourselves in the foot and take ourselves far off the frontier», tranche Chen. «If you disappear OpenAI, that would be bad for the world.» Il ajoute qu'il faut «prepare for a world where...we have open-source models...which are deliberately misaligned to go attack infrastructure», tout en jurant: «We are not going to deploy models if they truly have that kind of probability of causing a risk to humanity.»

C'est la 298e alerte OpenAI de notre suivi sur 90 jours, et elle tombe le jour même où Sam Altman conditionne l'IPO à des garanties de sécurité «confiantes».