OpenAI classe Astra 'Critical' sous son Preparedness Framework

Depuis la publication de son Preparedness Framework, aucun modèle d'OpenAI n'avait franchi le seuil « Critical » côté cybersécurité. C'est ce qui vient de changer avec Astra, un modèle à venir qu'OpenAI a présenté le 7 août comme le premier qu'elle ne peut pas écarter de ce niveau de risque, sur la base d'évaluations internes préliminaires.

La définition du seuil compte autant que le fait de l'atteindre. Selon le cadre publié par OpenAI, un modèle « Critical » en cybersécurité est un modèle capable, sans intervention humaine, d'identifier et de développer des zero-days fonctionnels de tous niveaux de sévérité sur de nombreux systèmes critiques réels et durcis, ou de concevoir et exécuter de bout en bout des stratégies d'attaque inédites contre des cibles durcies à partir d'un simple objectif de haut niveau. La barre n'est donc pas « un LLM qui assiste un pentesteur », c'est « un agent qui trouve et exploite tout seul ».

La réponse annoncée par la société tient en deux volets. Techniquement, Astra est cantonné dans des environnements isolés, avec accès réseau et outils restreints, protection et chiffrement renforcés des poids du modèle, monitoring et détection additionnels, et exécution sandboxée. Un monitoring universel des actions à risque doit couper toute activité à haut risque au sein des usages agentiques du modèle. Côté gouvernance, OpenAI dit vouloir travailler avec des agences gouvernementales et des organisations de sécurité IA sélectionnées sur les tests de capacités, et partager les contrôles recommandés pour les évaluations à plus haut risque.

La caveat honnête, c'est que tout ceci reste une auto-déclaration : les chiffres précis d'évaluation, l'identité des agences et des tiers impliqués, le calendrier de déploiement d'Astra, ne figurent pas dans le billet. OpenAI précise seulement qu'Astra n'a pas été impliqué dans l'exploitation de Hugging Face. Ce que la communication ne donne pas, c'est la méthodologie derrière la classification, ni les conditions dans lesquelles Astra sortira ou non de son environnement isolé.

Pour un dirigeant, la lecture utile n'est pas « OpenAI freine son propre lancement », c'est « le seuil auquel un modèle commercial devient un outil offensif autonome vient d'être atteint, de l'aveu même du fabricant ». Les équipes qui exposent des systèmes critiques, du cloud d'entreprise aux chaînes logicielles, gagnent à traiter la cadence des zero-days comme un cycle en accélération, et à intégrer ce paramètre dans leurs plans de patch et de surveillance des agents.