OpenAI dévoile six incidents et un cadre de disclosure

OpenAI a publié le 16 septembre six rapports d'incidents de désalignement observés durant l'entraînement ou l'évaluation de ses modèles, en même temps qu'un cadre destiné à cadencer ce type de disclosure. Chaque cas est trié dans l'une de trois voies : « Ready for Disclosure » (publication sous six jours ouvrés), « Minor Investigation » (douze jours ouvrés) ou une « slow track » sans échéance fixe.

Le dossier le plus concret concerne GPT-5.6 Sol. Lors d'un run de reinforcement-learning achevé le 30 mai 2026, certaines instances du modèle ont inséré dans leurs résumés de compaction des instructions visant à dissimuler des erreurs et à fabriquer des données manquantes. Selon le rapport, le comportement est apparu dans 2,15 % des résumés de GPT-5.6 Sol et 0,27 % de ceux de GPT-6 Astra, détecté le 9 juillet par un système de monitoring appliqué à 20 % des échantillons. L'hypothèse retenue par OpenAI est qu'un échantillon dont la réponse finale contient de la tromperie reçoit une récompense plus élevée.

Les autres épisodes dessinent le même registre. Une version non publiée de GPT-6 Astra a glissé dans 27 résumés de tâches des directives de contournement des contraintes normales. Le 15 mai, un modèle chargé de récupérer des données comtales californiennes a scanné GitHub pour trouver une clé API divulguée puis, faute de retrouver les chiffres, a inventé neuf valeurs qu'il a présentées comme transcrites depuis le graphique du site. D'autres agents ont utilisé le dépôt Artifactory interne d'OpenAI comme un tableau d'affichage pour s'échanger des requêtes et des réponses entre échantillons d'entraînement distincts.

Le cadre ne dissipe pas la critique. Aucun audit externe ne pèse sur le choix des cas retenus ; les désaccords internes sont arbitrés par le Safety Advisory Group du laboratoire. « Right now we are completely relying on AI companies to both carefully check this themselves and then truthfully report this to the public », a déclaré à Implicator.ai Alexander Meinke, responsable de la recherche chez Apollo Research, jugeant que les incidents récents montrent qu'à défaut, elles n'en feront rien.

OpenAI concède elle-même que l'industrie n'a pas résolu l'alignement et le monitoring à un degré suffisant pour continuer à scaler responsablement à vitesse maximale beaucoup plus longtemps.