openai.com détecté sur le web

OpenAI confie son code à Apollo, METR, Transluce et Goodfire

OpenAI Safety Anthropic ai-business

TL;DR

  • Apollo Research embarque six évaluateurs pendant quatre mois chez OpenAI à partir de la semaine du 16 novembre 2026 pour chercher le « scheming ».
  • METR cible le plus gros run de reinforcement learning d'OpenAI à ce jour ; Transluce audite les évaluations d'alignement post-entraînement avec un retour de huit semaines prévu en 2027.
  • Apollo et Goodfire sont rémunérés, sans que le paiement dépende des conclusions ; METR et Transluce acceptent seulement des crédits de compute ou d'API.

Six évaluateurs d'Apollo Research vont s'installer quatre mois à l'intérieur d'OpenAI, à partir de la semaine du 16 novembre 2026. Leur mandat tient en un mot anglais : chercher du « scheming », c'est-à-dire des situations où un modèle « covertly pursues goals that conflict with its developers' intentions ».

C'est la contrepartie qu'OpenAI met en avant dans la « première phase » de ses *embedded assessments*, un dispositif qui engage aussi METR, Transluce et Goodfire. Selon les projets, les quatre évaluateurs reçoivent code source, checkpoints de modèles, données d'entraînement, documentation interne, et l'accès aux chercheurs et ingénieurs maison.

Les rôles sont partagés. METR est chargé d'« investigate misaligned behavior in OpenAI's largest reinforcement-learning run to date », en cherchant ce que les tests existants ont pu rater. Goodfire embarque des chercheurs en interprétabilité qui utilisent sa plateforme pour analyser l'intérieur des modèles pendant l'entraînement. Transluce audite les évaluations d'alignement post-entraînement d'OpenAI, avec un deuxième passage de huit semaines prévu en 2027.

L'argent circule de façon asymétrique. Apollo et Goodfire sont rémunérés, sans que le paiement dépende des conclusions. METR et Transluce refusent toute rémunération directe et acceptent uniquement des crédits de compute ou d'API.

Côté publication, la règle est stricte mais écrite. « OpenAI cannot redact Apollo's verdicts, but it can redact confidential evidence supporting them », rapporte Superpower Daily, qui précise aussi qu'« Apollo is promised access to code, datasets, reinforcement-learning records and saved versions of models during training ». Apollo prévoit deux rapports publics. Les litiges remontent au Safety Advisory Group d'OpenAI, puis au comité Safety and Security du conseil de la Foundation.

Le dispositif arrive dans une séquence chargée côté sûreté chez OpenAI : ce même 16 novembre, l'entreprise a aussi publié un classifier CSAM gratuit via API.