OpenAI ouvre ses modèles aux évaluateurs dès l'entraînement
TL;DR
- The published principles name no evaluator partner and set no minimum access level, despite Sam Altman's earlier promise of desks, badges, and laptops with the right to publish findings.
- OpenAI retains first access to findings and can request redactions over sensitive material, which critics characterize as a commissioned audit structure rather than independent oversight.
- Four priority areas are defined — safety cases, critical safeguards, capability evaluations, and misalignment incident review — but no methodology, timeline, or access floor accompanies them.
OpenAI dit qu'il laissera des groupes tiers mener des évaluations techniques de sécurité pendant l'entraînement et l'évaluation de ses modèles, pas seulement avant leur lancement, et discute avec METR et Redwood Research. Aucun partenaire n'est nommé, aucune condition d'accès n'est fixée, écrit The Next Web après une avance de Bloomberg mardi.
Dix jours plus tôt, la promesse était plus concrète. Sam Altman avait évoqué un accès de niveau salarié pour les évaluateurs, avec « desks, badges and laptops » et un droit de publication. Le billet publié cette semaine se limite à évoquer une venue dans les bureaux « for the most sensitive work ».
Lama Ahmad, qui pilote le travail d'OpenAI avec les experts en sécurité extérieurs, « said it is talking to organisations it has and has not used before ». Le laboratoire liste quatre priorités : « independence mechanisms, scientific rigour, security practices and clear responsibilities ». Rien sur le financement, rien sur les échéances.
Le contraste avec Anthropic est net. La semaine dernière, le concurrent d'OpenAI a annoncé qu'il embarquerait des évaluateurs d'Accenture, en « paying the company evaluating it at least $1B over five years », tout en reconnaissant dans la même annonce que « the money should come from pooled or government sources because neither exists yet ». OpenAI laisse la question ouverte.
Le calendrier n'est pas neutre. Depuis août 2025, l'article 55 du règlement européen sur l'IA impose aux fournisseurs de modèles à usage général présentant un risque systémique de mener des tests adverses standardisés, aux côtés d'obligations de cybersécurité et de report d'incidents. Cette annonce s'ajoute à une longue file de dépêches OpenAI tracées ces trois derniers mois où le curseur gouvernance bouge en même temps que les procès et les fuites.
Ce qu'en disent les autres médias
-
OpenAI Lire →
First-party source document. Lists four assessment priority areas and states evaluators may be brought on-site for sensitive work, with no named partner and no committed access floor.
-
Forkast Lire →
Sharpest critical take: frames the framework as a preemptive move against SB 813 and documents 200-plus researcher demands for editorial independence the framework structurally denies.
By formalizing these internal processes, OpenAI is positioning itself to control the evaluation process from the inside out.
-
Resultsense Lire →
Sharpens the UK policy choice: a lab-controlled scope and redaction process is a poor substitute for a statutory AISI with compulsion powers, which the UK body still lacks.
A process in which the lab agrees the scope, sees findings first and can request redactions is closer to a commissioned audit than to external checks.
-
Quartz Lire →
Straight news coverage confirming the announcement's reach into mainstream business press; page returned 403 on fetch so no direct quote extracted.
Article original publié par thenextweb.com
Lire l'article original →Titre original : OpenAI publie ses principes pour ouvrir ses modèles aux évaluateurs tiers dès la phase d'entraînement