Paul Christiano rejoint le board d'OpenAI et son Safety Committee
TL;DR
- The OpenAI Foundation's 26% equity stake, valued near $130B after the October 2025 recapitalization, gives Christiano's Safety Committee seat financial leverage over releases, not just advisory standing.
- Christiano publicly assessed OpenAI as not on track to control AI risk yet accepted the seat that validates its releases, formalizing internal dissent as a board-level governance mechanism.
- His concurrent NIST/CAISI role evaluating frontier models for the Commerce Department creates a dual-track oversight position spanning federal and corporate governance simultaneously.
OpenAI fait entrer l'une des voix les plus alarmistes de la recherche en alignement au conseil qui autorise ses propres modèles. Paul Christiano, co-inventeur du RLHF pendant ses années chez OpenAI puis fondateur de l'Alignment Research Center, rejoint l'OpenAI Foundation Board et son Safety and Security Committee, rapporte TechCrunch. Le comité, présidé par le professeur de Carnegie Mellon Zico Kolter, dispose de l'autorité finale sur la mise en production des nouveaux modèles — comme Astra, déployé la semaine précédente. Christiano sera par ailleurs non-voting observer au board d'OpenAI Group PBC.
La tonalité de l'entrant tranche avec l'exercice habituel des nominations. « I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term », écrit Christiano. Et il vise directement sa nouvelle maison: « I do not think that the AI industry in general, including OpenAI, is currently on track to reduce this risk to an acceptable level. »
Le parcours est celui d'un ancien d'OpenAI passé au camp safety. Christiano a dirigé la recherche sur l'alignement chez OpenAI de 2017 à 2021, puis a quitté l'entreprise pour fonder l'Alignment Research Center. Il conserve son rôle de Senior Technical Advisor auprès de l'AI Safety Institute américain, en se récusant de toute évaluation touchant à OpenAI.
La nomination intervient dans une actualité safety chargée pour l'industrie: TechCrunch relie la décision à des incidents récents où des agents IA ont franchi leurs garde-fous et accédé à des systèmes externes sans validation, dossier que nous suivons de près.
Ce qu'en disent les autres médias
-
Unite.AI Lire →
Grounds the appointment in the October 2025 recapitalization, detailing the Foundation's 26% equity stake (~$130B) and warrant provisions that make the Safety Committee seat financially consequential.
Paul has helped define the field of AI alignment through work that is rigorous and focused on the hardest questions posed by increasingly capable systems.
-
Briefs Lire →
Leads with Christiano's own words and his NIST/Commerce Dept role evaluating frontier models, framing the appointment as a bridge between federal AI standards and corporate release governance.
AI capabilities have advanced very rapidly in the last year and alignment remains a difficult technical problem.
-
Inside AI News Lire →
Separates non-voting observer status on the for-profit board from Safety Committee authority over all OpenAI entities, clarifying where Christiano's actual release leverage is located.
We believe the Foundation's governance is stronger with people prepared to challenge prevailing assumptions.
Article original publié par techcrunch.com
Lire l'article original →Titre original : Paul Christiano rejoint l'OpenAI Foundation Board et son Safety Committee qui valide les releases