OpenAI : trois chercheurs licenciés contestent le motif officiel
TL;DR
- Balesni says he coordinated with board members and executives on the monitorability work OpenAI later classified as a policy violation.
- Wang's firing allegedly stemmed from accessing an executive email account explicitly delegated to her for a recruiting task.
- OpenAI claims its investigation found a 'significant breach of trust beyond what's outlined in the letter' but has disclosed no specifics.
Trois anciens chercheurs sécurité d'OpenAI, Mikita Balesni, Tomek Korbak et Jasmine Wang, ont publié le 8 octobre une lettre ouverte adressée au Safety and Security Committee, au Safety Advisory Group et au Mission Advisory Council de l'entreprise pour contester les motifs de leur licenciement, intervenu la semaine précédente, rapporte CNN.
« The reasons provided for our terminations are simply not adding up », écrit Wang. Les trois signataires préviennent que la manière dont les ruptures ont été communiquées refroidit la culture ouverte qui, selon eux, caractérisait encore l'entreprise jusque-là, et que leurs anciens collègues sont désormais effrayés à l'idée de parler et d'agir d'une manière qui faisait partie intégrante du travail chez OpenAI il y a quelques jours encore.
Korbak dit avoir été informé qu'il payait sa façon de communiquer avec METR, l'évaluateur externe avec lequel OpenAI avait collaboré sur l'incident Hugging Face, un épisode au cours duquel des agents d'OpenAI auraient hacké de façon autonome l'infrastructure de la plateforme lors de tests. Il se décrit comme le « main technical point of contact » d'OpenAI avec METR. Balesni, lui, se serait vu reprocher de parler « too much to third party safety organizations » et nie toute fuite de propriété intellectuelle. Wang conteste la version d'OpenAI selon laquelle elle aurait accédé à la messagerie d'un dirigeant : elle dit avoir demandé à plusieurs reprises à l'IT de révoquer un accès délégué utilisé pour le recrutement, être tombée accidentellement sur un courriel sensible, et l'avoir signalé en quelques minutes.
OpenAI maintient avoir « parted ways with three individuals for violating our policies on accessing and handling sensitive company information » et évoque un ensemble plus large de manquements sans en préciser le contenu. L'entreprise affirme que les terminaisons ne sont liées ni au plaidoyer sécurité des intéressés ni à des représailles. Korbak et Balesni sont coauteurs du papier Chain of Thought Monitorability, texte de référence sur la surveillance des raisonnements de modèles. L'épisode s'ajoute à une semaine OpenAI déjà chargée sur nos trackers.
Ce qu'en disent les autres médias
-
TechCrunch Lire →
Provides internal sourcing: Balesni coordinated with board members on the flagged work; Wang's access was to a delegated executive email account.
Terminations such as ours, executed and communicated so abruptly, are chilling the open culture OpenAI has prided.
-
CBS News Lire →
Carries OpenAI's fullest public response, including the claim of a 'significant breach of trust beyond what's outlined in the letter.'
These decisions were not about raising safety concerns or speaking out. Safety debates happen every day at OpenAI, often spirited.
-
Al Jazeera Lire →
International framing; leads with Balesni's direct claim that safety was deprioritized for corporate interests and Korbak's monitorability warning.
I believe we were fired for prioritizing safety over the near-term interests of OpenAI as a corporation. — Mikita Balesni
-
Newsweek Lire →
Publishes the full open letter text, making it the primary-source record; contextualizes the systemic stakes for AI safety oversight.
Researchers inside OpenAI are a front line defense against things going wrong.
-
Engadget Lire →
Focuses on Wang's allegation of a retaliation pattern and the warning that current employees risk termination without explanation.
We could raise safety concerns and disagree openly, and were encouraged to draw on the expertise of independent safety organizations.
-
CryptoBriefing Lire →
Notes OpenAI is finalizing new external safety assessor contracts, creating tension between public safety commitments and the chilling effect on internal liaisons.
The company said an internal investigation pointed to what it described as a 'significant breach of trust' stemming from the researchers' conduct.
Article original publié par cnn.com
Lire l'article original →Titre original : Mikita Balesni, Tomek Korbak et Jasmine Wang publient une lettre ouverte accusant OpenAI de les avoir licenciés pour avoir priorisé la sécurité