Anthropic intègre six évaluateurs METR avec droit de publier
TL;DR
- Six METR staff are physically embedded inside Anthropic with hardware and access matching Anthropic's own internal risk assessment teams.
- Anthropic may request narrow redactions, but METR can publicly state whether it considers each redaction justified, preserving independent credibility.
- Reuters documented Anthropic sought editorial authority over evaluator reports as recently as October 5, making this a reactive reversal, not proactive leadership.
Six employés de METR disposent désormais de matériel Anthropic, de bureaux et d'un accès aux outils internes « roughly on par » avec celui des équipes risques de la maison, selon une mise à jour publiée par Anthropic le 15 octobre.
L'ONG pourra publier ses analyses sans visa préalable. « METR will publish its analysis of our risk levels, incidents, or practices », écrit l'entreprise, qui précise ne pas pouvoir opposer de veto. Les coupes autorisées se limitent à trois catégories : « data about customers, attorney-client privileged information, or information about our model architectures ».
Si METR juge une redaction abusive, il reste libre de le faire savoir publiquement.
Anthropic situe ce partenariat au sommet d'un dispositif à trois étages. Le tier 1, où opère SecureBio sur les contenus chimiques et biologiques, impose une publication sous approbation. Le tier 2 lève cette approbation; le tier 3, celui de METR, y ajoute l'accès employé.
Autour, l'entreprise mentionne un partenariat « ambitious » avec Accenture et Faculty incluant red-teaming et tests de garde-fous, et des discussions encore amont avec Hugging Face. Elle rattache l'ensemble au « White House Accord on Super Intelligence », par lequel les signataires s'engagent à travailler avec des auditeurs externes indépendants.
Le billet s'inscrit dans une séquence chargée pour la société, entre des demandes d'information de la FTC et des annonces financières à l'approche d'une IPO. Reste à voir ce que METR publiera, à quelle cadence, et combien de coupes seront effectivement demandées.
Ce qu'en disent les autres médias
-
Reuters Lire →
Reuters, which exclusively reported Anthropic sought publication control days prior, frames the move as reactive to researcher concerns about labs controlling independent reviews.
METR will be able to publish independent assessments of risks, incidents and safety practices without prior approval
-
TechCrunch Lire →
TechCrunch places the announcement inside a wave of rogue AI agent disclosures every week or two since late August, framing this as crisis-driven rather than voluntary governance.
"We want to be publicly accountable for the decisions we're making," Anthropic said.
-
TechTimes Lire →
TechTimes adds a named critic, former White House AI advisor David Sacks, questioning METR's independence via shared EA networks, and stresses METR cannot compel model deployment halts.
Six researchers from METR are now working inside Anthropic with company hardware, office space, and the legal right to publish what they find without Anthropic's approval.
Shared on Bluesky by 1 AI expert
Article original publié par anthropic.com
Lire l'article original →Titre original : Anthropic installe six évaluateurs de METR en interne avec accès type salarié et droit de publier