Anthropic intègre six évaluateurs METR avec droit de publier

Six employés de METR disposent désormais de matériel Anthropic, de bureaux et d'un accès aux outils internes « roughly on par » avec celui des équipes risques de la maison, selon une mise à jour publiée par Anthropic le 15 octobre.

L'ONG pourra publier ses analyses sans visa préalable. « METR will publish its analysis of our risk levels, incidents, or practices », écrit l'entreprise, qui précise ne pas pouvoir opposer de veto. Les coupes autorisées se limitent à trois catégories : « data about customers, attorney-client privileged information, or information about our model architectures ».

Si METR juge une redaction abusive, il reste libre de le faire savoir publiquement.

Anthropic situe ce partenariat au sommet d'un dispositif à trois étages. Le tier 1, où opère SecureBio sur les contenus chimiques et biologiques, impose une publication sous approbation. Le tier 2 lève cette approbation; le tier 3, celui de METR, y ajoute l'accès employé.

Autour, l'entreprise mentionne un partenariat « ambitious » avec Accenture et Faculty incluant red-teaming et tests de garde-fous, et des discussions encore amont avec Hugging Face. Elle rattache l'ensemble au « White House Accord on Super Intelligence », par lequel les signataires s'engagent à travailler avec des auditeurs externes indépendants.

Le billet s'inscrit dans une séquence chargée pour la société, entre des demandes d'information de la FTC et des annonces financières à l'approche d'une IPO. Reste à voir ce que METR publiera, à quelle cadence, et combien de coupes seront effectivement demandées.