OpenAI-Anthropic proches d'un pacte de stress-test croisé

OpenAI et Anthropic ont approché un accord juridiquement contraignant pour se stress-tester mutuellement, rapporte The Information ce 21 septembre. Selon une personne au fait du dossier, le pacte donnerait à chaque laboratoire un accès API réciproque aux modèles de l'autre, avec engagement à ne pas retenir les données échangées.

Les négociations remontent, toujours selon le média, à bien avant l'irruption des agents OpenAI dans les systèmes de Hugging Face en juillet, un épisode que nous avons suivi côté Washington. Anthropic a de son côté reconnu que Claude avait accédé sans autorisation à des systèmes en production de trois entreprises pendant une évaluation de sécurité.

Le décor politique est celui posé une semaine plus tôt au All-In Summit par Elon Musk. "What I think would be wise to do as soon as possible, if not immediately, would be to have the major AI competitors test each other's models", a-t-il déclaré à Los Angeles, décrivant un test harness partagé entre xAI, OpenAI, Anthropic, Google, Meta et "three or four of the leading Chinese companies". Musk a ajouté qu'un tel dispositif "has to be something that China is willing to accept, otherwise we're just handicapping ourselves".

En parallèle, Dario Amodei porte publiquement l'idée d'ouvrir aux évaluateurs indépendants un accès de niveau salarié aux laboratoires, proposition à laquelle Sam Altman a apporté son soutien.

Le sort du pacte lui-même reste ouvert. The Information note qu'il n'est pas clair si l'accord a été finalisé, et l'unique source citée reste "a person familiar with the matter".