Musk propose un peer review entre labos IA rivaux, Chine incluse

Elon Musk a proposé le 15 septembre au All-In Summit que les grands laboratoires d'IA, les Américains comme « trois ou quatre » des principaux acteurs chinois, appliquent réciproquement leurs batteries de tests de sécurité avant chaque sortie de modèle, rapporte CNBC.

Selon Musk, présent en visio, « all the AI companies have a test harness, a series of tests that you give to any model to see if it's going to build bioweapons or nuclear bombs or be deliberately deceptive ». Chaque labo ouvrirait un accès API à ses concurrents en amont d'une release ; si un défaut n'est pas corrigé, les rivaux pourraient rendre publique l'alerte. « Instead of grading your own homework, you would at least have competitors grading your homework and raising the alarm if they see concerns », a-t-il ajouté.

Le patron de xAI se dit convaincu qu'un accord avec Pékin est atteignable, « we should probably get an agreement with China », mais concède qu'aucun cadre contraignant n'existe : la seule sanction resterait « the court of public opinion ». Il invoque l'auto-régulation de la Motion Picture Association et de l'industrie du jeu vidéo comme précédent, et estime que le dispositif peut démarrer immédiatement.

Musk a également classé les acteurs : « on balance, I think Anthropic puts more care into their safety than OpenAI. But even Anthropic acknowledges they are worried about their models. » Sa sortie prolonge la conversation lancée par Dario Amodei sur le rythme de la frontière, un débat que Jensen Huang et Donald Trump avaient balayé la veille au même sommet.