Hassabis propose un régulateur IA américain modelé sur la FINRA
TL;DR
- Demis Hassabis (Google DeepMind) publie un manifeste appelant à créer avant la fin de l'année un organisme US d'évaluation des modèles frontière calqué sur la FINRA.
- Les labos partageraient volontairement leurs modèles jusqu'à 30 jours avant leur sortie pour tester capacités cyber, biologiques et de « deception », avec passage obligatoire à terme.
- Le régime couvrirait tous les modèles frontière « no matter their country of origin or whether they are open or closed », sous un board majoritairement indépendant de Turing Award winners.
Le patron de Google DeepMind a choisi le manifeste plutôt que la note interne. Dans un texte publié mardi et intitulé *A Framework for Frontier AI and the Dawning of a New Age*, Demis Hassabis demande à Washington de créer avant la fin de l'année un organisme d'évaluation des modèles frontière calqué sur la FINRA, ce régulateur privé financé par l'industrie qui surveille Wall Street sous la tutelle de la SEC, rapporte Axios.
Le design proposé est méthodique. Les labos partageraient d'abord leurs modèles sur base volontaire, jusqu'à 30 jours avant leur sortie, pour un test de capacités dangereuses côté cyber, biologique et « deception ». Une fois le régime jugé « effective and robust », la formalisation « could quickly follow », ce qui rendrait le passage obligatoire pour tout modèle déployé sur le marché américain. La règle vaudrait pour tous les modèles frontière, « no matter their country of origin or whether they are open or closed », les modèles plus modestes des startups et de la recherche académique étant explicitement exemptés. Hassabis envisage un board majoritairement indépendant, garni de Turing Award winners aux côtés de représentants de l'industrie, du gouvernement et de l'open source.
Le déclencheur politique est récent. Le mois dernier, l'administration Trump a gelé du jour au lendemain les modèles les plus puissants d'Anthropic, Mythos et Fable, par un export-control order, avant 2½ weeks de négociation pour les débloquer, sans règles, protocole ni playbook établis. Hassabis qualifie l'épisode de « wake-up call » et propose son cadre comme antidote à ce type d'improvisation.
La lecture honnête, c'est que la proposition arrange aussi les labos frontière. Un régulateur industry-funded, staffé par leurs pairs techniques et supervisé par un board dominé par des Turing laureates, ressemble beaucoup à un moat réglementaire contre les entrants et l'open source non certifié, doublé d'un chemin de release enfin prévisible. Ce que le reporting ne dit pas: où passe exactement la ligne « modèle frontière », ce qui arrive concrètement à un modèle recalé, et comment l'AI Act européen s'articule avec un régime US qui se voudrait mondial.
Ce qu'il faut surveiller, c'est l'appui déjà obtenu. Hassabis a passé des mois à briefer en coulisse l'administration Trump, les autres patrons de labos et des responsables européens, et affirme qu'au niveau haut, ses concurrents partagent le diagnostic: « This is where the industry needs to go. » Si Washington achète l'idée d'ici décembre, la conformité pré-déploiement devient un livrable produit et non plus un exercice de communication.
Article original publié par axios.com
Lire l'article original →Titre original : Demis Hassabis (Google DeepMind) propose un organisme américain « FINRA-like » pour tester les modèles frontière avant leur mise sur le marché