Thune, Cruz et Klobuchar négocient une 'duty of care' IA au Sénat

Le gouvernement fédéral pourrait, dans le texte discuté au Sénat, empêcher la sortie d'un modèle d'IA jugé dangereux.

Selon Reuters, le leader de la majorité au Sénat John Thune, le président de la commission Commerce Ted Cruz et la sénatrice Amy Klobuchar négocient une législation qui imposerait un 'duty of care' aux développeurs des modèles IA les plus avancés, ceux d'Alphabet, d'Anthropic et d'OpenAI en pratique, pour prévenir des 'catastrophic risks'. Les entreprises visées pourraient contester une décision de blocage devant une cour fédérale, et le texte préempterait les lois d'État portant sur les mêmes risques.

'I'm continuing to work toward a bipartisan agreement on legislation for government oversight of the greatest risks posed by AI models', déclare Klobuchar, qui ajoute que l'accord 'includes requiring developers to work with government experts to verify and test models to make sure AI is safe'. Cruz cible pour sa part des 'catastrophic risks involving biological or nuclear threats'. Maria Cantwell, cheffe démocrate à la commission Commerce, va plus loin sur le mécanisme: 'Meaningful legislation would require the most powerful AI models undergo testing by scientists and experts at our national laboratories to assess whether they could enable sophisticated cyberattacks or aid the development of biological or nuclear weapons.'

Le calendrier est étroit. La Chambre n'a plus qu'une semaine de session avant les midterms du 3 novembre, le Sénat environ trois. C'est la troisième piste régulatoire fédérale que traverse notre suivi Regulation cette semaine, après le passage remarqué de Jacob Coxon au Congrès et la démarche d'Altman auprès de ses pairs sur un possible ralentissement de la course frontier.

Reuters ne détaille ni le seuil technique qui déclencherait le devoir de diligence, ni les délais dont disposerait le gouvernement pour opposer un blocage.