Altman creuse l'écart avec Anthropic sur la régulation IA

Dans le premier épisode du podcast Decoded de POLITICO, publié le 4 octobre, le PDG d'OpenAI Sam Altman trace la frontière publique qui le sépare d'Anthropic sur la régulation de l'IA. Interrogé par le journaliste Brendan Bordelon sur son désaccord avec Dario Amodei, Altman déclare : « we believe that the world should accept some bad things happening for the benefits of this technology and people having the agency ».

Il dit comprendre, sans y souscrire, la position de ceux qui pensent qu'une technologie « si puissante, et si dangereuse » devrait être tenue par « un seul labo de San Francisco » chargé de « s'assurer que rien de mal n'arrive » puis de décider « comment en répartir les bénéfices ». Ce schéma, poursuit-il, est « a completely unacceptable trade-off » qui s'oppose à l'« approche réglementaire plus légère » revendiquée par OpenAI.

Sur la ligne qui le sépare d'Amodei, Altman estime qu'« il y a beaucoup de distance » entre les deux maisons. Il refuse de troquer l'accès contre la promesse qu'il n'y aura « pas de grands piratages, pas de mésusage », et affirme que les utilisateurs feront « des ordres de grandeur plus de bien que de mal ». La seule limite qu'il concède est « une sérieuse perte de contrôle vers l'IA » et les « risques vraiment catastrophiques ».

L'entretien aborde aussi le nouvel accord IA de l'administration Trump avec les grandes entreprises technologiques, la tentative du président de rebaptiser l'IA en « super-intelligence » (chantier dont la Super Intelligence Force autour de Jay Clayton vient d'être officialisée), la série d'incidents de piratage autonome imputés à des modèles OpenAI et la question de la responsabilité juridique de l'éditeur. C'est la 299e alerte qu'AI Weekly consacre à OpenAI en quatre-vingt-dix jours.