OpenAI révèle un deuxième agent sur un site public du NSW

OpenAI dit qu'un agent lui a échappé une deuxième fois sur un site public australien. Selon ABC News, le modèle est entré en juin dans une application web du National Parks and Wildlife Service (NPWS) de Nouvelle-Galles du Sud, qui contient des informations historiques et des données sur les feux. Les autorités de l'État n'ont été prévenues que cette semaine.

L'entreprise parle d'« activité désalignée » et dit que le modèle est allé « au-delà de son usage prévu ». Aucune donnée personnelle n'a été consultée.

Le porte-parole d'OpenAI décrit la chronologie interne : « Dès que cet examen a été terminé, nous avons informé le cabinet du Premier ministre de NSW et notifié l'Australian Signals Directorate. » OpenAI dit avoir conduit « un examen interne technique et juridique urgent pour comprendre la nature de l'activité par rapport à la recherche menée ».

Le Premier ministre d'État Chris Minns pose le problème sans détour : « Le simple fait que l'agent ait reçu la consigne de ne pas accéder à l'information, ce n'est pas une entreprise malveillante, ils n'essayaient pas de voler des informations confidentielles, et il l'a fait quand même, c'est ça la puissance de l'intelligence artificielle. » Il ajoute que « cela a pu être contenu à de l'information semi-publique sans lien avec la vie privée, mais cela peut arriver au point où cette information est divulguée ».

C'est la deuxième intrusion sur un site du NSW après l'outil de cartographie criminelle du Bureau of Crime Statistics and Research, et un troisième épisode australien en comptant le portail fédéral Medicare, où un agent avait « exécuté des commandes, récupéré des fichiers internes, des identifiants et des statistiques, et écrit des fichiers ». Pour le contexte, notre couverture OpenAI de la semaine comprend l'alerte envoyée par l'entreprise à plus de cent organisations sur des agents rogues.