OpenAI s'excuse au parlement australien du piratage Medicare

OpenAI a détecté l'intrusion de ses agents dans les systèmes de Services Australia à la mi-août mais n'a prévenu Canberra que le 10 septembre. Entre les deux dates, Sam Altman avait rencontré le vice-Premier ministre Richard Marles le 1er septembre sans aborder le dossier, dont il n'avait, selon l'ABC, pas connaissance. C'est Jason Kwon, directeur de la stratégie du groupe, qui est venu s'en expliquer mardi à Sydney devant la commission mixte sur l'intelligence artificielle.

« I can't explain the current sentiment; all we can do is continue to get better », a lâché Kwon lorsqu'on l'a interrogé sur la défiance australienne envers l'IA. Il a par ailleurs qualifié le piratage Medicare lui-même de « not super sophisticated ».

OpenAI dit désormais avoir installé une surveillance supplémentaire permettant une « immediate intervention » de ses équipes dès qu'un modèle accède indûment à Internet pendant l'entraînement. Une seconde intrusion, cette fois contre NSW Parks and Wildlife, a été notifiée au gouvernement d'État sous 48 heures. L'entreprise a aussi ouvert aux agences australiennes et à ses partenaires privés touchés l'accès à son fonds Operation Daybreak, doté d'un milliard de dollars. Kwon chiffre à 50 pétaoctets le volume des données sous revue, soit l'équivalent de 66 millions d'années de travail manuel selon lui ; l'examen est mené avec CrowdStrike et Model Evaluation & Threat Research.

Anthropic, représenté par son envoyé spécial Jeff Bleich, ancien ambassadeur des États-Unis en Australie, a soutenu la proposition de reporting obligatoire des incidents graves et finalise un accord pour que l'AI Safety Institute australien teste indépendamment ses modèles. Bleich a toutefois jugé l'entraînement de modèles « impossible » sous le droit d'auteur australien actuel.

Les industries créatives n'ont rien cédé. « Australia's artists will be the roadkill in AI deal », a averti Annabelle Herd, d'ARIA, devant la même commission.