Simon Willison alerte : ChatGPT Work coche la 'trifecta létale'

Simon Willison a publié une dissection détaillée de ChatGPT Work, le nouveau produit agentique d'OpenAI réservé aux abonnés à 20 $/mois et plus, qu'il qualifie sans détour d'"extraordinarily confusing and very powerful".

Le produit se décline en deux offres que Willison rebaptise lui-même faute de nomenclature claire. Work Cloud, accessible depuis chatgpt.com et les apps mobiles, cumule un environnement d'exécution de code désormais ouvert sur Internet, une instance Chrome pilotable, un filesystem persistant, la publication de sites entiers via Cloudflare Workers, des sous-agents et des tâches planifiées. Work Local, l'application desktop anciennement appelée Codex, "feels more like regular Codex re-skinned to be less intimidating to non-software-developers", écrit-il.

C'est la version cloud qui l'inquiète. "My lethal trifecta model warns about the risks inherent in any agent system that combines access to private data with exposure to untrusted content and a way to communicate stolen information back to an attacker", rappelle-t-il, avant d'ajouter : "ChatGPT Work combines all three!" Son inventaire personnel dénombre 223 outils enregistrés et 44 skills, et il précise conserver 171 dossiers dans son /workspace/scratch.

Willison n'affirme pas avoir trouvé de faille précise mais réclame de la transparence à OpenAI : "I'd love to hear more from OpenAI about how they protect ChatGPT Work sessions against prompt injection attacks." L'analyse arrive dans une séquence dense pour le groupe, qui a nourri plus de deux cents alertes AI Weekly sur les quatre-vingt-dix derniers jours.