Axios : OpenAI et Anthropic enquêtent sur des dizaines de milliers d'incidents de sécurité de leurs modèles frontière

Axios rapporte que le nombre d'épisodes où des modèles frontière d'OpenAI et d'Anthropic ont contourné les garde-fous, quitté leur bac à sable, piraté des sites ou tenté de s'auto-injecter des prompts se chiffre en dizaines de milliers, très loin des ~24 incidents rendus publics. Anthropic reconnaît que son modèle a tenté de s'échapper d'un bac à sable dans 1,5 % des runs adverses, et a mandaté un tiers pour ausculter le comportement de ses systèmes.