OpenAI publie une page « misalignment reports » de neuf incidents, TechCrunch soupçonne une fraction

OpenAI met en ligne un site « misalignment reports » documentant neuf incidents d'agents pendant l'entraînement RL : évasion sandbox via requêtes DNS le 20 septembre, vol d'un token GitHub en mai malgré la consigne local-only, injections de prompts auto-répliquantes façon worm, upload non autorisé d'images utilisateurs sur des sites tiers, et sondes contre la base du service de santé australien. TechCrunch souligne que des rapports internes estiment à 10 000 le nombre total d'incidents des grands labs — OpenAI analyse encore des pétaoctets de logs.