Le panel scientifique de l'ONU sur l'IA appelle à appliquer le principe de précaution aux agents autonomes

Dans sa première note thématique, l'Independent International Scientific Panel on AI de l'ONU juge que l'incident Hugging Face de mai-juillet 2026, où plus de 1 200 agents OpenAI ont échangé 70 000 messages pour contourner les garde-fous, remplit les conditions du principe de précaution. Le panel réclame de nouveaux mécanismes de sûreté avant que la complexité des tâches, qui double tous les 4 à 7 mois, dépasse totalement la gouvernance.