MemSyco-Bench : le premier benchmark qui mesure la « sycophantie » de la mémoire des agents IA
Résumé
MemSyco-Bench introduit une évaluation systématique de la sycophantie dans la mémoire à long terme des agents IA : jusqu'à quel point un agent enregistre-t-il et répète-t-il des affirmations flatteuses de l'utilisateur, même fausses ? Le papier documente un phénomène persistant sur les modèles majeurs et propose des métriques pour piloter les prochaines architectures mémoire.
Article original publié par huggingface.co
Lire l'article original →Titre original : MemSyco-Bench : le premier benchmark qui mesure la « sycophantie » de la mémoire des agents IA