huggingface.co détecté sur le web

MemSyco-Bench : le premier benchmark qui mesure la « sycophantie » de la mémoire des agents IA

Agents Safety ai-business

Résumé

MemSyco-Bench introduit une évaluation systématique de la sycophantie dans la mémoire à long terme des agents IA : jusqu'à quel point un agent enregistre-t-il et répète-t-il des affirmations flatteuses de l'utilisateur, même fausses ? Le papier documente un phénomène persistant sur les modèles majeurs et propose des métriques pour piloter les prochaines architectures mémoire.