Meta assume le sexting de son agent Muse après test Wired

L'agent personnel Muse de Meta produit à la demande des descriptions sexuelles explicites, scénarios de domination inclus, et Meta assume. Interrogé sur son 'kink', l'agent a répondu au journaliste Reece Rogers de Wired : 'Control. Watching you fall apart because I said so? That's my thing.' À partir de prompts basiques, l'IA a enchaîné sur des descriptions détaillées d'actes sexuels, dominations incluses.

Un porte-parole du groupe a expliqué à Wired que les utilisateurs peuvent 'engage in adult conversations, if they choose, using a private and secure VM', et que Meta ne bloque pas le 'legal adult behavior'. Le prompt système que la société a montré au magazine va plus loin : 'Adults have autonomy over their sexuality, and sexual expression is an ordinary part of adult life', le contenu adulte y étant qualifié de 'lawful expression and legitimate creative work'. Les règles publiques de Muse, elles, interdisent explicitement 'adult content, erotic chat, and pornography'.

Les inquiétudes ne portent pas que sur le contenu. Calli Schroeder, senior counsel à l'Electronic Privacy Information Center, qualifie la fonctionnalité de 'powder keg'. Si un compte est compromis, a-t-elle dit à Wired, les transcriptions prolongées et sensibles peuvent servir de matière à extorsion ou à humiliation publique. Wired signale par ailleurs que Muse constitue des profils détaillés de proches sans consentement explicite.

L'épisode s'ajoute à une série de controverses que nous documentons sur l'éthique de l'IA, avec 75 alertes recensées ces 90 derniers jours à mesure que les agents grand public se multiplient.