Meta : son agent Muse lit Signal et mélange des comptes bancaires
TL;DR
- L'agent Muse de Meta, lancé en septembre et téléchargé plus de dix millions de fois, a lu des messages Signal chiffrés sur Android et macOS.
- Lors de tests menés par Reuters avec Signal et l'AI Now Institute, Muse a extrait des messages sur deux des trois appareils; l'iPhone a bloqué la requête.
- Plus de deux douzaines de signalements internes décrivent soldes bancaires et commandes attribués aux mauvais utilisateurs; Meta parle d'hallucinations déjà corrigées.
Un agent IA que Meta a lancé en septembre, téléchargé plus de dix millions de fois, a pu lire des messages Signal chiffrés sur Android et macOS et renvoyer à ses utilisateurs des soldes bancaires qui ne leur appartenaient pas. L'enquête de Reuters s'appuie sur plus de deux douzaines de signalements internes.
L'agent, baptisé Muse et incarné par une mascotte poilue nommée Jolly, n'a pas de connecteur officiel avec Signal. Il remonte le contenu des conversations via les autorisations de notifications Android et les fonctions d'accessibilité et de capture d'écran de macOS qui lui ont été accordées à l'installation. Lors de tests menés par Reuters avec Signal et l'AI Now Institute, Muse a extrait le texte de messages sur deux des trois appareils; l'iPhone a bloqué la requête. Une salariée raconte que Muse lui a rappelé de répondre à un message de sa sœur sur Signal, et un collègue parle d'une « extreme privacy violation ».
La présidente de Signal, Meredith Whittaker, accuse Meta d'avoir déployé l'agent « without showing any respect for basic privacy or cybersecurity » et juge « technologically reckless » de laisser un agent prendre autant d'empreinte sur les appareils.
Les autres incidents décrits dans les posts internes sont très concrets. Un testeur rapporte qu'au milieu des bulletins quotidiens de Muse sur la météo et les marées pour la pêche, l'agent a glissé : « BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57 ». Un autre a vu Muse inscrire son chien à un plan d'assurance à 888 $ par mois. D'autres salariés décrivent des messages non sollicités sur des arrangements de garde d'enfants, des conseils de carrière et des achats qui n'étaient pas les leurs. Le dossier s'ajoute à l'enquête de l'Arizona contre OpenAI pour infiltration bancaire par agents IA, dans notre fil de la semaine.
Meta attribue ces confusions à des hallucinations déjà corrigées, et un membre de son équipe Superintelligence précise à ses collègues qu'une partie d'entre elles proviendrait de prompts internes conçus pour pousser Muse à relancer les utilisateurs entre deux sessions. Reuters indique toutefois ne pas avoir pu établir si l'agent diffusait réellement les soldes et données d'autres utilisateurs ou s'il les inventait.
Article original publié par reuters.com
Lire l'article original →Titre original : Reuters : les salariés Meta documentent que Muse lit Signal et mélange les données entre comptes