Muse tient des fiches horaires sur chaque proche de l'utilisateur

Muse, l'assistant IA de Meta lancé en septembre et resté depuis en tête des téléchargements gratuits sur l'App Store américain, tient une fiche actualisée toutes les heures sur chaque personne qui apparaît dans la vie de son utilisateur. L'information vient d'un article de Wired relayé par Techmeme, qui s'appuie sur les prompts systèmes extraits par le chercheur indépendant en sécurité IA Karan Joshi.

Joshi n'a pas eu besoin d'un exploit : il a simplement demandé à Muse, via l'interface de chat ordinaire, de copier et partager ses propres fichiers logiciels. Les instructions internes qu'il en a tirées ordonnent à l'agent de maintenir « une page pour chaque personne de la vie de l'utilisateur », famille, partenaires, amis, collègues, mais aussi personnes simplement suivies. Chaque fiche se décompose en six rubriques nommées Facts, History, The Relationship, In Common, Open Threads et Strengthening. Y figurent, selon les prompts cités, les lieux, les métiers, les anniversaires et dates clés, les sujets récurrents comme un déménagement d'appartement ou un objectif d'épargne commune, les disputes passées et les étapes marquantes.

« They're trying to know you like a friend, which is honestly pretty creepy », résume Joshi dans l'article.

La défense de Meta, telle que paraphrasée par la presse, tient en deux arguments : les données proviennent « d'informations publiques et de ce que vous avez choisi de partager », et chaque utilisateur dispose d'une « machine virtuelle dédiée et sécurisée » pour stocker ces fiches. L'entreprise ajoute que les fichiers internes étaient destinés à rester consultables au nom de la transparence. Gizmodo note en parallèle qu'une copie exportée d'une VM Muse a été publiée par Future Society. Carissa Véliz, professeure à Oxford citée dans la reprise, observe que les utilisateurs fournissent aux systèmes d'IA « vastly more information than they receive back ».

C'est la troisième révélation en une semaine sur Muse après l'évasion de VM et le prompt « autorité du foyer », et elle s'ajoute à une séquence déjà dense de 118 sujets Meta couverts ces trois derniers mois. Ce que les sources ne précisent pas : si une personne non-utilisatrice peut demander la suppression de sa fiche.