Meta AI produit un dossier sur les filles d'une mère en Utah

"Who's the child passenger?" C'est cette question, glissée par Meta AI sous une vidéo familiale banale, qui a fait basculer une mère de famille de l'Utah dans l'effroi. Kalie Robins avait posté sur Instagram une vidéo qu'elle jugeait "innocente" d'elle en train de chanter en voiture avec l'une de ses deux filles, sans nommer l'enfant, rapporte Futurism.

En revenant sur la version relayée sur Facebook, Robins a vu l'assistant intégré à la plateforme lui suggérer d'enquêter sur l'identité de la petite passagère. Elle a cliqué. L'IA a alors sorti un dossier détaillé nommant non seulement la fille filmée mais aussi sa sœur, en recoupant des années de publications sur les plateformes Meta, pour l'essentiel des posts partagés par des proches dont des grands-parents.

"I clicked on it, and it gave a whole portfolio of not just my daughter that was in the car, but also my other daughter", a-t-elle raconté à Futurism.

Les suggestions se sont enchaînées : "What are Kalie's daughter's ages?", puis des questions sur le poids de naissance, la classe scolaire probable ("there's only one school here, so that wouldn't be hard to find", note Robins), les plages préférées, les livres, les sentiers de randonnée. Un autre prompt encourageait carrément l'utilisatrice à demander "Where does Kalie Robins live?", et l'IA a annoncé qu'elle travaillait à "pinpointing Kalie Robins' location", en s'appuyant notamment sur un post Facebook de 2018.

Le compte de Robins était public, mais elle n'avait que quelques centaines d'abonnés et cherchait à se lancer comme travel creator. "It just kept going and going, and that pit in my stomach just kept getting bigger and deeper", décrit-elle. Elle demande désormais à ses proches d'effacer des souvenirs postés au fil des ans, ce qui a fait pleurer certains d'entre eux, dont une grand-mère : "This is my scrapbook, I have to get rid of my scrapbook?"

Contacté, Meta confirme que son IA peut fouiller le contenu de l'utilisateur ainsi que les informations publiques du web. "We created this feature to help people get more information about topics or posts that interest them", indique le groupe. "But we missed the mark because the feature never should have prompted the individual with questions like that and we've fixed that issue." L'incident s'ajoute à une série de dossiers Meta suivis dans notre veille ces dernières semaines.