Une autre image sur le site montre un groupe de jeunes adolescents qui semblent être au collège : un garçon prenant un selfie dans ce qui semble être un gymnase d'école avec deux filles, qui sourient et posent pour la photo. Les traits du garçon étaient masqués par un objectif Snapchat qui agrandissait tellement ses yeux qu'ils couvraient son visage.
Les légendes des images apparemment téléchargées indiquaient qu'elles incluaient des images d'amis, de camarades de classe et de partenaires romantiques. « Ma petite amie », dit une légende, montrant une jeune femme prenant un selfie dans un miroir.
De nombreuses photos montraient des influenceurs populaires sur TikTok, Instagram et d’autres plateformes de médias sociaux. D’autres photos semblaient être des captures d’écran Instagram de personnes partageant des images de leur vie quotidienne. Une image montrait une jeune femme souriante avec un dessert surmonté d’une bougie de fête.
Plusieurs images semblaient montrer des personnes qui étaient de parfaits inconnus à la personne qui avait pris la photo. Une image prise de dos représentait une femme ou une fille qui ne pose pas pour une photo, mais se tient simplement à proximité de ce qui semble être une attraction touristique.
Certaines des images des flux examinés par WIRED ont été recadrées pour supprimer les visages des femmes et des filles, ne montrant que leur poitrine ou leur entrejambe.
Un public immense
Au cours d'une période de huit jours de surveillance du site, WIRED a vu cinq nouvelles images de femmes apparaître sur le fil d'accueil et trois sur la page Explorer. Les statistiques répertoriées sur le site montrent que la plupart de ces images cumulent des centaines de « vues ». On ne sait pas si toutes les images soumises sur le site parviennent au flux Accueil ou Explorer, ni comment les vues sont compilées. Chaque publication sur le fil d'accueil compte au moins quelques dizaines de vues.
Les photos de célébrités et de personnes très suivies sur Instagram figurent en tête de la liste des images « les plus vues » répertoriées sur le site. Les personnes les plus vues de tous les temps sur le site sont l'actrice Jenna Ortega avec plus de 66 000 vues, l'auteur-compositeur-interprète Taylor Swift avec plus de 27 000 vues et un influenceur et DJ de Malaisie avec plus de 26 000 vues.
Swift et Ortega ont déjà été ciblés par de faux nus. La circulation de fausses images nues de Swift sur X en janvier a déclenché un moment de reprise des discussions sur les impacts des deepfakes et la nécessité d'une plus grande protection juridique pour les victimes. Ce mois-ci, NBC a rapporté que pendant sept mois, Meta avait hébergé publicités pour une application deepnude. L’application se vantait de sa capacité à « déshabiller » les gens, en utilisant une photo de Jenna Ortega datant de l’âge de 16 ans.
Aux États-Unis, aucune loi fédérale ne vise la diffusion de fausses images de nus non consensuelles. Une poignée d'États ont adopté leurs propres lois. Mais les images nues de mineurs générées par l'IA entrent dans la même catégorie que les autres matériels d'abus sexuels sur enfants, ou CSAM, explique Jennifer Newman, directrice exécutive de la division des enfants exploités du NCMEC.
« S'il est impossible de la distinguer de l'image d'une victime vivante, d'un véritable enfant, alors il s'agit pour nous d'un matériel d'abus sexuel sur enfant », déclare Newman. « Et nous le traiterons comme tel lorsque nous traitons nos rapports, lorsque nous transmettons ces rapports aux forces de l'ordre. »
