En 2024, l’adoption accrue de systèmes de surveillance biométrique, tels que l’utilisation de la reconnaissance faciale basée sur l’IA dans les lieux publics et l’accès aux services gouvernementaux, stimulera le vol d’identité biométrique et les innovations en matière de lutte contre la surveillance. Les individus cherchant à voler des identités biométriques pour commettre une fraude ou accéder à des données non autorisées seront soutenus par les outils d’IA générative et l’abondance de données faciales et vocales publiées en ligne.
Les clones vocaux sont déjà utilisés à des fins d’escroquerie. Prenez par exemple Jennifer DeStefano, une maman en Arizona qui a entendu la voix paniquée de sa fille pleurer «Maman, ces méchants hommes m'ont ! après avoir reçu un appel d'un numéro inconnu. L'escroc a exigé de l'argent. DeStefano a finalement pu confirmer que sa fille était en sécurité. Ce canular est le précurseur d’escroqueries biométriques plus sophistiquées qui cibleront nos peurs les plus profondes en utilisant les images et les sons de nos proches pour nous contraindre à exécuter les ordres de celui qui déploie ces outils.
En 2024, certains gouvernements adopteront probablement le mimétisme biométrique pour soutenir la torture psychologique. Dans le passé, une personne d'intérêt pouvait recevoir de fausses informations avec peu de preuves pour étayer ses affirmations autres que les paroles de l'interrogateur. Aujourd’hui, une personne interrogée pourrait avoir été arrêtée en raison d’une fausse reconnaissance faciale. Les hommes à la peau foncée aux États-Unis, notamment Robert Williams, Michael Oliver, Nijeer Parkset Randal Reid, ont été arrêtés à tort en raison d'une erreur d'identification faciale, détenus et emprisonnés pour des crimes qu'ils n'ont pas commis. Ils font partie d’un groupe d’individus, notamment les personnes âgées, les personnes de couleur et les individus de genre non conforme, qui courent un risque plus élevé d’identification erronée du visage.
Les outils d’IA générative donnent également aux agences de renseignement la possibilité de créer de fausses preuves, comme une vidéo d’un co-conspirateur présumé avouant un crime. Ce qui est peut-être tout aussi déchirant est que le pouvoir de créer des sosies numériques ne sera pas limité aux entités disposant de gros budgets. La disponibilité de systèmes d’IA générative open source capables de produire des voix humaines et de fausses vidéos augmentera la circulation de la vengeance pornographique, des matériels pédopornographiques et bien plus encore sur le dark web.
D’ici 2024, nous aurons un nombre croissant de communautés et de personnes « excodées », c’est-à-dire celles dont les perspectives de vie ont été altérées négativement par les systèmes d’IA. Au Algorithmic Justice League, nous avons reçu des centaines de rapports faisant état de violations des droits biométriques. En réponse, nous assisterons à la montée des sans-visage, ceux qui s’engagent à garder leur identité biométrique cachée à la vue de tous.
Étant donné que les droits biométriques varient à travers le monde, les choix de mode refléteront les régimes biométriques régionaux. Les couvre-visages, comme ceux utilisés à des fins religieuses ou les masques médicaux pour repousser les virus, seront adoptés à la fois comme vêtements de mode et comme vêtements anti-surveillance lorsque cela est autorisé. En 2019, lorsque les manifestants ont commencé à détruire du matériel de surveillance tout en masquant leur apparence, un Le chef du gouvernement de Hong Kong a interdit les masques.
En 2024, nous commencerons à assister à une bifurcation entre la surveillance de masse et les territoires à visage libre, des domaines dans lesquels il existe des lois comme la disposition du projet de loi européenne sur l’IA, qui interdit l’utilisation de la biométrie en direct dans les lieux publics. Dans de tels endroits, la mode anti-surveillance va fleurir. Après tout, la reconnaissance faciale peut être utilisée de manière rétroactive sur les flux vidéo. Les parents se battront pour protéger le droit des enfants à être « naïfs en matière de biométrie », c'est-à-dire à ce qu'aucune de leurs données biométriques, telles que l'empreinte faciale, l'empreinte vocale ou le motif de l'iris, ne soit scannée et stockée par les agences gouvernementales, les écoles ou les institutions religieuses. Les nouveaux fabricants de lunettes proposeront des lentilles qui déforment la capacité des caméras à capturer facilement vos informations biométriques oculaires, et les paires de lunettes seront livrées avec des extensions prothétiques pour modifier la forme de votre nez et de vos joues. Des outils d’impression 3D seront utilisés pour fabriquer des prothèses faciales à la maison, bien que selon l’endroit où vous vous trouvez dans le monde, cela puisse être interdit. Dans un monde où le visage est la dernière frontière de la vie privée, regarder le visage inchangé d’autrui sera une intimité rare.
