Sur un air étouffant Après-midi d'avril à Ajmer, dans l'État indien du Rajasthan, l'homme politique local Shakti Singh Rathore s'est assis devant un écran vert pour tourner une courte vidéo. Il avait l'air nerveux. C'était la première fois qu'il était cloné.
Vêtu d'une chemise blanche impeccable et d'un foulard de cérémonie safran orné d'une fleur de lotus – le logo du BJP, le parti au pouvoir dans le pays – Rathore a joint ses paumes et a salué son auditoire en hindi. « Namashkar », commença-t-il. « A tous mes frères… »
Avant qu'il ait pu continuer, le réalisateur du tournage est entré dans le cadre. Divyendra Singh Jadoun, un homme de 31 ans au crâne chauve et à l'épaisse barbe noire, a déclaré à Rathore qu'il bougeait trop devant la caméra. Jadoun essayait de capturer suffisamment de données audio et vidéo pour créer une IA faux profond de Rathore qui convaincrait 300 000 électeurs potentiels autour d'Ajmer qu'ils avaient eu une conversation personnalisée avec lui – mais un mouvement excessif briserait l'algorithme. Jadoun a dit à son sujet de regarder directement dans la caméra et de ne bouger que ses lèvres. « Recommencez », dit-il.
En ce moment même, la plus grande démocratie du monde se rend aux urnes. Près d'un milliard d'Indiens ont le droit de voter dans le cadre des élections générales du pays, et les deepfakes pourraient jouer un rôle décisif, voire potentiellement source de division. Les partis politiques indiens ont exploité l’IA pour déformer la réalité grâce à des solutions bon marché. contrefaçons audio, images de propagandeet l'IA parodies. Mais alors que le discours mondial sur les deepfakes se concentre souvent sur la désinformation et d’autres méfaits sociétaux, de nombreux politiciens indiens utilisent la technologie dans un but différent : sensibiliser les électeurs.
Quel que soit le spectre idéologique, ils s'appuient sur l'IA pour les aider à naviguer dans les 22 langues officielles du pays et les milliers de dialectes régionaux, et pour transmettre des messages personnalisés dans les communautés les plus éloignées. Alors que les États-Unis ont récemment réussi illégal Pour utiliser les voix générées par l'IA pour les appels non sollicités, en Inde, les deepfakes autorisés sont devenus une opportunité commerciale de 60 millions de dollars. Plus de 50 millions d'appels vocaux générés par l'IA ont été effectués au cours des deux mois précédant le début des élections en avril, et des millions d'autres seront effectués pendant le vote, a déclaré à WIRED l'un des plus grands opérateurs de messagerie professionnelle du pays.
Jadoun est la figure emblématique de cette industrie en plein essor. Sa société, Polymath Synthetic Media Solutions, est l’un des nombreux fournisseurs de services de deepfake de toute l’Inde qui ont émergé pour répondre aux besoins de la classe politique. Au cours de cette campagne électorale, Jadoun a jusqu’à présent mené cinq campagnes d’IA, pour lesquelles son entreprise a reçu un total de 55 000 dollars. (Il facture nettement moins que les grands consultants politiques : 125 000 roupies (1 500 dollars) pour créer un avatar numérique et 60 000 roupies (720 dollars) pour un clone audio.) Il a réalisé des deepfakes pour Prem Singh Tamang, le ministre en chef de l'État himalayen de Sikkim, et a ressuscité YS Rajasekhara Reddy, un homme politique emblématique décédé dans un accident d'hélicoptère en 2009, pour soutenir son fils YS Jagan Mohan Reddy, actuellement ministre en chef de l'État d'Andhra Pradesh. Jadoun a également créé des chansons de propagande générées par l'IA pour plusieurs hommes politiques, dont Tamang, un candidat local au parlement et le ministre en chef de l'État du Maharashtra, dans l'ouest du pays. « Il est notre fierté », chantait une chanson en hindi sur un homme politique local d'Ajmer, avec des voix masculines et féminines sur un air plein d'entrain. « Il a toujours été impartial. »
Bien que Rathore ne soit pas candidat aux élections cette année, il fait partie des plus de 18 millions de volontaires du BJP chargés de veiller à ce que le gouvernement du Premier ministre Narendra Modi maintienne son emprise sur le pouvoir. Dans le passé, cela aurait signifié passer des mois à sillonner le Rajasthan, un État désertique à peu près grand comme l'Italie, pour parler individuellement aux électeurs et leur rappeler comment ils ont bénéficié des divers programmes sociaux du BJP : pensions, réservoirs gratuits de gaz de cuisine, espèces. paiements pour les femmes enceintes. Mais avec l'aide des deepfakes de Jadoun, le travail de Rathore est devenu beaucoup plus facile.
Il passera 15 minutes ici à parler devant la caméra de certains des enjeux clés des élections, pendant que Jadoun lui posera des questions. Mais ce qu'il dit n'a pas vraiment d'importance. Tout ce dont Jadoun a besoin, c'est de la voix de Rathore. Une fois cela fait, Jadoun utilisera les données pour générer des vidéos et des appels qui seront directement envoyés sur les téléphones des électeurs. Au lieu de frapper à leur porte ou d'une poignée de main rapide lors d'un rassemblement, ils verront ou entendront Rathore s'adresser à eux par leur nom et parler avec une étrange précision des questions qui comptent le plus pour eux et leur demander de voter pour le BJP. S'ils posent des questions, l'IA devrait répondre, d'une voix claire et calme, presque meilleure que la voix traînante et rapide du vrai Rathore. Les électeurs moins férus de technologie ne réalisent peut-être même pas qu’ils parlent à une machine. Même Rathore admet qu'il ne connaît pas grand-chose à l'IA. Mais il comprend la psychologie. « De tels appels peuvent aider les électeurs influents. »
Se brosser les épaules avec les politiciens n’est pas nouveau pour Jadoun. Il en était un. En 2015, il s'est présenté aux élections d'Ajmer en tant que président de district de l'Union nationale des étudiants indiens (NSUI), l'aile jeunesse du Congrès national indien, le parti national autrefois redoutable qui est aujourd'hui la principale opposition au BJP de Modi.