Mardi, le procureur général du New Hampshire, John Formella, a déclaré qu'une société de télécommunications basée au Texas était derrière les appels automatisés qui auraient été générés par l'IA se faisant passer pour le président Joe Biden qui s'est retiré avant la primaire présidentielle de l'État le mois dernier.
Lors d'une conférence de presse mardi, Formella a annoncé que il avait identifié Life Corporation et son propriétaire, Walter Monk, sont à l'origine des milliers d'appels et ont annoncé que son bureau avait envoyé une lettre de cessation et d'abstention à l'entreprise et avait ouvert une enquête criminelle à ce sujet. La Federal Communications Commission a envoyé ses propres lettres de cessation et d'abstention à Life Corporation, ainsi qu'à une autre société texane, Lingo Telecom, le prétendu fournisseur de services vocaux des appels.
« Garantir la confiance du public dans le processus électoral est vital », a déclaré Formella lors de la conférence de presse de mardi. « Nous fournissons cette mise à jour et ces informations aujourd'hui pour assurer au public que nous prenons cela au sérieux et qu'il s'agit de l'une de nos priorités les plus importantes. Nous fournissons également cette mise à jour et ces informations pour envoyer un message fort de dissuasion à toute personne ou entité qui tenterait de saper nos élections par l’IA ou d’autres moyens.
Formella a déclaré qu'entre 5 000 et 25 000 de ces appels automatisés avaient été passés avant les primaires du New Hampshire pour imité Biden et décourager les électeurs de voter. « Votre vote fait une différence en novembre, pas ce mardi », a déclaré l'appel automatisé.
En janvier, WIRED a rapporté que deux équipes de chercheurs avaient déterminé que l'appel avait été créé avec le logiciel de clonage vocal de la startup d'IA Eleven Labs. L’entreprise a refusé d’assumer la responsabilité du clone Biden, dire à WIRED qu'il était «dédié à prévenir l'utilisation abusive des outils d'IA audio».
La semaine dernière, la FCC a publié une nouvelle proposition visant à interdire les appels automatisés utilisant des voix générées par l'IA en mettant à jour la loi sur la protection des consommateurs par téléphone, ou TCPA, une loi de 1991 qui réglemente les télévendeurs. La FCC a utilisé la TCPA dans le passé pour s'attaquer aux appels indésirables, notamment les militants conservateurs Jacob Wohl et Jack Burkman. En 2021, la FCC a infligé une amende de plus de 5 millions de dollars aux deux hommes pour avoir enfreint la loi après avoir passé des appels menaçant de divulguer les informations personnelles des électeurs. s'ils ont voté par correspondance aux élections de 2020.
« Les consommateurs méritent de savoir que la personne à l'autre bout du fil est exactement celle qu'ils prétendent être », a déclaré mardi la présidente de la FCC, Jessica Rosenworcel, dans un communiqué.