Vous répondez à un appel aléatoire d'un membre de la famille, et ils expliquent à bout de souffle comment il y a eu un horrible accident de voiture. Ils ont besoin que vous leur envoyiez de l'argent tout de suite, sinon ils iront en prison. Vous pouvez entendre le désespoir dans leur voix alors qu’ils plaident pour un transfert immédiat d’argent. Même si cela leur ressemble et que l'appel provient de leur numéro, vous avez l'impression que quelque chose ne va pas. Alors, vous décidez de raccrocher et de les rappeler immédiatement. Lorsqu'un membre de votre famille répond à votre appel, il répond qu'il n'y a pas eu d'accident de voiture et qu'il n'a aucune idée de ce dont vous parlez.
Félicitations, vous venez d'éviter avec succès un intelligence artificielle appel frauduleux.
À mesure que les outils d'IA générative deviennent plus performants, il devient plus facile et moins coûteux pour les escrocs de créer un son faux, mais convaincant, à partir des voix des gens. Ces clones vocaux IA sont formés sur des clips audio existants de la parole humaine et peuvent être ajustés pour imiter presque n'importe qui. Les derniers modèles peuvent même parler dans de nombreuses langues. OpenAI, le créateur de ChatGPTa récemment annoncé un nouveau modèle de synthèse vocale qui pourrait encore améliorer clonage de voix et le rendre plus largement accessible.
Bien entendu, les acteurs malveillants utilisent ces outils de clonage d’IA pour faire croire aux victimes qu’elles parlent à un proche au téléphone, même si elles parlent à un ordinateur. Même si la menace des escroqueries basées sur l’IA peut être effrayante, vous pouvez rester en sécurité en gardant ces conseils d’experts à l’esprit la prochaine fois que vous recevrez un appel urgent et inattendu.
N'oubliez pas que l'audio AI est difficile à détecter
Il ne s'agit pas seulement d'OpenAI ; de nombreuses startups technologiques travaillent à la reproduction d’une parole humaine presque parfaite, et les progrès récents sont rapides. « Si c'était il y a quelques mois, nous vous aurions donné des conseils sur ce qu'il faut rechercher, comme des pauses de grossesse ou une sorte de latence », explique Ben Colman, cofondateur et PDG de Défenseur de la réalité. Comme de nombreux aspects de l’IA générative au cours de l’année dernière, l’audio de l’IA est désormais une imitation plus convaincante de la réalité. Toutes les stratégies de sécurité qui reposent sur la détection audible de bizarreries étranges au téléphone sont obsolètes.
Raccrocher et rappeler
Les experts en sécurité préviennent qu'il est assez facile pour les fraudeurs de donner l'impression que l'appel provient d'un numéro de téléphone légitime. « Souvent, les fraudeurs usurpent le numéro à partir duquel ils vous appellent, donnant l'impression qu'ils vous appellent depuis cette agence gouvernementale ou cette banque », explique Michael Jabbara, responsable mondial des services anti-fraude chez Visa. « Il faut être proactif. » Que ce soit de votre banque ou d'un proche, chaque fois que vous recevez un appel demandant de l'argent ou des informations personnelles, n'hésitez pas et demandez à le rappeler. Recherchez le numéro en ligne ou dans vos contacts et lancez une conversation de suivi. Vous pouvez également essayer de leur envoyer un message via une autre ligne de communication vérifiée, comme un chat vidéo ou un e-mail.
Créer un mot de sécurité secret
Un conseil de sécurité populaire suggéré par plusieurs sources était de créer un mot sûr à demander par téléphone et que seuls les membres de la famille connaissent. « Vous pouvez même pré-négocier avec vos proches un mot ou une expression qu'ils pourraient utiliser afin de prouver qui ils sont réellement, s'ils se trouvent dans une situation de contrainte », explique Steve Grobman, directeur de la technologie chez McAfee. Bien qu'il soit préférable de rappeler ou de vérifier via un autre moyen de communication, un mot de sécurité peut être particulièrement utile pour les jeunes ou les jeunes. parents âgés qui pourrait être difficile à contacter autrement.
Ou demandez simplement ce qu'ils ont mangé pour le dîner
Que se passe-t-il si vous n'avez pas encore choisi de mot de sécurité et que vous essayez de déterminer si un appel pénible est réel ? Faites une pause une seconde et posez une question personnelle. «Cela pourrait même être aussi simple que de poser une question dont seul un être cher connaîtrait la réponse», explique Grobman. « Cela pourrait être : « Hé, je veux m'assurer que c'est bien toi. Pouvez-vous me rappeler ce que nous avons mangé hier soir ? » Assurez-vous que la question est suffisamment précise pour qu'un escroc ne puisse pas répondre correctement avec une supposition éclairée.
Comprendre que n'importe quelle voix peut être imitée
Les clones audio Deepfake ne sont pas réservés uniquement aux célébrités et aux politiciens, comme les appels dans le New Hampshire qui a utilisé des outils d'IA pour ressembler à Joe Biden et décourager les gens d'aller aux urnes. « Un malentendu est le suivant : 'Cela ne peut pas m'arriver.' Personne ne peut cloner ma voix », déclare Rahul Sood, directeur des produits chez PinDropune société de sécurité qui a découvert le probable origines de l’audio d’AI Biden. « Ce que les gens ne réalisent pas, c'est qu'avec seulement 5 à 10 secondes de votre voix, sur un TikTok que vous avez peut-être créé ou sur une vidéo YouTube de votre vie professionnelle, ce contenu peut être facilement utilisé pour créer votre clone. » Grâce aux outils d’IA, le message vocal sortant sur votre smartphone pourrait même suffire à reproduire votre voix.
Ne cédez pas aux appels émotionnels
Que ce soit un arnaque à la boucherie de porcs ou un appel téléphonique IA, les escrocs expérimentés sont capables de gagner votre confiance en eux, de créer un sentiment d'urgence et de trouver vos points faibles. « Méfiez-vous de tout engagement dans lequel vous ressentez un sentiment d'émotion accru, car les meilleurs escrocs ne sont pas nécessairement les hackers techniques les plus experts », explique Jabbara. « Mais ils ont une très bonne compréhension du comportement humain. » Si vous prenez un moment pour réfléchir à une situation et évitez d’agir de manière impulsive, cela pourrait être le moment où vous éviterez de vous faire arnaquer.