Des outils de clonage vocal par IA d'un réalisme saisissant permettent des escroqueries par usurpation d'identité aux États-Unis.

Washington (États-Unis) (AFP) - Liz Benz croit toujours que la voix de l'appelant en détresse était celle de son fils – le ton, l'élocution et la cadence correspondaient tous à ceux de son fils de 16 ans.

Mais il s'agissait d'un clone d'IA, faisant de cette mère américaine une victime de plus d'une vague croissante d'escroqueries par usurpation d'identité.

L'évolution rapide des technologies d'intelligence artificielle a fait voler en éclats les frontières entre réalité et fiction, offrant aux cybercriminels des outils de clonage vocal étonnamment convaincants pour voler les gens en imitant leurs proches.

Benz, une habitante de Buffalo, a été brusquement tirée de son canapé par un appel d'un numéro inconnu. Au bout du fil, une voix ressemblant à celle de son fils Fred appelait au secours.

On lui a annoncé que l'ami de Fred avait été tué par balle et que son fils, qui assistait à un match de football local, était pris en otage.

Cette courtière en assurances de 46 ans, mère de six enfants, a reçu l'ordre d'apporter de l'argent liquide à un Walmart voisin pour payer l'homme qui la retenait prisonnière.

Finalement, un selfie de Fred souriant pendant le match la ramena à la réalité : l'appel, réalisa-t-elle, était une arnaque élaborée.

« Rien n’aurait pu me préparer à entendre la voix de mon fils, et rien n’aurait pu me convaincre qu’il s’agissait d’une arnaque avant que je ne voie mon fils de mes propres yeux », a déclaré Benz à l’AFP, la voix tremblante.

« Ce furent 20 bonnes minutes de terreur. »

- 'Tout le monde peut le faire' -

Les autorités américaines et les associations de défense des consommateurs mettent de plus en plus en garde contre les escroqueries consistant à se faire passer pour des membres de la famille.

Le FBI a déclaré en avril que les Américains avaient perdu plus de 893 millions de dollars l'an dernier à cause de canulars utilisant l'intelligence artificielle, notamment des arnaques par clonage vocal.

De simples recherches sur Internet permettent de trouver un large éventail d'applications de clonage vocal, dont beaucoup sont gratuites, qui créent des répliques IA réalistes à partir de petits échantillons – parfois seulement quelques secondes – de la vraie voix d'une personne.

« Auparavant, fabriquer ces choses était assez difficile. Maintenant, n'importe qui peut le faire en quelques secondes », a déclaré Brian Long, directeur général d'Adaptive Security, une entreprise proposant des formations sur la protection contre la fraude par IA.

« Une seule personne dans une pièce avec un clavier peut créer un nombre infini d'attaquants », a déclaré Long à l'AFP, ajoutant que les outils d'IA peuvent construire des scripts entiers à partir d'extraits audio capturés sur les réseaux sociaux ou d'enregistrements de messagerie vocale.

L'histoire de Benz met en lumière un scénario familier : un appel chargé d'émotion, prétendument d'un proche en difficulté – arrêté, victime d'un accident de voiture ou impliqué dans un crime – qui a besoin d'argent.

Ensuite, les escrocs accentuent généralement la pression, en ajoutant des voix prétendant être des avocats, des greffiers ou des employés de banque – une galerie de personnages fictifs dans un appel chaotique et urgent.

- « Voix angoissée » -

De nombreuses arnaques aux fausses alertes familiales ne nécessitent même pas un clone vocal parfait.

« Une voix en détresse disant "maman, aide-moi" ou "papa, j'ai eu un accident" n'a besoin de paraître crédible que pendant quelques secondes », a déclaré à l'AFP Amit Gupta, vice-président de la gestion des produits chez Pindrop, une entreprise de cybersécurité.

« L’objectif n’est pas une reproduction vocale parfaite. L’objectif est de créer suffisamment d’incertitude et d’urgence émotionnelles pour que la victime agisse avant même de vérifier. »

Depuis qu'elle a rendu son histoire publique, Benz a déclaré avoir reçu un flot de messages d'autres victimes, dont beaucoup choisissent de rester anonymes par honte.

Les personnes âgées sont particulièrement vulnérables, et les experts mettent en garde contre la recrudescence des cas d’« arnaques aux grands-parents ».

Le FBI a indiqué que les Américains de plus de 60 ans ont déclaré des pertes de plus de 7,7 milliards de dollars l'an dernier, soit une augmentation significative par rapport à 2024.

« Ce sont des professionnels, et lorsqu'ils ont des gens au téléphone, ils ont affaire à des amateurs », a déclaré Gary Schildhorn, avocat à Philadelphie, qui a lui-même été victime d'une attaque similaire en 2020.

Tout comme Benz, il s'est depuis associé à Adaptive Security pour sensibiliser le public à cette menace.

En 2023, Schildhorn a témoigné devant le Sénat américain au sujet de son expérience avec un appel frauduleux au cours duquel une voix imitant celle de son fils Brett prétendait qu'il devait payer une caution après une arrestation pour conduite en état d'ivresse.

L'appel a incité Schildhorn, aujourd'hui âgé de 73 ans, à se précipiter à sa banque.

« Quand je suis arrivé à la banque, mon téléphone a sonné. C’était mon fils », a-t-il déclaré à l’AFP. « Il m’a dit : “Tu t’es fait arnaquer” », a ajouté Schildhorn.

« Je lui dis : “Brett, je mourrai en jurant que c’était ta voix, ton intonation, tes mots. Il n’y avait pas d’accent. C’était bien toi au téléphone.” »