Intelligence artificielle : des escrocs utilisent la voix d’une jeune fille pour extorquer 1 million à sa mère

L’intelligence artificielle a porté les escroqueries téléphoniques à un nouveau niveau effrayant.

Une mère de l’Arizona affirme que des escrocs ont utilisé l’IA pour cloner la voix de sa fille afin de pouvoir lui demander une rançon de 1 million de dollars dans le cadre d’un nouveau stratagème vocal terrifiant.

« Je n’ai jamais douté une seconde que c’était elle », a déclaré Jennifer DeStefano, mère désemparée, à WKYT tout en se rappelant l’incident effrayant. « C’est la partie bizarre qui m’a vraiment amené au plus profond de moi-même. »

Cette bombe survient au milieu d’une augmentation des stratagèmes d’usurpation d’identité de l’appelant, dans lesquels les escrocs prétendent qu’ils ont pris en otage le parent du destinataire et leur feront du mal s’ils ne reçoivent pas une somme d’argent spécifiée.

La résidente de Scottsdale, en Arizona, a raconté comment elle avait reçu un appel d’un numéro de téléphone inconnu, qu’elle a presque laissé aller à la messagerie vocale.

Puis DeStefano s’est souvenue que sa fille de 15 ans, Brie, était en voyage de ski, alors elle a répondu à l’appel pour s’assurer que rien n’allait mal.

Cette simple décision allait bouleverser toute sa vie : « Je décroche le téléphone, et j’entends la voix de ma fille, et elle dit : « Maman ! » et elle sanglote », a décrit le parent pétrifié. J’ai dit : « Que s’est-il passé ? » Et elle a dit : ‘Maman, j’ai foiré’, et elle sanglote et pleure. »

Sa confusion s’est rapidement transformée en terreur après avoir entendu une « voix d’homme » dire à « Brie » de mettre sa « tête en arrière » et de « s’allonger ».

« Cet homme prend le téléphone et il me dit : ‘Écoute ici. J’ai ta fille », a expliqué DeStefano, ajoutant que l’homme avait décrit exactement comment les choses allaient « se dérouler ».

« Vous appelez la police, vous appelez n’importe qui, je vais la faire sauter tellement pleine de drogue », a menacé le mystérieux appelant, selon DeStefano, qui « tremblait » à ce moment-là. « Je vais avoir mon chemin avec elle, et je vais la déposer au Mexique. »

Pendant tout ce temps, elle pouvait entendre sa fille en arrière-plan implorer : « Aide-moi, maman. Aidez-moi. Aidez-moi, et en hurlant.

C’est alors que le faux ravisseur de Brie a exigé la rançon.

Il a d’abord demandé 1 million de dollars, mais a ensuite abaissé le chiffre à 50 000 dollars après que DeStefano ait déclaré qu’elle n’avait pas « l’argent ».

Le cauchemar a finalement pris fin après que le parent terrifié, qui était au studio de son autre fille à l’époque, ait reçu l’aide d’une de ses collègues mères.

Après avoir appelé le 911 et le mari de DeStefano, ils ont confirmé que Brie était saine et sauve lors de son excursion de ski.

Cependant, pendant tout l’appel, elle était convaincue que sa fille était en danger. « C’était complètement sa voix », a décrit l’Arizonan. « C’était son inflexion. C’était la façon dont elle aurait pleuré. »

Il s’est avéré que sa progéniture n’a jamais rien dit de tout cela, et la voix a été conçue via une simulation d’IA comme un cas de ventriloquisme à longue distance.

L’identité du “criminel” est inconnue pour le moment, mais les experts en informatique disent que la technologie de clonage vocal a évolué au point que le ton et la manière de parler de quelqu’un peuvent être recréés à partir des plus brefs extraits sonores.

« Au début, cela nécessiterait une plus grande quantité d’échantillons », a expliqué Subbarao Kambhampati, professeur d’informatique et autorité en IA à l’Arizona State University. « Maintenant, il y a des façons de le faire avec seulement trois secondes de votre voix. Trois secondes. Et avec les trois secondes, cela peut se rapprocher de la façon dont vous sonnez exactement. »

Avec une taille d’échantillon suffisamment grande, l’IA peut imiter son « inflexion » ainsi que son « émotion », selon le professeur.

Pensez à la façon dont le sinistre robot T-1000 de Robert Patrick du classique de science-fiction « Terminator 2: Judgment Day » répète comme un perroquet la voix de la mère de John Connor pour essayer de l’attirer à la maison.

DeStefano a trouvé la simulation vocale particulièrement troublante étant donné que « Brie n’a PAS de comptes de médias sociaux publics qui ont sa voix et n’en ont presque pas », selon un message sur le compte Facebook de la mère.

« Elle a quelques interviews publiques pour le sport et l’école qui ont un large échantillon de sa voix », a décrit la mère de Brie. « Cependant, c’est quelque chose qui doit être particulièrement préoccupé par les enfants qui ont des comptes publics. »

En effet, les experts du FBI avertissent que les fraudeurs trouvent souvent leurs cibles sur les médias sociaux.

« Si vous avez [vos informations] publiques, vous vous permettez d’être arnaqué par des gens comme ça », a déclaré Dan Mayo, l’agent spécial adjoint en charge du bureau du FBI à Phoenix. « Ils vont chercher des profils publics qui ont autant d’informations que possible sur vous, et quand ils vont mettre la main dessus, ils vont creuser dans vous. »

Afin d’éviter d’être dupé et escroqué, il conseille de poser à l’escroc un tas de questions sur la « personne enlevée » que l’escroc ne connaîtrait pas.

Mayo a également suggéré de faire attention aux drapeaux rouges, par exemple s’ils appellent à partir d’un indicatif régional inconnu ou utilisent un numéro international.

Pendant ce temps, DeStefano a averti les gens sur Facebook d’alerter les autorités si l’arnaque qu’elle a décrite leur arrivait ou à quelqu’un qu’ils connaissaient.