Arnaques et ChatGPT : les 5 nouveaux procédés des pirates

Les arnaqueurs se servent de l’IA pour créer des images ou des vidéos pornographiques ultraréalistes à partir de contenus publiés sur les réseaux sociaux. Pour cela, les pirates prennent des photos ou vidéos de personnes lambda disponibles en ligne, les montent sur des corps d’acteurs pornographiques puis demandent une rançon en échange de la suppression de ces vidéos pouvant être prises par des tiers pour vraies. En cas de refus, les pirates les publient sur des sites pornographiques. On appelle cela de la "sextorsion", explique 20 minutes.

Certains pirates créent des "deepfake", des montages vidéo et audio qui consistent à superposer des images pour donner l’impression qu’une célébrité fait telle ou telle action. Début juillet 2023, une fan de Brad Pitt s’est ainsi faite piégée par des arnaqueurs qui prétendaient être la star elle-même. Ils sont parvenus à soutirer 170 000 euros à leur victime, rapporte BFMTV.

Vous trouvez l’arnaque évidente ? Selon une étude de 2022 des universités Oxford et Brown ainsi que de la Royal Society, 78 % des internautes sont incapables de discerner une vidéo truquée d’une authentique.

Les fraudeurs recourent aux IA génératives pour recréer la voix de certains internautes. Pour cela, ils utilisent des enregistrements disponibles en ligne : notes audio, vidéos présentes sur les réseaux sociaux, commandes vocales… Grâce à l’IA, ils peuvent ensuite envoyer de faux messages vocaux aux contacts des victimes afin de leur soutirer de l’argent. En janvier 2023, aux Etats-Unis, Jennifer Destefano a reçu un appel de sa fille Briana de 15 ans qui lui disait : "Maman, des types m’ont enlevée, aide-moi". Or, il s’agissait d’un deepfake, explique 20 minutes.

Comme dans le cas de l’affaire Brad Pitt, vous pensez ne pas être dupe ? D’après une étude de McAfee, un quart des Français ont déjà été confrontés à une arnaque au clonage de voix par l'IA, et parmi les victimes, 80% ont perdu de l'argent.