Les applications de rencontres en ligne ont toujours été un terrain propice aux escroqueries amoureuses. Les cybercriminels se surpassent pour voler de l’argent, des informations personnelles et des photos explicites. Vous trouverez leurs faux profils partout.
Et avec la prolifération des outils d’IA générative, les escroqueries à la romance deviennent encore plus faciles à exécuter. Ils abaissent les barrières à l’entrée. Voici sept façons dont les escrocs exploitent l’IA et comment vous pouvez vous protéger.
1. Envoyer en masse des courriels générés par l’IA
Les courriers électroniques indésirables sont de plus en plus difficiles à filtrer. Les escrocs romantiques abusent des outils d’IA générative pour rédiger des messages trompeurs et convaincants et créer plusieurs comptes en l’espace de quelques heures. Ils approchent des centaines de personnes presque instantanément.
Vous verrez des messages de spam générés par l’IA sur diverses plateformes, et pas seulement dans votre boîte aux lettres électronique. Prenons l’exemple de l’arnaque au faux numéro. Les escrocs envoient en masse des selfies mignons ou des photos suggestives. Et si quelqu’un répond, ils font passer cela pour une erreur innocente.
Une fois la personne en ligne, elle est transférée vers une autre plateforme de messagerie (WhatsApp ou Telegram, par exemple). La plupart des arnaques durent des semaines. Les escrocs établissent progressivement un climat de confiance avant de demander à leurs cibles de participer à des programmes d’investissement, d’acquitter leurs factures ou de payer des voyages.
Restez en sécurité en évitant complètement les messages de spam. Limitez vos contacts avec des inconnus, quelle que soit leur apparence ou ce qu’ils proposent.
2. Répondre rapidement à un plus grand nombre de conversations
Les bots se répandent comme une traînée de poudre en ligne. Selon Imperva, les robots malveillants représentaient 30 % du trafic Web automatisé en 2022. Vous en trouverez un en quelques secondes en parcourant les matchs de Tinder.
L’une des raisons de ce pic soudain de bots est la prolifération des outils d’IA générative. Ils produisent des bots en masse. Il suffit de saisir la bonne invite pour que l’outil présente un extrait de code complet et efficace pour la génération de bots.
Sachez quand vous parlez à un robot. Bien que l’IA utilise un ton naturel et conversationnel, son dialogue reste monotone et maladroit. Après tout, les chatbots ne font que suivre des modèles. Il peut produire des réponses similaires à différentes questions, déclarations et demandes.
3. Création d’identités multiples à partir d’images volées
Les générateurs d’art IA manipulent les images. Prenons l’exemple de la démonstration ci-dessous. Nous avons fourni à Playground AI une photographie candide d’une chanteuse célèbre et la plateforme a produit trois variantes en quelques secondes.
Oui, ils ont des défauts. Mais il faut noter que nous avons utilisé un outil gratuit utilisant un modèle texte-image obsolète. Les escrocs produisent des résultats plus réalistes avec des itérations sophistiquées. Ils peuvent rapidement produire des centaines de photos personnalisées et manipulées à partir de quelques échantillons seulement.
Malheureusement, les images d’IA sont difficiles à détecter. Le mieux est d’effectuer une recherche d’images inversée et de passer au crible les résultats pertinents.
4. Construire des profils à l’apparence trompeuse et authentique
Les robots approchent les victimes en masse. Les escrocs qui préfèrent une approche ciblée ne créent donc qu’un ou deux profils d’apparence authentique. Ils utilisent l’intelligence artificielle pour paraître convaincants. Les outils d’IA générative peuvent composer des descriptions d’apparence authentique qui semblent naturelles et authentiques ; les fautes de grammaire ne seront plus un problème.
ChatGPT suggère quelques passe-temps à inscrire sur un profil de rencontre.
Et voici ChatGPT qui écrit une biographie complète pour votre profil de rencontre.
Étant donné que ce processus prend beaucoup de temps, il nécessite également un gain plus important. Les escrocs ont donc tendance à en demander plus. Une fois qu’ils ont gagné votre confiance, ils vous demandent de les aider à résoudre divers « problèmes », comme des factures d’hôpital, des remboursements de prêts ou des frais de scolarité. Certains prétendent même vous rendre visite si vous prenez leur billet.
Ces cybercriminels sont habiles à manipuler les victimes. La meilleure tactique est d’éviter d’entrer en contact avec eux dès le départ. Ne les laissez pas dire quoi que ce soit. Sinon, vous risquez de tomber progressivement dans le piège de leurs méthodes de tromperie et d’intoxication.
5. Exploitation de la technologie Deepfake à des fins d’extorsion sexuelle
L’IA a fait évoluer les outils de deepfake à une vitesse alarmante. Les nouvelles technologies réduisent les imperfections mineures des vidéos truquées, comme les clignements d’yeux non naturels, les teintes de peau inégales, les sons déformés et les éléments incohérents.
Malheureusement, ces erreurs constituent également des signaux d’alarme. En permettant aux utilisateurs de les supprimer, il est plus difficile de faire la différence entre les vidéos légitimes et les deepfakes.
Bloomberg montre comment toute personne ayant des connaissances techniques de base peut manipuler sa voix et ses images pour en reproduire d’autres.
Outre la création de profils de rencontre réalistes, les escrocs exploitent les outils deepfake à des fins d’extorsion sexuelle. Ils mélangent des photos et des vidéos publiques avec de la pornographie. Après avoir manipulé le contenu illicite, ils font chanter les victimes et leur demandent de l’argent, des données personnelles ou des faveurs sexuelles.
Ne cédez pas si vous êtes pris pour cible. Appelez le 1-800-CALL-FBI, envoyez un message au FBI ou visitez votre bureau local du FBI si vous vous trouvez dans cette situation.
6. Intégration de modèles d’IA aux systèmes de piratage brutal
Si les modèles de langage libres permettent certaines avancées en matière d’IA, ils sont également susceptibles d’être exploités. Les criminels tirent parti de tout. Vous ne pouvez pas vous attendre à ce qu’ils ignorent l’algorithme derrière des modèles de langage hautement sophistiqués comme LLaMA et OpenAssistant.
Dans les escroqueries à la romance, les pirates intègrent souvent des modèles de langage au craquage de mots de passe. Les capacités de NLP et d’apprentissage automatique de l’IA permettent aux systèmes de piratage par force brute de produire des combinaisons de mots de passe rapidement et efficacement. Ils pourraient même faire des prédictions éclairées s’ils disposaient d’un contexte suffisant.
Vous n’avez aucun contrôle sur les agissements des escrocs. Pour protéger vos comptes, veillez à créer un mot de passe vraiment sûr comprenant des caractères spéciaux, des combinaisons alphanumériques et plus de 14 caractères.
7. Imiter de vraies personnes avec le clonage vocal
Les générateurs de voix d’IA ont d’abord été des jouets sympathiques. Les utilisateurs transformaient des extraits de leurs artistes préférés en reprises, voire en nouvelles chansons. Prenons l’exemple de Heart on My Sleeve. L’utilisateur de TikTok Ghostwriter977 a créé une chanson super réaliste imitant Drake et The Weeknd, bien qu’aucun des deux artistes ne l’ait chantée.
Malgré les blagues et les mèmes qui l’entourent, la synthèse vocale est très dangereuse. Elle permet aux criminels d’exécuter des attaques sophistiquées. Par exemple, les escrocs à la romance utilisent des outils de clonage de voix pour appeler des cibles et laisser des enregistrements trompeurs. Les victimes qui ne connaissent pas la synthèse vocale ne remarqueront rien d’anormal.
Protégez-vous des escroqueries par clonage de voix d’IA en étudiant le son des sorties synthétiques. Explorez ces générateurs. Ils ne font que créer des clones presque identiques, mais vous pourrez tout de même déceler certaines imperfections et incohérences.
Protégez-vous contre les arnaqueurs de l’IA dans les rencontres
À mesure que les outils d’IA générative progressent, les escrocs développent de nouvelles façons de les exploiter. Les développeurs ne peuvent pas arrêter ces criminels. Jouez un rôle proactif dans la lutte contre la cybercriminalité au lieu de vous contenter de croire que les restrictions de sécurité fonctionnent. Vous pouvez toujours utiliser les applications de rencontres. Mais assurez-vous de connaître la personne de l’autre côté de l’écran avant de vous engager avec elle.
Et méfiez-vous des autres stratagèmes assistés par l’IA. Outre les escroqueries amoureuses, les criminels utilisent l’IA pour l’usurpation d’identité, la cyber-extorsion, le chantage, les attaques par ransomware et le piratage par force brute. Apprenez à lutter contre ces menaces également.
