L’intelligence artificielle (IA) a le potentiel de changer la nature même de notre société. Et si les outils d’IA dont nous disposons actuellement sont une indication de ce qui nous attend, nous avons de quoi nous réjouir.
Nous devons également nous méfier de beaucoup de choses. A savoir, la militarisation de l’IA par les cybercriminels et autres acteurs de la menace. Il ne s’agit pas d’une préoccupation théorique, et même les générateurs d’images d’IA ne sont pas à l’abri des abus.
Que sont les générateurs d’images d’IA ? Comment fonctionnent-ils ?
Si vous avez déjà utilisé un générateur d’images IA, vous avez une assez bonne idée de ce dont il s’agit. Même si vous n’en avez jamais utilisé, vous avez très probablement rencontré des images générées par l’IA sur les médias sociaux et ailleurs. Les logiciels les plus populaires aujourd’hui fonctionnent sur un principe très simple : l’utilisateur tape le texte et l’IA génère une image à partir de ce texte.
Ce qui se passe sous le capot est beaucoup plus complexe. L’IA s’est beaucoup améliorée ces dernières années et la plupart des générateurs de texte-image sont aujourd’hui des modèles dits de diffusion. Cela signifie qu’ils sont « entraînés » pendant une longue période de temps sur un nombre énorme de textes et d’images, ce qui rend leurs créations si impressionnantes et d’un réalisme stupéfiant.
Ce qui rend ces outils d’IA encore plus impressionnants, c’est le fait qu’ils ne se contentent pas de modifier des images existantes ou de combiner des milliers d’images en une seule, mais qu’ils créent également de nouvelles images originales à partir de rien. Plus les gens utilisent ces générateurs texte-image, plus ils reçoivent d’informations et plus leurs créations s’améliorent.
Certains des générateurs d’images IA les plus connus sont Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor et Craiyon. De nouveaux générateurs apparaissent à droite et à gauche, et les géants de la technologie – y compris Google – publient les leurs, de sorte que nous ne pouvons que spéculer sur ce que l’avenir nous réserve.
4 façons pour les acteurs de la menace d’utiliser les générateurs d’images IA comme armes.
Comme presque toutes les technologies, les générateurs d’images d’IA peuvent être utilisés abusivement par des acteurs malveillants. En fait, ils sont déjà utilisés à toutes sortes de fins néfastes. Mais quel type d’escroquerie et de cyberattaque un criminel peut-il mener à l’aide de générateurs d’images IA ?
Une chose évidente que les acteurs de la menace pourraient faire avec les générateurs d’images d’IA est de s’engager dans l’ingénierie sociale ; par exemple, créer de faux profils de médias sociaux. Certains de ces programmes peuvent créer des images incroyablement réalistes qui ressemblent à des photos authentiques de personnes réelles, et un escroc pourrait utiliser ces faux profils de médias sociaux pour faire du catfishing.
Contrairement aux photos de personnes réelles, celles générées par l’IA ne peuvent pas être découvertes par une recherche d’image inversée, et le cybercriminel n’a pas à travailler avec un nombre limité de photos pour tromper sa cible – grâce à l’IA, il peut en générer autant qu’il le souhaite, construisant ainsi une identité en ligne convaincante à partir de rien.
Mais il existe des exemples réels d’acteurs de la menace utilisant des générateurs d’images d’IA pour escroquer les gens. En avril 2022, Ben Dickinson, blogueur de TechTalks, a reçu un courriel d’un cabinet d’avocats lui reprochant d’avoir utilisé une image sans autorisation. Les avocats ont envoyé un avis de violation du droit d’auteur DMCA, indiquant à Dickinson qu’il devait créer un lien vers un de leurs clients ou retirer l’image.
Dickinson a cherché le cabinet d’avocats sur Google et a trouvé le site officiel. Tout semblait parfaitement légitime ; le site contenait même des photos de 18 avocats, avec leurs biographies et leurs références. Mais rien de tout cela n’était réel. Les photos étaient toutes générées par l’IA, et les prétendues notifications de violation du droit d’auteur étaient envoyées par quelqu’un qui cherchait à extorquer des liens retour à des blogueurs peu méfiants, dans le cadre d’une stratégie SEO (Search Engine Optimization) contraire à l’éthique et au code pénal.
2. Arnaques à la charité
Lorsque des tremblements de terre dévastateurs ont frappé la Turquie et la Syrie en février 2023, des millions de personnes dans le monde ont exprimé leur solidarité avec les victimes en faisant don de vêtements, de nourriture et d’argent.
Selon un rapport de la BBC, des escrocs en ont profité, utilisant l’IA pour créer des images réalistes et solliciter des dons. Un escroc a montré des images de ruines générées par l’IA sur TikTok Live, demandant à ses spectateurs de faire des dons. Un autre a posté une image générée par l’IA d’un pompier grec sauvant un enfant blessé dans des ruines, et a demandé à ses adeptes des dons en bitcoins.
On ne peut qu’imaginer le type d’escroqueries caritatives que les criminels organiseront à l’avenir avec l’aide de l’IA, mais on peut supposer qu’ils ne feront que s’améliorer dans l’utilisation abusive de ce logiciel.
3. Deepfakes et désinformation
Les gouvernements, les groupes d’activistes et les groupes de réflexion ont depuis longtemps mis en garde contre les dangers des « deepfakes ». Les générateurs d’images d’IA ajoutent une autre composante à ce problème, étant donné le réalisme de leurs créations. En fait, au Royaume-Uni, il existe même une émission comique intitulée Deep Fake Neighbour Wars qui trouve de l’humour dans les couples de célébrités improbables. Qu’est-ce qui empêcherait un agent de désinformation de créer une fausse image et de la promouvoir sur les médias sociaux avec l’aide de bots ?
Cela peut avoir des conséquences dans la vie réelle, comme cela a failli être le cas en mars 2022, lorsqu’une fausse vidéo montrant le président ukrainien Volodymyr Zelensky en train de dire aux Ukrainiens de se rendre a circulé en ligne, selon NPR. Mais ce n’est qu’un exemple, car les possibilités sont presque infinies, et il existe d’innombrables façons pour un acteur menaçant de porter atteinte à la réputation de quelqu’un, de promouvoir un faux récit ou de diffuser des fake news avec l’aide de l’IA.
4. Fraude publicitaire
Les chercheurs de TrendMicro ont découvert en 2022 que des escrocs utilisaient du contenu généré par l’IA pour créer des publicités trompeuses et promouvoir des produits douteux. Ils créaient des images suggérant que des célébrités populaires utilisaient certains produits, et lançaient des campagnes publicitaires basées sur ces images.
Par exemple, une publicité pour une « opportunité de conseil financier » mettait en scène le milliardaire Elon Musk, fondateur et PDG de Tesla. Bien sûr, Musk n’a jamais approuvé le produit en question, mais les images générées par l’IA le laissaient croire, ce qui a probablement incité des spectateurs peu méfiants à cliquer sur les publicités.
L’IA et la cybersécurité : Une question complexe à laquelle nous devons nous attaquer
À l’avenir, les régulateurs gouvernementaux et les experts en cybersécurité devront probablement travailler ensemble pour faire face à la menace émergente de la cybercriminalité alimentée par l’IA. Mais comment réglementer l’IA et protéger les citoyens ordinaires sans étouffer l’innovation et restreindre les libertés numériques ? Cette question se posera avec acuité dans les années à venir.
En attendant de trouver une réponse, faites ce que vous pouvez pour vous protéger : vérifiez soigneusement toutes les informations que vous voyez en ligne, évitez les sites web douteux, utilisez des logiciels sûrs, maintenez vos appareils à jour et apprenez à utiliser l’intelligence artificielle à votre avantage.
