Qui n’a pas utilisé ChatGPT à ce jour ? C’est amusant, absolument fascinant si vous vous intéressez à l’intelligence artificielle, et gratuit (pour l’instant).
Bien qu’il soit généralement décrit comme un chatbot, ChatGPT est bien plus que cela. Il peut générer des textes, expliquer des sujets complexes, faire office de traducteur, inventer des blagues et écrire du code. Mais il peut également être utilisé comme une arme par les acteurs de la menace.
Comment fonctionne le ChatGPT et pourquoi il est attrayant pour les cybercriminels
ChatGPT (Generative Pre-trained Transformer) a été développé par le laboratoire de recherche en intelligence artificielle OpenAI, et lancé en novembre 2022. C’est un grand modèle de langage qui utilise une combinaison de techniques d’apprentissage automatique supervisé et par renforcement.
Peut-être plus important encore, ChatGPT est constamment affiné et entraîné par les utilisateurs, qui peuvent soit voter à la hausse soit à la baisse ses réponses, ce qui le rend d’autant plus précis et puissant, car il recueille des données par lui-même.
C’est ce qui différencie ChatGPT des autres chatbots. Et si vous l’avez déjà utilisé, vous savez que la différence est immédiatement perceptible : contrairement à d’autres produits similaires, il est capable de participer activement à une conversation et d’accomplir des tâches complexes avec une précision étonnante, tout en fournissant des réponses cohérentes et humaines.
Si l’on vous montrait un court essai écrit par un humain et un autre écrit par ChatGPT, vous auriez probablement du mal à déterminer lequel est lequel. À titre d’exemple, voici une partie du texte que ChatGPT a généré lorsqu’on lui a demandé d’écrire un court essai sur L’attrape-cœurs.
Cela ne veut pas dire que ChatGPT n’a pas ses limites – il en a certainement. Plus vous l’utiliserez, plus vous remarquerez que c’est le cas. Aussi puissant qu’il soit, il peut toujours se débattre avec la logique élémentaire, faire des erreurs, partager des informations fausses et trompeuses, mal interpréter les instructions de manière comique et être manipulé pour tirer une conclusion erronée.
Mais la puissance de ChatGPT ne réside pas dans sa capacité à converser. Elle réside plutôt dans sa capacité quasi illimitée à accomplir des tâches en masse, plus efficacement et beaucoup plus rapidement qu’un humain ne le pourrait. Avec les bonnes entrées et commandes, et quelques contournements créatifs, ChatGPT peut être transformé en un outil d’automatisation d’une puissance inquiétante.
En gardant cela à l’esprit, il n’est pas difficile d’imaginer comment un cybercriminel pourrait utiliser ChatGPT comme une arme. Il s’agit de trouver la bonne méthode, de la mettre à l’échelle et de faire en sorte que l’IA accomplisse autant de tâches que possible en même temps, avec plusieurs comptes et sur plusieurs appareils si nécessaire.
5 choses que les acteurs de la menace pourraient faire avec ChatGPT
Il existe déjà quelques exemples concrets d’utilisation de ChatGPT par des acteurs de la menace, mais il est plus que probable qu’il soit utilisé de différentes manières, ou qu’il le soit à un moment donné dans le futur. Voici cinq choses que les pirates peuvent faire (et font probablement) avec ChatGPT.
1. Écrire un malware
Si ChatGPT peut écrire du code, il peut écrire des malwares. Ce n’est pas une surprise. Mais il ne s’agit pas d’une simple possibilité théorique. En janvier 2023, la société de cybersécurité Check Point Research a découvert que les cybercriminels utilisent déjà ChatGPT pour écrire des logiciels malveillants et s’en vantent sur des forums clandestins.
L’acteur de la menace découvert par Check Point Research utilisait le chatbot avancé de manière plutôt créative, pour recréer un malware basé sur Python décrit dans certaines publications de recherche. Lorsque les chercheurs ont testé le programme malveillant, le cybercriminel a dit la vérité : le malware généré par ChatGPT a fait exactement ce pour quoi il a été conçu.
2. Générer des e-mails de phishing
Aussi puissants que soient devenus les filtres anti-spam, de dangereux courriels de phishing passent encore entre les mailles du filet, et il n’y a pas grand-chose que le citoyen moyen puisse faire, si ce n’est signaler l’expéditeur à son fournisseur. Mais il y a beaucoup de choses qu’un acteur de la menace capable pourrait faire avec une liste de diffusion et un accès à ChatGPT.
Avec les bonnes commandes et suggestions, ChatGPT peut générer des e-mails de phishing convaincants, automatisant potentiellement le processus pour l’acteur de la menace et lui permettant d’étendre ses opérations.
3. Créer des sites Web d’escroquerie
Si vous tapez sur Google l’expression « créer un site Web avec ChatGPT », vous trouverez un grand nombre de tutoriels expliquant en détail comment faire. Si c’est une bonne nouvelle pour tous ceux qui souhaitent créer un site Web à partir de rien, c’est aussi une bonne nouvelle pour les cybercriminels. Qu’est-ce qui les empêche d’utiliser ChatGPT pour créer un tas de sites d’escroquerie ou de pages d’atterrissage de phishing ?
Les possibilités sont presque infinies. Un acteur de la menace pourrait cloner un site Web existant avec ChatGPT puis le modifier, créer de faux sites de commerce électronique, gérer un site avec des escroqueries de type scareware, etc.
4. Créer du contenu de spam
Pour créer un faux site Web, exploiter une page de médias sociaux frauduleuse ou construire un site d’imitation, vous avez besoin de contenu – beaucoup de contenu. Et il doit paraître aussi légitime que possible pour que l’arnaque fonctionne. Pourquoi un acteur menaçant engagerait-il des rédacteurs de contenu ou écrirait-il lui-même des articles de blog, alors que ChatGPT peut le faire pour lui ?
Il est vrai qu’un site Web dont le contenu est généré par l’IA serait probablement pénalisé par Google assez rapidement et n’apparaîtrait pas dans les résultats de recherche, mais il existe de nombreuses façons différentes pour un pirate de promouvoir un site Web, d’y envoyer du trafic et d’escroquer les gens de leur argent ou de voler leurs informations personnelles.
5. Diffuser de la désinformation et des fausses nouvelles
La désinformation en ligne est devenue un problème majeur ces dernières années. Les fausses nouvelles se répandent comme une traînée de poudre sur les médias sociaux, et les personnes qui ne savent pas ce qu’il en est se laissent souvent prendre au piège d’histoires trompeuses – et parfois littéralement inventées. Cette situation peut avoir des conséquences désastreuses dans la vie réelle, et il semble que personne n’ait la moindre idée de la manière de mettre un terme à la diffusion des fake news sans violer les lois sur la liberté d’expression.
Des outils comme ChatGPT pourraient exacerber ce problème. L’accès des acteurs de la menace à un logiciel capable de générer des milliers de fausses nouvelles et de messages sur les médias sociaux chaque jour semble être la recette du désastre.
Ne nous croyez pas sur parole
Si vous n’êtes pas convaincu, nous avons demandé à ChatGPT comment un cybercriminel l’utiliserait. Il semble être d’accord avec l’essentiel de cet article.
Entre de mauvaises mains, ChatGPT devient dangereux
On ne peut qu’imaginer ce dont l’intelligence artificielle sera capable dans cinq ou dix ans. Pour l’instant, il est préférable d’ignorer le battage médiatique et la panique, et d’évaluer ChatGPT de manière rationnelle.
Comme toute technologie, ChatGPT n’est ni utile ni nuisible en soi. Malgré certains défauts, il est de loin le chatbot le plus performant jamais mis à la disposition du public.