L’intelligence artificielle générative (IA) est sous les feux de la rampe depuis quelque temps. Le chatbot ChatGPT alimenté par l’IA et d’autres systèmes de traitement du langage naturel tels que VALL-E ont fait connaître l’IA générative au grand public et en ont révélé les avantages et les inconvénients.
L’une des principales préoccupations concernant l’IA générative est qu’elle peut être utilisée pour améliorer les exploits malveillants et mettre au point des cyberattaques plus sophistiquées. Comment les pirates utilisent-ils l’IA générative dans leurs attaques et qu’est-ce que cela signifie pour l’avenir de la cybersécurité ?
Qu’est-ce que l’IA générative et comment fonctionne-t-elle ?
Comme son nom l’indique, l’IA générative est un type d’IA capable de générer de nouveaux contenus – images, textes, sons et données synthétiques.
Un exemple célèbre est ChatGPT, un chatbot alimenté par l’IA avec lequel vous pouvez avoir des conversations de type humain et obtenir de superbes recommandations de films – du moins si vous ne trouvez pas de mission plus significative à confier à ChatGPT.
Laissez-nous vous donner une idée ou deux : vous pourriez demander à ChatGPT d’écrire tous ces courriels difficiles pour vous, utiliser ChatGPT comme outil de traduction, et même faire de ChatGPT votre assistant de planification de repas sains. En somme, en quelques secondes, ce chatbot peut proposer un contenu apparemment nouveau et convaincant, et le présenter d’une manière assez politiquement correcte.
Cependant, une IA générative ne peut pas encore être créative comme le serait un humain. En effet, elle utilise des algorithmes d’apprentissage automatique non supervisés et semi-supervisés pour traiter un très grand nombre de données et générer des résultats personnalisés.
Par exemple, si vous souhaitez commander une peinture à la Picasso à une IA générative telle que DALL-E 2, vous devrez taper votre description dans un champ prévu à cet effet – disons « Guernica de Picasso mais avec des chatons » – et attendre quelques secondes. Pendant ce temps, l’IA appliquera tous les traits spécifiques du style de l’artiste qu’elle a appris auparavant, ajoutera des chatons pour faire bonne mesure et produira quelque chose d’original – nous avons obtenu l’image que vous pouvez voir un peu plus haut.
Comment les pirates utilisent-ils l’IA générative dans leurs attaques ?
Les méchants ont toujours été attirés par les bons algorithmes. Il n’est donc pas surprenant qu’ils exploitent l’IA générative pour renforcer leurs attaques. En utilisant des méthodes d’intelligence artificielle telles que l’apprentissage par renforcement et les réseaux adversaires génératifs, les cybercriminels peuvent concevoir de nouvelles cyberattaques plus sophistiquées, capables de déjouer les cyberdéfenses habituelles.
Un exemple de cette perversion est le chatbot « de pointe » d’OpenAI, ChatGPT, qui est utilisé par les cybercriminels pour écrire des logiciels malveillants. Au début, le ChatGPT semblait être un jeu amusant, mais il est maintenant considéré comme l’une des principales menaces pour la sécurité et la vie privée. Si vous aimez chatter avec ChatGPT, il est judicieux de faire attention à ce que les cybercriminels pourraient faire avec ChatGPT.
En résumé, ChatGPT et d’autres outils d’IA générative ont facilité la vie des cybercriminels et compliqué celle des équipes de sécurité. Les acteurs de la cybermenace utilisent notamment l’IA dans leurs attaques :
- Construire des logiciels malveillants plus performants et plus sophistiqués: Entre les mains des pirates, l’IA générative peut être utilisée pour créer des souches de logiciels malveillants difficiles à détecter et exécuter des attaques. Combinés à des modèles d’IA, les logiciels malveillants peuvent masquer leur intention jusqu’à ce qu’ils atteignent leur objectif malveillant.
- Rédiger des courriels d’hameçonnage personnalisés et alimentés par l’IA: Grâce à l’IA générative, les courriels de phishing ne présentent plus les signes révélateurs d’une escroquerie, tels qu’une mauvaise orthographe, une mauvaise grammaire et l’absence de contexte. De plus, avec une IA comme ChatGPT, les acteurs de la menace peuvent lancer des attaques de phishing à une vitesse et à une échelle sans précédent.
- Générer de fausses données profondes: Étant donné qu’elle peut créer des imitations convaincantes d’activités humaines (écriture, parole et images), l’IA générative peut être utilisée dans des activités frauduleuses telles que l’usurpation d’identité, la fraude financière et la désinformation.
- Craquer les CAPTCHAs et deviner les mots de passe: Utilisé par les sites et les réseaux pour éliminer les robots cherchant à obtenir un accès non autorisé, le CAPTCHA peut désormais être contourné par les pirates. En utilisant la ML, ils peuvent également accomplir d’autres tâches répétitives telles que la devinette de mot de passe et les attaques par force brute.
- Saboter la ML dans la détection des cybermenaces: Si un système de sécurité est submergé par un trop grand nombre de faux positifs, un pirate informatique peut le prendre par surprise avec une véritable cyberattaque.
Comment lutter contre la menace de l’IA générative ?
À mesure que les cyberattaques deviennent plus sophistiquées et leurs conséquences plus graves, les systèmes de sécurité traditionnels sont appelés à devenir des objets d’une époque révolue. Capable de tirer des enseignements des attaques précédentes et de s’adapter, l’IA est un atout inestimable tant pour les cybercriminels que pour leurs adversaires.
L’utilisation de l’IA dans le domaine de la cybersécurité présente de sérieux avantages, tels qu’une détection et une identification plus rapides des menaces, ainsi qu’une réponse plus rapide aux menaces. Avant que les cybercriminels n’apprennent à porter des coups dévastateurs aux particuliers et aux entreprises du monde entier, les professionnels de la cybersécurité doivent apprendre à leurs systèmes dotés d’IA à se protéger contre ces attaques.
Cependant, tout ne dépend pas de l’IA. Après tout, nous pouvons également renforcer notre propre sécurité et notre vie privée grâce à des méthodes éprouvées telles que l’authentification multifactorielle, la technologie biométrique, l’utilisation d’un gestionnaire de mots de passe, l’utilisation des meilleurs outils de collaboration cryptés et le bon vieux sens.
Combattre l’IA par l’IA
Allons-nous assister à des guerres de cybersécurité liées à l’IA dans un avenir proche ? Nous espérons que non. Toutefois, comme l’IA continue de progresser et devient accessible à tous – cybercriminels et professionnels de la cybersécurité – le rôle de l’IA et de la ML va s’accroître dans les années à venir.