Si vous êtes actif sur Twitter, vous avez peut-être vu des images choquantes de l’ancien président américain Donald Trump arrêté par des policiers, se débattant avec eux et même s’enfuyant. Il s’avère que rien de tout cela n’était réel. Mais comment tout cela a-t-il pu se produire ?
L’arrestation de Donald Trump qui n’a jamais eu lieu
Le 18 mars, l’ancien président des États-Unis a partagé une supposée fuite sur son site officiel Truth Social. Le message indiquait qu’il s’attendait à une arrestation le mardi de la semaine suivante pour des accusations « anciennes et totalement démenties » à son encontre. Il n’a pas fallu attendre longtemps pour que des images de l’arrestation de Trump apparaissent sur Internet.
Les images montraient ce qui semblait être des séquences de l’arrestation de Trump par un groupe d’agents des forces de l’ordre.
Les images ont été générées par l’intelligence artificielle
Les images n’étaient cependant pas authentiques. Il s’agissait de deepfakes réalisés à l’aide de Midjourney, un générateur d’images d’IA. Midjourney utilise un algorithme d’apprentissage profond pour générer des images à partir de zéro à l’aide d’invites textuelles. Dans ce cas, les invites textuelles étaient des variations de Trump en train de se faire arrêter.
La technologie Deepfake existe depuis un certain temps et devient de plus en plus sophistiquée. Les images générées par l’IA étaient auparavant facilement identifiables : elles manquaient de détails et de réalisme. Cependant, la dernière version de Midjourney (v5) a corrigé la plupart de ces problèmes et c’est en fait la version utilisée pour générer les deepfakes de l’arrestation de Trump.
Comment les images sont devenues virales
Eliot Higgins, journaliste d’investigation, a créé les premières versions des deepfakes de l’arrestation de Trump pour visualiser ce à quoi ressemblerait une arrestation de Trump. Il les a publiées sur son compte Twitter. Alors que sa légende indiquait d’emblée que les images étaient fausses, il n’a pas fallu longtemps pour que le message devienne viral.
Au fur et à mesure que les images se répandaient sur les réseaux sociaux, de nombreuses personnes ont cru qu’elles étaient réelles. Le message de Trump sur Truth Social avait déjà éveillé les soupçons, et les images réalistes n’ont fait qu’attiser le feu. Il a fallu un certain temps avant de comprendre que les photos étaient fausses et que l’histoire de l’arrestation était un canular.
Les messages sur les médias sociaux « rapportant » la fausse arrestation ont été supprimés ou portent la mention « information erronée ». En guise de sanction, Midjourney a également banni Higgins de son serveur pendant un mois, selon le Washington Post.
L’ère des Deepfakes requiert de la vigilance
Les « deepfakes » de l’arrestation de Trump mettent en évidence les progrès alarmants de la technologie de l’intelligence artificielle. Il est désormais possible de créer de fausses images avec une facilité déconcertante et de les rendre si réalistes qu’il est difficile de distinguer ce qui est réel de ce qui ne l’est pas. La vigilance est plus que jamais de mise en ce qui concerne les contenus en ligne.
