Au cours des dernières années, les capacités de l’IA ont considérablement progressé. Aujourd’hui, nous pouvons utiliser l’IA pour créer des œuvres d’art, écrire des histoires, apprendre à connaître le monde, et bien plus encore. Mais tout cela n’arrive-t-il pas un peu trop tôt ? L’IA se développe-t-elle trop rapidement et quels sont les signes qui le suggèrent ?
Pourquoi les gens s’inquiètent-ils de l’IA ?
Fin mars 2023, un document a été publié en ligne par le Future of Life Institute, intitulé « Pause Giant AI Experiments : Une lettre ouverte ». Le document présente des arguments contre le développement de l’IA au-delà de la sophistication de GPT-4, la dernière itération d’OpenAI d’un chatbot alimenté par l’IA.
Dans cette lettre, il est écrit que « les systèmes d’IA dotés d’une intelligence compétitive avec celle des humains peuvent présenter des risques profonds pour la société et l’humanité » et que « les systèmes d’IA puissants ne devraient être développés que lorsque nous sommes sûrs que leurs effets seront positifs et que leurs risques seront gérables ».
Un certain nombre de personnalités du monde de la technologie, dont Steve Wozniak et Elon Musk, ont signé la lettre et souhaitent une pause dans le développement de l’IA. Cet appel à l’arrêt du développement de l’IA a remis en question la dangerosité de l’IA et les risques qu’elle fait peser sur la vie humaine.
Quels sont les signes indiquant que l’IA évolue trop rapidement ?
1. La concurrence avec les humains
Nous avons déjà vu la technologie remplacer les travailleurs humains dans d’innombrables scénarios. Lorsque vous vous rendez dans un fast-food, vous pouvez désormais commander via un écran d’ordinateur, et lorsque vous voulez faire vos courses, vous pouvez passer à la caisse à l’aide d’un système automatisé. Il s’agit d’une option rapide et pratique, mais à mesure que l’automatisation gagne du terrain dans diverses industries, le besoin de travailleurs humains se fait de moins en moins sentir.
C’est là que le problème commence. Bien sûr, les gens ont besoin de travailler pour subvenir à leurs besoins, mais l’essor de l’automatisation rend cette tâche beaucoup plus difficile. C’est particulièrement le cas pour les travailleurs au salaire minimum, comme ceux des secteurs de la restauration, de la production et de la vente au détail. Les tâches de base, telles que l’enregistrement des commandes, le ramassage des charges et le nettoyage, peuvent toutes être effectuées par des machines. L’intégration de l’IA signifie que nous pourrions bientôt ne plus avoir besoin d’opérateurs pour cette technologie.
Selon FormStack, 76 % des entreprises utilisent l’automatisation pour normaliser ou automatiser les flux de travail quotidiens. Et comme Zapier rapporte que 94 % des travailleurs ont déclaré que leur travail comportait des tâches répétitives et chronophages, l’automatisation alimentée par l’IA pourrait très facilement devenir une partie majoritaire de la main-d’œuvre mondiale dans tous les secteurs d’activité.
2. Encourager la paresse humaine
L’un des principaux avantages de l’IA est qu’elle peut simplifier de nombreuses tâches. Mais cette commodité peut très facilement céder la place à la paresse. Et, dans certains cas, c’est déjà le cas.
Prenons l’exemple de ChatGPT. Vous pouvez utiliser ChatGPT pour rédiger des essais, rechercher des sujets, faire des blagues, traduire des textes, et bien plus encore. Disposer d’un service capable d’exécuter rapidement des tâches à votre place est une bonne chose, mais cela nous conduit aussi à nous reposer sur nos lauriers. Freiner l’effort et la créativité de cette manière peut certainement avoir un effet négatif sur l’humanité dans son ensemble, ce qui est l’une des principales raisons pour lesquelles tant de personnes s’inquiètent de l’IA.
Nous sommes tellement habitués aux services alimentés par l’IA dans notre vie moderne que nous leur accordons naturellement une grande confiance. Par exemple, l’assistant virtuel de Microsoft, Cortana, utilise l’apprentissage automatique et l’IA pour exécuter les commandes des utilisateurs. De nombreux autres assistants virtuels, dont Siri d’Apple, utilisent également l’IA pour fonctionner.
Faire confiance à cette technologie peut être sûr, mais il est impossible de savoir, d’autant plus que l’IA en est encore à un stade de développement très avancé.
3. La diffusion de fausses informations
Dans les domaines grand public, l’IA a acquis une grande notoriété grâce à sa capacité à créer des œuvres d’art, des images et des vidéos. Les services alimentés par l’IA peuvent non seulement être utilisés pour créer de l’art, mais aussi pour créer une forme de média particulièrement controversée, connue sous le nom de « deepfakes ». Les deepfakes sont des vidéos dans lesquelles le visage d’une personne est superposé au corps d’une autre personne.
Cela semble assez amusant, mais peut très facilement être utilisé à mauvais escient.
Il existe déjà des milliers de vidéos de célébrités et de personnalités politiques qui semblent dire des choses incroyablement obscènes et inappropriées par le biais de « deepfakes ». Si certains deepfakes sont très faciles à identifier, d’autres sont tellement sophistiqués qu’il est difficile de discerner s’ils sont réels ou non. Dans ce cas, les gens peuvent penser qu’une personnalité publique a dit quelque chose qu’elle n’a en réalité jamais dit.
À partir de là, les gens se forgent une opinion sur ces vidéos, contribuant ainsi à la propagation de la désinformation en ligne.
De plus, les chatbots alimentés par l’IA peuvent également fournir de fausses informations aux utilisateurs. Les chatbots tels que ChatGPT, Boost.AI et Drift peuvent fournir aux utilisateurs de nombreuses informations, mais celles-ci ne sont pas toujours nécessairement exactes. Comme l’explique The Guardian, les chatbots dotés d’IA ne s’engagent aucunement à vous fournir des informations véridiques, ce qui signifie que les fausses nouvelles peuvent très facilement passer à travers les mailles du filet et vous parvenir.
4. La création de logiciels malveillants
Au début de l’année 2023, une nouvelle a commencé à circuler à propos d’acteurs malveillants créant des logiciels malveillants à l’aide de ChatGPT. Dans ce cas, la société de cyberanalyse Check Point Research a découvert que des personnes discutaient des avantages de l’utilisation de ChatGPT pour créer des logiciels malveillants sur un forum de piratage. L’auteur du message du forum a partagé un infostealer qu’il avait écrit en Python en utilisant ChatGPT, encourageant d’autres acteurs malveillants à créer des logiciels malveillants à l’aide du chatbot.
Les programmes malveillants doivent être codés, ce qui peut prendre du temps, surtout si le créateur n’utilise pas un modèle de programme préexistant.
En utilisant ChatGPT, les acteurs malveillants peuvent non seulement rationaliser le processus de création de logiciels malveillants, mais aussi permettre à des personnes moins averties sur le plan technologique de créer des logiciels malveillants. La sophistication de l’IA continuant à progresser, il pourrait être possible de créer des logiciels malveillants incroyablement sophistiqués capables de contourner la détection antivirus, l’authentification, les pare-feux et d’autres mesures de protection.
5. L’absence de réglementation
Un problème courant dans l’industrie technologique est l’absence de réglementation pour les nouveaux services, tels que les plateformes basées sur la blockchain et les produits d’IA. L’absence de réglementation peut être considérée comme une bonne chose par certains, mais elle peut aussi donner lieu à des pratiques illicites.
Non seulement l’absence de réglementation peut entraîner une augmentation des escroqueries et des cybercrimes alimentés par l’IA, mais la manière dont les chercheurs développent les technologies de l’IA peut également commencer à franchir de sérieuses frontières. Des considérations éthiques doivent être prises en compte lorsqu’il s’agit de l’IA. Un système peut-il devenir trop conscient ? Quels seront les effets de l’IA sur la vie humaine ? Devrions-nous exploiter l’IA de cette manière ? La liste des questions est longue.
En l’absence de réglementation, certaines entreprises pourraient commencer à franchir des limites morales, ce qui pourrait être une très mauvaise nouvelle pour le grand public.
L’IA évolue rapidement et présente certainement des risques
Il est indéniable que le potentiel de l’IA est immense, mais il doit être exploité de manière appropriée afin de réduire les risques de dérapage. Nous avons déjà vu l’IA utilisée à des fins malveillantes, il est donc impossible de savoir comment cette question pourrait évoluer à mesure que les choses progressent. L’avenir nous dira si l’IA est une bénédiction ou une malédiction dans notre monde, et la manière dont elle est gérée aujourd’hui jouera certainement un rôle dans ce résultat.