Une technologie sophistiquée d’intelligence artificielle peut être utilisée comme un outil puissant pour manipuler les individus, a averti un informaticien. La journaliste de Sky News Sophy Ridge a déclaré que cette perspective était « vraiment très effrayante » lors d’une émission diffusée ce matin sur Sky News. Le professeur Stuart Russell, directeur du Kavli Center for Ethics, Science, and the Public à l’université de Californie, est l’un des 30 000 signataires d’une lettre ouverte appelant à la prudence en matière de développement de logiciels d’intelligence artificielle sophistiqués.
Plus précisément, ils appellent à une pause dans la formation de systèmes d’IA plus puissants que GPT-4, un modèle de machine si sophistiqué qu’il peut même réussir l’examen du barreau.
Le professeur Russell, à qui Mme Ridge a demandé d’exposer ses préoccupations, a déclaré : « Il y a une distinction entre les systèmes qui existent déjà et ceux qui sont en cours de développement : « Il y a une distinction entre les systèmes qui existent déjà, et je pense que l’une des plus grandes préoccupations est la désinformation et les faux profonds.
« La différence ici, c’est que je peux maintenant demander à GPT-4 de lire toute la présence de Sophy Ridge sur les médias sociaux, tout ce que Sophy Ridge a jamais dit ou écrit, tout ce qui concerne les amis de Sophie Ridge.
Il poursuit : « Ensuite, je pourrais commencer une campagne graduelle en ajustant votre fil d’actualité, peut-être en envoyant occasionnellement quelques fausses nouvelles dans votre fil d’actualité, de sorte que vous soyez un peu moins favorable à l’Ukraine.
« Et vous commencez à faire pression sur les politiciens qui disent que nous devrions soutenir l’Ukraine dans la guerre contre la Russie, et ainsi de suite. Ce sera très facile à faire et ce qui est vraiment effrayant, c’est que nous pourrions faire cela à un million de personnes différentes avant le déjeuner.
« Ces systèmes peuvent donc avoir un impact énorme, pour le pire, en manipulant les gens d’une manière dont ils ne se rendent même pas compte ».
Interrogé par Mme Ridge, qui a qualifié cette perspective de « vraiment très effrayante », sur le fait de savoir si de telles choses se produisaient déjà, il a ajouté : « Je dirais que c’est tout à fait probable, oui : « Je dirais qu’il est fort probable que oui.
« Nous savons qu’il existe, en Chine, en Russie et en Corée du Nord, de vastes équipes de personnes qui diffusent de la désinformation. Et nous venons de leur donner un outil puissant ».
LIRE LA SUITE : Fureur après que The Guardian ait publié un article « antisémite » sur le patron évincé de la BBC
En ce qui concerne l’avenir, il a déclaré : « La préoccupation de la lettre concerne vraiment la prochaine génération du système : « La préoccupation de la lettre concerne vraiment la prochaine génération du système. À l’heure actuelle, je pense que les systèmes sont limités dans leur capacité à élaborer des plans complexes.
« Par exemple, vous savez, si vous voulez planifier le rachat d’une entreprise par une autre, c’est quelque chose de très compliqué et je ne pense pas que ces systèmes puissent générer ce genre de plans avec succès.
« Mais il est tout à fait possible que la prochaine génération ou la génération suivante commence à le faire et que des entreprises soient dirigées par des systèmes d’IA, que des campagnes militaires soient organisées par des systèmes d’IA et, à long terme, le problème est assez simple.
« Si vous construisez des systèmes plus puissants que les êtres humains, comment ces derniers peuvent-ils garder le pouvoir sur ces systèmes pour toujours ? C’est la véritable préoccupation qui sous-tend la lettre ouverte.
Ne manquez pas…
Les services secrets interviennent après une menace de mort contre Obama [LATEST]
Elon Musk lève le voile sur la véritable raison pour laquelle il vit dans une petite maison de 40 000 £. [LATEST]
Elon Musk se fait passer pour son fils et se moque de Biden sur un compte Twitter « brûleur ». [LATEST]
Elon Musk, patron de SpaceX, et Sir Richard Branson, maître d’œuvre de Virgin Galactic, ont également signé la lettre, publiée par l’institut Future of Life au début du mois. La lettre se lit comme suit : « Devrions-nous laisser les machines inonder nos informations ? « Devons-nous laisser les machines inonder nos canaux d’information de propagande et de mensonges ?
« Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ?
« De telles décisions ne doivent pas être déléguées à des leaders technologiques non élus.
Les systèmes d’IA puissants ne devraient être développés que lorsque nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables. »
