Selon un ancien directeur de Google, une IA consciente et dangereuse telle que Skynet est inévitable

selon ancien directeur google ia consciente telle que skynet inevitable
Image d'illustration mettant en scène le logo "Skynet" de la série de films « Terminator ». | Shutterstock/Trust My Science (edit : Jonathan Paiano)

Dans une interview récente, un ancien directeur de Google fait part de ses craintes quant à l’évolution trop rapide de l’intelligence artificielle vers une potentielle « version consciente », appelée « intelligence artificielle générale » (IAG). Il déclare notamment que selon lui, l’IA représente désormais « une menace majeure pour l’humanité ».

Dans un discours étonnant pour un ancien dirigeant au sein d’une telle société, il ajoute que le type d’IA qui pourrait un jour se révéler sera digne d’un film de science-fiction, et qu’elle pourrait même s’avérer dangereusement consciente et incontrôlable, telle que Skynet de la série de films « Terminator ».

Mo Gawdat, anciennement directeur commercial de l’organisation « moonshot » de Google, qui s’appelait à l’époque Google X, a lancé cet avertissement dans une nouvelle interview accordée au Times. Il y déclare notamment qu’il est convaincu que l’IAG est inévitable — et « qu’une fois qu’elle sera là, l’humanité pourrait très bien se retrouver face à une apocalypse provoquée par des machines largement supérieure à l’Homme ».

La vallée de l’étrange : « Ça m’a complètement figé »

Gawdat a raconté au Times qu’il a eu cette révélation effrayante alors qu’il travaillait avec des développeurs d’IA chez Google X, qui développaient des bras robotiques capables de trouver et de ramasser une petite balle. Après une période de lente progression, Gawdat explique qu’un bras avait attrapé la balle et semblait la présenter aux chercheurs dans un geste qui, à ses yeux, ressemblait à de la « frime ». « Et j’ai soudain réalisé que c’était vraiment effrayant », a déclaré Gawdat. « Ça m’a complètement figé ». « La réalité est… que nous sommes en train de créer Dieu », a-t-il ajouté. Par « Dieu », il sous-entend une entité omnisciente, omniprésente et supérieure à l’Homme.

À LIRE AUSSI :
La Chine rend illégales les transactions de cryptomonnaies, le cours du Bitcoin chute brutalement

Néanmoins, il faut avouer que ses craintes sont quelque peu exagérées en apprenant ce sur quoi elles sont initialement fondées. Gawdat a interprété ce mouvement (celui du bras robotique) d’une certaine manière, qu’il a entre autres attribué à une émotion ou une gestuelle qu’il a déjà vues chez un humain. Cette frontière « dérangeante » de la robotique humanoïde est appelée « vallée de l’étrange », évoquée la première fois par le roboticien japonais Mori Masahiro en 1970.

Selon cette théorie, plus un robot est similaire à un être humain, plus ses imperfections nous paraissent effrayantes, comme cela était le cas pour le bras robotisé évoqué par Gawdat. Et c’est notamment pour cela que beaucoup sont plus à l’aise en face d’un robot clairement artificiel que devant un robot doté d’une peau, de vêtements et d’un visage visant à le faire passer pour humain.

Quand l’IA évolue plus vite que la société…

Vous voulez éliminer toutes les pubs du site tout en continuant de nous soutenir ?

C'est simple, il suffit de s'abonner !


J'EN PROFITE

20% de rabais pour les 1000 premiers !
Code : 0pub20

Les alarmistes de l’IA ne manquent pas dans l’industrie technologique — Elon Musk, par exemple, a maintes fois mis en garde le monde contre les dangers de l’IA conquérant un jour l’humanité. Mais ce type de perspective spéculative passe sous silence les dangers et les dommages réels liés à l’IA que nous subissons déjà.

Par exemple, les algorithmes de reconnaissance faciale et de police prédictive ont causé des dommages réels dans des communautés mal desservies. D’innombrables algorithmes continuent de propager et de codifier des préjugés, voire même le racisme, dans tous les domaines, tels qu’une IA de Facebook récemment pointée du doigt après avoir catégorisé de « primates » des hommes noirs apparaissant dans une vidéo. Sans évoquer l’IA au service des forces armées, qui bientôt prendra des décisions critiques par elle-même.

À LIRE AUSSI :
Des dizaines de voitures autonomes se retrouvent coincées dans une impasse

Ces problèmes peuvent être résolus par la surveillance et la réglementation, mais étant donné l’évolution rapide et, surtout, l’application toujours plus diversifiée de l’IA, le challenge est de taille. Il sera donc nécessaire, à un certain stade, de limiter les applications des technologies sous-jacentes afin que la réglementation et la surveillance puissent suivre.

Laisser un commentaire
Cliquez pour accéder à d'autres articles sur ce sujet.
Cliquez pour accéder à d'autres articles sur ce sujet.