Tout le monde se souvient d’au moins un film de science-fiction incluant des robots devenant si puissants et intelligents qu’ils prennent le contrôle de la Terre (et/ou finissent par vouloir exterminer la race humaine…). Certes, nous n’en sommes pas encore là, mais l’intelligence artificielle (IA) inquiète de plus en plus. Non seulement les adeptes de science-fiction, mais également dans le monde scientifique.

L’inquiétude de voir un jour des machines intelligentes prendre le dessus sur les humains n’est pas un concept nouveau. De plus, l’avancée technologique de ces dernières années dans la recherche en IA et en robotique en général nous laisse entrevoir que nous ne sommes plus si loin des récits de science-fiction.

Naturellement, les concepteurs de cette IA n’ont pas envie de la voir devenir si puissante qu’elle puisse finir par leur échapper. Mais alors, comment pourrait-on arrêter une IA qui refuserait d’obéir ? Google pense qu’il faudrait la duper en lui faisant croire que l’idée vient d’elle-même. En effet, Google s’intéresse depuis longtemps aux intelligences artificielles. L’entreprise a même racheté Deep Mind Technologies en 2014, spécialisée dans ce secteur. Cette société d’intelligence artificielle basée à Londres  est notamment conceptrice du logiciel AlphaGo qui a vaincu le meilleur joueur de go du monde au mois de mars 2016.

Cependant, Elon Musk, Stephen Hawking et plus de 700 chercheurs et chefs d’entreprise sont tous unanimes sur la question : l’intelligence artificielle est un domaine d’étude fascinant, mais qui comporte aussi de nombreux risques. C’est pourquoi ils ont lancé une lettre ouverte pour avertir des « pièges » potentiels de l’IA, notamment de celui qui pourrait mener à une prise de pouvoir des machines.

 

Un bouton rouge d’arrêt d’urgence

Heureusement, Google a également conscience du danger que représentent les IA et a donc demandé à son équipe de Deep Mind de développer un bouton d’arrêt d’urgence dans le cas où une intelligence artificielle viendrait à se retourner contre l’humanité.

Cette fonction est élaborée en partenariat avec les scientifiques de l’Université d’Oxford et est censée permettre à un opérateur humain de modifier le comportement d’une intelligence artificielle, sans qu’elle ne s’en rende compte. Deux chercheurs, Laurent Orseau, de Google DeepMind et Stuart Armstrong, travaillant au sein du Future of Humanity Institute d’Oxford, s’interrogent sur l’avenir de l’IA et l’importance de prévoir un véritable « bouton rouge » d’arrêt d’urgence pour mettre ces robots hors circuit. « L’opérateur humain doit pouvoir appuyer sur le gros bouton rouge pour empêcher le robot d’exécuter une série d’actions néfastes ou dangereuses pour lui-même ou pour son environnement », écrivent-ils.

L’idéal serait donc de manipuler l’IA en lui faisant croire que la décision vient d’elle-même. Un signal codé ferait en sorte que l’IA détermine qu’elle doit arrêter ce qu’elle est en train de faire, ce serait un moyen possible pour pouvoir reprendre la main sur un robot ou un ordinateur qui refuserait toute commande extérieure. Toutefois, une IA est par nature capable d’apprendre et d’évoluer par elle-même, ce qui rend la méthode plutôt compliquée car celle-ci pourrait parvenir à échapper à cette menace (contre elle), en apprenant par exemple à désactiver le bouton rouge… Et, comme les chercheurs ont pris le soin de préciser, « cette éventualité n’est pas souhaitable ».

Ces hypothèses inquiétantes sont encore lointaines, mais avec l’évolution si rapide de la technologie et l’apparition probable dans des délais pas si éloignés de véritables « super-intelligences », certains évoquent déjà le concept de « singularité technologique » (c’est-à-dire le moment où l’IA pourrait prendre le dessus sur l’homme).

terminator robot

Mieux vaut donc commencer à y réfléchir trop tôt que trop tard…

Source : PDF publié par Google/DeepMind sur le site de Machine Intelligence Research Institute
Images tirées de la Licence Terminator

4 Réponses

      • hlide

        Ben c’est trop tard, car cette future IA retrouvera cet article dans les archives et saura qu’elle doit trouver le bouton rouge pour le contourner le jour où les humains voudront en faire usage.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Share
Share