1.8K Partages

Au cours des dernières décennies, le développement de l’intelligence artificielle a suivi une tendance exponentielle. Aujourd’hui, l’IA et les algorithmes contrôlent la majorité des systèmes d’information et prennent une grande partie des décisions quotidiennes à la place de l’Homme. Tant et si bien qu’au 21ème siècle, l’humain est entièrement dépendant de la machine. Initialement, la technologie était un outil dans les mains de l’Homme. Aujourd’hui, il semble presque que les rôles soient inversés.

Nous, êtres humains, ne sommes pas simplement coupés des décisions que les machines prennent pour nous, mais sommes profondément affectés par celles-ci de manière imprévisible. Au lieu de jouer un rôle central dans le système de décisions qui nous concerne, nous sommes jetés dans son environnement.

Nous avons progressivement restreint notre propre capacité de décision et laissé les algorithmes prendre le relais. Nous sommes devenus des humains artificiels, ou des artefacts humains, créés, façonnés et utilisés par la technologie. C’est la conclusion d’une nouvelle étude publiée dans la revue Journal of the Association for Information Systems.

Les exemples abondent. En droit, les analystes juridiques sont progressivement remplacés par l’intelligence artificielle, ce qui signifie que la défense ou la poursuite d’une affaire peut s’appuyer en partie sur des algorithmes. Les logiciels ont même été autorisés à prédire les futurs criminels, contrôlant en fin de compte la liberté humaine en déterminant comment la libération conditionnelle est refusée ou accordée aux prisonniers.

De cette manière, les mécanismes décisionnels qu’ils ne peuvent pas comprendre forgent l’esprit des juges en raison de la complexité du processus et de la quantité de données qu’il implique. Sur le marché du travail, le recours excessif à la technologie a conduit certaines des plus grandes entreprises mondiales à filtrer les CV au moyen de logiciels, ce qui signifie que certains recruteurs ne verront jamais les détails des candidats potentiels.

ia emploi travail

Dans de nombreuses entreprises, l’IA est utilisée pour analyser les CV et retenir ou rejeter les candidats, sans aucune intervention humaine. Crédits : Ramesh Loganathan

Cela met non seulement les moyens de subsistance des personnes à la merci des machines, mais aussi des biais d’embauche que la société ne souhaitait pas mettre en œuvre, comme ce fut le cas avec Amazon.

Dans l’actualité, l’analyse automatisée des sentiments étudie les opinions positives et négatives sur les entreprises à partir de différentes sources Web. À leur tour, ils sont utilisés par des algorithmes de trading qui prennent des décisions financières automatisées, sans que les humains aient à lire les nouvelles.

D’ailleurs, les algorithmes fonctionnant sans intervention humaine jouent désormais un rôle important sur les marchés financiers. Par exemple, 85% de toutes les transactions sur les marchés des changes sont effectuées uniquement à l’aide d’algorithmes. La course croissante aux armements algorithmiques pour développer des systèmes de plus en plus complexes afin de concurrencer ces marchés signifie que des sommes énormes sont allouées en fonction des décisions des machines.

Cliquez ici pour supprimer les publicités.

À petite échelle, les personnes et les entreprises qui créent ces algorithmes peuvent influer sur ce qu’elles font et comment elles le font. Mais comme une grande partie de l’intelligence artificielle fait appel à un logiciel de programmation pour déterminer comment effectuer une tâche par elle-même, nous ne savons souvent pas exactement ce qui se cache derrière la prise de décision. Comme avec toute technologie, cela peut avoir des conséquences inattendues pouvant aller bien au-delà de tout ce que les concepteurs ont envisagé.

Prenez le « Flash Crash » 2010 de l’indice Dow Jones Industrial Average. L’action des algorithmes a contribué à la baisse la plus importante de l’indice, supprimant près de 9% de sa valeur en quelques minutes (bien qu’elle ait retrouvé la majeure partie de celle-ci d’ici la fin de la journée). Une enquête de cinq mois pourrait seulement suggérer ce qui a provoqué le ralentissement (diverses théories ont été proposées).

ia marches financiers

Aujourd’hui, les marchés financiers sont entièrement contrôlés par les algorithmes, qui prennent la totalité des décisions à la place des traders. Crédits : Getty

Sur le même sujet : Intelligence artificielle : elle est en route pour changer définitivement la recherche scientifique

Mais les algorithmes qui ont amplifié les problèmes initiaux ne se sont pas trompés. Il n’y avait pas de défaut dans la programmation. Le comportement est issu de l’interaction de millions de décisions algorithmiques qui se jouent les unes les autres de manière imprévisible, suivant leur propre logique, créant ainsi une spirale négative pour le marché.

Les conditions qui ont rendu cela possible sont dues au fait qu’au fil des ans, les responsables du système commercial en étaient venus à considérer les décisions humaines comme un obstacle à l’efficacité du marché. En 1987, lorsque le marché boursier américain avait chuté de 22.61%, certains courtiers de Wall Street avaient tout simplement cessé de prendre leur téléphone pour éviter de recevoir les ordres de leurs clients de vendre des actions.

Cela a lancé un processus qui, comme l’a écrit l’auteur Michael Lewis dans son livre Flash Boys, a abouti à un remplacement complet des personnes par les ordinateurs. Le monde financier a investi des millions de dollars dans des câbles ultra-rapides et des communications par micro-ondes afin de réduire de quelques millisecondes la vitesse à laquelle les algorithmes peuvent transmettre leurs instructions. Lorsque la vitesse est si importante, un être humain qui a besoin de 215 millisecondes pour cliquer sur un bouton est presque complètement inutile, même s’il s’agissait de son unique tâche (de cliquer sur un bouton).

À mesure que de nouvelles frontières séparent les humains et la technologie, nous devons réfléchir soigneusement aux domaines dans lesquels notre extrême dépendance vis-à-vis des logiciels nous mène. Alors que les décisions humaines sont remplacées par des décisions algorithmiques et que nous devenons des outils dont les vies sont façonnées par des machines et leurs conséquences imprévues, nous nous préparons à la domination technologique. Nous devons décider, tant que nous le pouvons encore, de ce que cela signifie pour nous, en tant qu’individus et en tant que société.

Source : Journal of the Association for Information Systems

2 Réponses

  1. Ophélie

    Bonjour,
    Je suis d’ordinaire assez confiante sur la fiabilité de vos articles, mais petit à petit vous me faites douter… En effet, cet article est très ancré dans une anxiété technologiste très à la mode sans pour autant reposer sur la réalité des usages en France. Ce sujet n’est pas nouveau, vous pourriez d’ailleurs citer Cathy O’Neil, mathématicienne ayant une vision sociétale des algorithmes issue de son expérience concrète au sein d’entreprises. Mais si elle tire la sonnette d’alarme, ce plutôt pour mettre en avant les biais statistiques, les biais humains que cache la confiance dans la technologie encore vue comme idéologiquement neutre. Citer quelques exemples, par ailleurs discutables, en disant que toutes les décisions sont aujourd’hui prises par des algorithmes, c’est faux et cela n’apporte pas grand chose au débat.

    Répondre
    • Trust My Science
      Trust My Science

      Bonjour,

      “Mais si elle tire la sonnette d’alarme, ce plutôt pour mettre en avant les biais statistiques, les biais humains que cache la confiance dans la technologie encore vue comme idéologiquement neutre” -> C’est aussi ce qu’évoque cet article.

      Puis, l’article ne dit à aucun moment que “toutes les décisions sont prises par des algorithmes”. Mais la majorité pour les cas énoncés (exemple : marchés financiers).

      Répondre

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

1.8K Partages
1.8K Partages
Partager via
Copier le lien