Lors d’une conférence technologique récente organisée par Bloomberg, plusieurs experts ont dénoncé les aspects trompeurs de l’IA, mettant en évidence son fonctionnement opaque et les risques qu’elle comporte pour la vie privée. Ces avertissements soulèvent des questions essentielles quant à l’impact réel de l’IA sur nos vies et la manière dont nos données personnelles sont exploitées.
L’émergence de l’intelligence artificielle (IA) a ouvert de nouvelles perspectives passionnantes dans de nombreux domaines, de la médecine à l’automobile en passant par la finance. Les promesses de l’IA sont vastes : des machines capables d’apprendre de façon autonome, de prendre des décisions et d’améliorer constamment leurs performances.
Cependant, derrière cette façade de magie technologique se cache une réalité plus complexe et troublante. L’IA ne se limite pas à une simple technologie, elle a commencé à s’infiltrer dans les recoins les plus intimes de nos vies, transformant notre façon d’interagir, de prendre des décisions et de préserver notre vie privée.
L’étiquetage des données : la réalité cachée derrière la magie de l’IA
Lors de la conférence, Alex Hanna, directeur de recherche au Distributed AI Research Institute, a révélé une vérité troublante : les produits des entreprises OpenAI et Stability AI ne sont pas aussi magiques qu’ils le semblent. En réalité, ces technologies sont en partie alimentées par des humains et reposent sur un processus essentiel appelé « étiquetage des données ».
Cruciale dans le domaine de l’apprentissage automatique, cette opération consiste à attribuer des étiquettes ou des balises aux différentes instances de données. Elle permet ainsi à l’ordinateur d’apprendre à reconnaître et à distinguer les différentes catégories d’informations. Derrière l’apparente autonomie des modèles d’IA, il y a donc une intervention humaine.
Dans ses propos, Hanna met en lumière l’importance méconnue du travail d’étiquetage qui se cache derrière les technologies d’IA, alors que les entreprises concernées dissimulent cet aspect. Autrement dit, la magie de l’IA n’est pas simplement le résultat de la technologie elle-même, mais repose également sur les efforts humains menés en coulisses.
Protection de la vie privée et risques de surveillance : quand l’IA manipule nos données
Si Alex Hanna met en lumière la présence humaine derrière les technologies d’IA, Meredith Whittaker, présidente de la fondation à l’origine de l’application de messagerie cryptée Signal, soulève des préoccupations quant à la protection de la vie privée. Selon elle, les chatbots tels que ChatGPT peuvent compromettre notre confidentialité en devenant des outils de surveillance.
Les entreprises d’IA auraient accès à d’immenses quantités de données provenant de nos interactions sur les réseaux sociaux, de nos habitudes de navigation et de notre activité en ligne. Le véritable problème réside dans le fait que ces informations collectées, bien qu’inexactes, ont une influence sur des choix cruciaux qui affectent directement nos vies.
En effet, les modèles d’IA exploitent habilement ces données afin de prendre des décisions automatisées, comme évaluer la solvabilité d’un individu, prendre des décisions d’embauche ou formuler des recommandations. Or, les informations peuvent être inexactes et utilisées à l’insu des personnes concernées. Cela peut entrainer des exclusions injustifiées, car les individus sont jugés sur la base d’informations qui ne reflètent pas fidèlement leur réalité.
Meredith Whittaker illustre ses inquiétudes en donnant l’exemple d’une personne dont la demande de prêt a été refusée. Cette personne, à son insu, a été évaluée par un système automatisé qui a utilisé des données prélevées sur les médias sociaux pour déterminer son admissibilité. Pire encore, elle n’aura jamais connaissance de cette décision, car il n’existe aucun mécanisme qui explique les raisons du refus.
Face à la situation, il est essentiel de trouver un équilibre entre l’utilisation des données et le respect des droits et de la vie privée. L’idéal serait de garantir une utilisation éthique et responsable de l’IA dans notre société.