Dimanche, une dénonciatrice — anciennement employée chez Facebook — interrogée durant l’émission 60 Minutes de CBS News, qui a décidé récemment de révéler son identité suite à la divulgation de documents confidentiels de l’entreprise, a révélé certains rouages choquants de la plateforme de médias sociaux la plus influente au monde.
À l’origine de la fuite d’une série de documents confidentiels, Frances Haugen s’est exprimée publiquement dimanche dans l’émission 60 Minutes, révélant son identité. Haugen y décrit une entreprise tellement attachée à l’optimisation des produits qu’elle aurait notamment adopté des algorithmes qui amplifient les discours haineux.
Aujourd’hui, nous vivons dans un environnement d’informations rempli de contenus colériques, haineux et polarisants. Cela érode notre confiance civique, notre confiance les uns dans les autres, notre capacité à vouloir prendre soin les uns des autres. La version de Facebook qui existe aujourd’hui déchire nos sociétés et provoque des violences ethniques dans le monde entier, déclare Haugen au début de l’émission.
« Elle paie ses profits avec notre sécurité », a répondu Haugen à Scott Pelley, animateur de 60 Minutes. Selon son profil LinkedIn depuis supprimé, Haugen était cheffe de produit chez Facebook, affectée au groupe Civic Integrity. Elle a choisi de quitter l’entreprise en 2021 après la dissolution du groupe. Elle a déclaré qu’elle n’avait pas « confiance dans leur volonté d’investir ce qui doit réellement être investi pour empêcher Facebook d’être dangereux », comme l’entreprise l’affirmait.
Le profit avant le bien-être des utilisateurs
Dans un élan d’espoir, elle a divulgué des recherches internes à la Securities and Exchange Commission. Elle espère ainsi améliorer indirectement la réglementation de l’entreprise. Elle a indiqué qu’elle avait travaillé dans un certain nombre d’entreprises, dont Google et Pinterest, mais que « c’était nettement pire chez Facebook » en raison de la volonté de l’entreprise de faire passer ses profits avant le bien-être de ses utilisateurs.
« Il y avait un conflit… entre ce qui était bon pour le public et ce qui était bon pour Facebook », a déclaré Haugen à Pelley, « et Facebook a choisi encore et encore d’optimiser pour ses propres intérêts – faire plus d’argent ». Alors que l’entreprise affirme à plusieurs reprises qu’elle contribue à mettre un terme aux discours de haine, du moins sur ses propres produits, un document interne de Facebook divulgué par Haugen indique : « Nous estimons que nous ne pouvons agir que sur 3 à 5% de la haine et ~0,6 % de la V&I [violence et incitation] sur Facebook, même si nous sommes les meilleurs au monde dans ce domaine ».
Un autre document indiquait : « Nous avons des preuves provenant de diverses sources que les discours haineux, les discours politiques diviseurs et la désinformation sur Facebook et sa famille d’applications affectent les sociétés du monde entier ». L’entreprise était donc bel et bien consciente de l’impact néfaste de ses algorithmes, sans pour autant décider d’agir drastiquement pour corriger le tir.
Les nouveaux algorithmes déployés en 2018, qui régissent ce que vous voyez sur la plateforme, sont selon Haugen à la racine du problème. Selon elle, ils sont censés stimuler l’engagement, et l’entreprise a constaté que le meilleur engagement est celui qui instille la peur et la haine chez les utilisateurs. « Il est plus facile d’inciter les gens à la colère qu’à d’autres émotions », déclare Haugen. « Facebook a compris que s’il modifiait l’algorithme pour être plus sûr, les gens passeraient moins de temps sur le site, ils cliqueraient sur moins de publicités, ils gagneraient moins d’argent ».
Des discours contradictoires
À l’époque, Mark Zuckerberg a présenté les changements d’algorithme comme positifs. « Nous nous sentons la responsabilité de nous assurer que nos services ne sont pas seulement amusants à utiliser, mais aussi bons pour le bien-être des gens ». Mais selon l’enquête du Wall Street Journal sur les préoccupations de Haugen, le résultat a été un virage brutal vers la colère et la haine. « La désinformation, la toxicité et le contenu violent sont excessivement répandus parmi les reshares (partages) », indique une note interne citée par le journal, évaluant les effets du changement.
Le Wall Street Journal a commencé à publier ses conclusions tirées de la fuite de documents sous le nom de « The Facebook Files » en septembre. Un rapport alléguant que Facebook disposait de recherches prouvant qu’Instagram nuisait aux adolescentes a depuis conduit à une audience du Congrès. Avant cette audience, Facebook a tenté de modifier le récit dans un article de blog, qui reproduisait deux des rapports mentionnés dans l’article du Journal.
Avant le reportage de 60 Minutes, Facebook a tenté les mêmes détours sous une forme différente. Le vice-président de Facebook chargé des affaires mondiales, Nick Clegg, est apparu dans l’émission Reliable Sources de CNN pour défendre l’entreprise dimanche après-midi, quelques heures avant l’apparition de Haugen. « Je pense que c’est ridicule », a déclaré Clegg à propos de l’allégation selon laquelle les médias sociaux étaient responsables des émeutes du 6 janvier. « Je pense que cela donne aux gens un faux réconfort de supposer qu’il doit y avoir une explication technologique, ou technique, aux problèmes de polarisation politique aux États-Unis ». Des arguments défensifs respectables et bien pesés.
« J’ai beaucoup d’empathie pour Mark, et Mark n’a jamais cherché à créer une plateforme haineuse. Mais il a permis que des choix soient faits, dont les effets secondaires sont que le contenu haineux et polarisant obtient une plus grande distribution et une plus grande portée », déclare Haugen.
Facebook a refusé une demande d’interview, mais dans une déclaration écrite adressée à 60 Minutes, l’entreprise déclare : « Chaque jour, nos équipes doivent trouver un équilibre entre la protection du droit de milliards de personnes à s’exprimer ouvertement et la nécessité de faire de notre plateforme un endroit sûr et positif. Nous continuons à apporter des améliorations significatives pour lutter contre la diffusion de fausses informations et de contenus nuisibles. Laisser entendre que nous encourageons les mauvais contenus et que nous ne faisons rien n’est tout simplement pas vrai ».
De son côté, Haugen a terminé l’entretien en appelant à une réglementation plus large des réseaux sociaux, ce que Facebook lui-même souhaite sous une forme plus limitée. Haugen doit se présenter mardi devant une commission du commerce du Sénat.