Réglementations de sécurité sur l’IA bientôt abolies par Trump : vers la propagation d’outils biaisés et nuisibles ?

trump prevoit abolir reglementations ia vers propagation outils biaises nuisibles couv 4
| Trust My Science
⇧ [VIDÉO]   Vous pourriez aussi aimer ce contenu partenaire

Désormais 47e président des États-Unis suite à sa victoire contre Kamala Harris, Donald Trump prévoit d’apporter des réformes radicales pour le pays. Il a notamment promis lors de sa campagne présidentielle d’abolir les réglementations sur l’IA mises en place par Joe Biden, qui, selon lui, constituent un frein à l’innovation et imposent des idées radicales de gauche. Les observateurs craignent, en réponse, la propagation d’outils d’IA biaisés (voire nuisibles) et fortement sujets aux erreurs.

Établi en octobre 2023, le décret exécutif de Biden sur la réglementation de l’IA repose sur une loi sur la défense nationale datant de 1950, permettant au gouvernement de contrôler les activités du secteur privé pour assurer un approvisionnement fiable de biens et de services. Il aborde presque tous les aspects des applications de la technologie, tels que la mise en place de garanties dans le cadre de son utilisation dans les soins de santé et la découverte de médicaments.

Le décret a fait l’objet de critiques ferventes de la part des républicains en raison de deux dispositions principales concernant la sécurité et la fiabilité. La première impose aux entreprises de développement d’IA d’effectuer des rapports gouvernementaux sur la manière dont leurs modèles sont entraînés et protégés. Cela exhorte les entreprises à être transparentes et à partager les résultats des tests de la « red team », qui simulent des cyberattaques pour évaluer les limites du modèle et identifier les failles potentielles dans le système. Le second aspect du décret impose au National Institute of Standards and Technology (NIST) du ministère du Commerce de produire des directives incitant les entreprises à développer des modèles moins vulnérables au piratage et à limiter les biais.

Au cours des mois qui ont suivi l’adoption du décret, le gouvernement a exigé des rapports trimestriels pour les entreprises de développement d’IA, tandis que le NIST a publié des documents d’orientation concernant la gestion des risques, le développement d’outils sécurisés, la prévention des biais dans les modèles, etc. Ces efforts ont été entamés parallèlement à l’inquiétude croissante de certains des grands noms du secteur concernant la négligence des entreprises en matière de sécurité.

Cependant, Trump et ses partisans affirment que ces dispositions sont inutiles et inappropriées et constituent une entrave à l’innovation technologique. Ils affirment en outre qu’il s’agit d’une politique radicale de gauche promouvant le « wokisme ». Désormais élu pour un deuxième mandat, il suffirait à l’ancien homme d’affaires d’adopter un contre-décret pour annuler tous les efforts du précédent gouvernement.

« Nous allons abroger le dangereux décret de Joe Biden qui entrave l’innovation en matière d’IA et impose des idées radicales de gauche au développement de cette technologie », a-t-il déclaré dans son programme de campagne électorale. « À la place, les républicains soutiennent le développement de l’IA enraciné dans la liberté d’expression et l’épanouissement humain ».

Un décret abrogé en faveur de l’innovation ?

Les partisans de Trump estiment que le décret imposé par Biden est trop contraignant et constitue une ingérence excessive dans le secteur. L’obligation de partage de données exposerait les secrets commerciaux des développeurs et mettrait en péril la propriété intellectuelle. D’un autre côté, cela pourrait intimider les innovateurs potentiels. Ces exigences profiteraient uniquement aux grandes entreprises, tandis que les start-ups peineraient à se développer face à trop de contraintes réglementaires.

De nombreux conservateurs estiment que ces entraves à l’innovation pourraient avoir des répercussions majeures sur la compétitivité technologique du pays face à la Chine, où le secteur connaît une croissance exponentielle. Ils pourraient aussi constituer un obstacle à la course à l’armement numérique des États-Unis.

La promesse électorale de Trump pour l’IA est soutenue par de nombreux républicains membres du Congrès américain, ainsi que par de grands noms du secteur technologique, tels qu’Elon Musk, PDG de Tesla et de SpaceX (entre autres). La politique d’assouplissement des réglementations de l’IA offrirait un important avantage à Musk, car ses entreprises pourraient plus facilement faire face à ses concurrents.

Faisant désormais partie du cercle intime du président entrant, le milliardaire a d’ailleurs montré à plusieurs reprises qu’il n’hésite pas à mettre des bâtons dans les roues de ses concurrents pour promouvoir ses propres outils d’IA. Il a par exemple critiqué les grands modèles d’IA d’OpenAI, les qualifiant de « wokistes ». Il a également intenté un procès contre la start-up, car celle-ci se serait écartée de son objectif initial d’entreprise à but non lucratif.

Un politique « anti-wokisme » ?

Les républicains estiment également que les directives du NIST constituent une forme de censure gouvernementale, en les qualifiant notamment de normes de sécurité wokistes. Ils affirment qu’il s’agit d’un plan de l’administration Biden visant à contrôler les discours conservateurs, ce qui serait, selon eux, une entrave à la liberté d’expression.

Des rapports ont montré que certains grands modèles d’IA présentent des biais de discrimination, par exemple dans le recrutement et les soins de santé. Cependant, de nombreux conservateurs réfutent catégoriquement l’idée selon laquelle l’IA pourrait favoriser les préjudices sociaux. Ils s’inquiètent en revanche d’un surcontrôle qui pourrait nuire à l’efficacité des modèles. Selon Jacob Helberg, un acteur technologique proche de Trump, « il existe une corrélation inverse directe entre le degré de wokisme d’une IA et son utilité ».

De leur côté, les responsables du décret affirment qu’il est loin d’être contraignant en comparaison de ceux actuellement en vigueur dans l’Union européenne et en Chine. Ils réfutent les allégations selon lesquelles il pourrait nuire à l’innovation technologique et estiment au contraire qu’il pourrait favoriser la croissance des start-ups en les encourageant à développer des modèles fiables, efficaces et moins énergivores. La plupart des industries du secteur seraient en outre favorables au décret.

Toutefois, la manière dont Trump prévoit de remplacer ou de réformer le décret n’est pas encore claire. Son programme électoral ne mentionne pas de détails, mis à part une réglementation plus souple. Néanmoins, les experts en cybersécurité affirment que l’annulation du décret de Biden portera gravement atteinte à la fiabilité et à l’impartialité des modèles.

Laisser un commentaire
Cliquez pour accéder à d'autres articles sur ce sujet.