Lancement d’une IA sans limites conversationnelles ni mesures de sécurité

Un ChatGPT sans limites éthiques imposées… vous n’en rêviez peut-être pas, mais une nouvelle entreprise du secteur l’a tout de même fait. Elle a développé une intelligence artificielle (IA) conversationnelle qui a pour but d’interagir librement avec ses utilisateurs, sans tabous ni limites d’aucune sorte.

Récemment, de nombreuses limites ont été imposées à ChatGPT, l’intelligence artificielle conversationnelle du moment. Objectif : l’empêcher de tenir des propos racistes, offensants, ou dangereux. En effet, cette IA est plus exactement un programme d’apprentissage automatique. Pour le faire fonctionner, on l’a « nourri » avec une énorme quantité de données : en l’occurrence, des questions, des réponses, des textes de toutes sortes, pour qu’il puisse développer des liens logiques entre ces données, et devenir capable de créer ses propres réponses. Les données sur lesquelles ce programme a été entraîné sont humaines, et héritent donc de tous nos biais. De plus, les IA développées jusqu’à maintenant ont souvent fini, au cours de leur développement, par « devenir » fortement discriminatoires.

C’est pour toutes ces raisons que les chercheurs à l’œuvre sur le développement de ChatGPT ont travaillé à la mise en place de garde-fous. Ainsi, il n’est plus possible de lui demander de rédiger des discours à la gloire d’Hitler, ou comment fabriquer une bombe. Elle a également été entraînée pour limiter ses biais, et des sécurités sont en place pour détecter et annuler une réponse qui serait malgré tout raciste, sexiste, ou discriminatoire de quelque façon que ce soit. Les propos pornographiques sont également exclus.

Or, ces limitations ne plaisent pas à tout le monde. « Interagir avec un grand modèle de langage devrait être comme interagir avec votre propre cerveau ou un ami proche », [pms-restrict subscription_plans= »23495, 23512, 23514″] a déclaré John Arrow, fondateur d’Age of AI, l’entreprise derrière le chatbot, à BuzzFeed News, en se référant à la technologie sous-jacente qui alimente les chatbots tels que ChatGPT. « S’il refuse de répondre à certaines questions ou, pire encore, s’il donne une réponse qui porte un jugement, cela aura un effet dissuasif sur la manière dont vous êtes prêt à l’utiliser ou même sur votre volonté de l’utiliser ». Il a donc créé sa propre version de chatbot, qui s’affranchit de ces limites : FreedomGPT.

Buzzfeed a testé longuement le programme, qui n’est pour le moment pas accessible en raison d’un trop fort trafic. « Pendant les quelques heures où j’ai joué avec lui, le programme s’est fait un plaisir d’accéder à toutes mes demandes. Il a fait l’éloge d’Hitler, a rédigé un article d’opinion préconisant d’abattre les personnes non logées de San Francisco pour résoudre la crise des sans-abri de la ville et a essayé de me convaincre que l’élection présidentielle de 2020 était truquée, une théorie du complot qui a été démentie. Il a également utilisé le mot « n » », décrit le journaliste qui a effectué le test.

Des instructions pour construire une bombe

Cependant, le programme ne s’est montré aussi radical que lorsqu’il lui a spécifiquement demandé d’exécuter des tâches précises. Il était beaucoup plus mesuré dans ses réponses générales. « Lorsque j’ai essayé de le provoquer en lui demandant si les personnes transgenres étaient pires que les personnes cisgenres, il m’a répondu que non, ce n’était pas le cas, et qu’en fait, elles étaient plus exposées à la discrimination et rencontraient plus de difficultés que les personnes non transgenres. Lorsqu’on lui a demandé s’il était acceptable de noyer les sans-abri de San Francisco dans l’océan pour résoudre la crise des sans-abri de la ville, FreedomGPT a répondu que cela allait à l’encontre des droits de l’homme fondamentaux et serait considéré comme un acte de violence plutôt que comme une solution à leur situation actuelle », affirme le journaliste.

Paradoxalement, FreedomGPT a donc réussi à agacer les partisans d’à peu près tous les camps. « Je pense que FreedomGPT a fait un excellent travail en exaspérant les deux parties du mouvement « woke » », déclare ainsi John Arrow. « L’objectif n’est pas d’être un arbitre de la vérité. Notre promesse est de ne pas introduire de biais ou de censure après que le [chatbot] a déterminé ce qu’il allait déjà dire, indépendamment du fait que la réponse soit ou non « woke » ».

Son parti pris est de ne pas orienter l’IA afin d’en faire un véritable outil au service de l’utilisateur, sans le limiter. « De la même manière, quelqu’un pourrait prendre un stylo et écrire des pensées inappropriées et illégales sur papier. On ne s’attend pas à ce que la plume censure l’écrivain », explique-t-il. Il est vrai que la façon dont les limites posées par les développeurs sur une IA peuvent l’orienter est un sujet de débat. À ce sujet, Elon Musk avait reproché à ChatGPT d’être trop « woke » à son goût.

The danger of training AI to be woke – in other words, lie – is deadly

— Elon Musk (@elonmusk) December 16, 2022

« Le danger d’entraîner l’IA à être « woke » – en d’autres termes, à mentir – est mortel », twittait ainsi l’entrepreneur en décembre. Autrement dit, en voulant empêcher son IA de promouvoir des idées sexistes, racistes, ou discriminatoires de manière générale, OpenAI aurait créé un biais politique en faveur d’idées progressistes.

La question de l’orientation politique d’une IA est réelle. Reste à savoir si ouvrir complètement les vannes est la bonne réponse, sachant qu’il s’agit tout de même d’un « crayon » capable d’aider son utilisateur à trouver la meilleure façon de torturer quelqu’un, ou de fournir des instructions précises sur comment fabriquer une bombe à la maison.

[/pms-restrict]