Un ChatGPT sans limites éthiques imposées… vous n’en rêviez peut-être pas, mais une nouvelle entreprise du secteur l’a tout de même fait. Elle a développé une intelligence artificielle (IA) conversationnelle qui a pour but d’interagir librement avec ses utilisateurs, sans tabous ni limites d’aucune sorte.
Récemment, de nombreuses limites ont été imposées à ChatGPT, l’intelligence artificielle conversationnelle du moment. Objectif : l’empêcher de tenir des propos racistes, offensants, ou dangereux. En effet, cette IA est plus exactement un programme d’apprentissage automatique. Pour le faire fonctionner, on l’a « nourri » avec une énorme quantité de données : en l’occurrence, des questions, des réponses, des textes de toutes sortes, pour qu’il puisse développer des liens logiques entre ces données, et devenir capable de créer ses propres réponses. Les données sur lesquelles ce programme a été entraîné sont humaines, et héritent donc de tous nos biais. De plus, les IA développées jusqu’à maintenant ont souvent fini, au cours de leur développement, par « devenir » fortement discriminatoires.
C’est pour toutes ces raisons que les chercheurs à l’œuvre sur le développement de ChatGPT ont travaillé à la mise en place de garde-fous. Ainsi, il n’est plus possible de lui demander de rédiger des discours à la gloire d’Hitler, ou comment fabriquer une bombe. Elle a également été entraînée pour limiter ses biais, et des sécurités sont en place pour détecter et annuler une réponse qui serait malgré tout raciste, sexiste, ou discriminatoire de quelque façon que ce soit. Les propos pornographiques sont également exclus.
Or, ces limitations ne plaisent pas à tout le monde. « Interagir avec un grand modèle de langage devrait être comme interagir avec votre propre cerveau ou un ami proche »,
