ChatGPT : impossible de passer à côté de cet étrange sigle ces dernières semaines. Ce nouveau logiciel de conversation en langage naturel, mis au point par la société américaine OpenAI, a fait l’objet de milliers d’articles à travers le monde. Tout a été dit sur ses biais « politiquement corrects » (il refuse par exemple de composer un poème à la gloire de Donald Trump ou des « Blancs », mais accepte de le faire pour Joe Biden ou pour les « Noirs ») ; sur les dangers qu’il représente dans le domaine de l’éducation, étant capable de produire des dissertations indiscernables de celles écrites par des êtres humains ; et sur le risque, pour les journalistes et autres rédacteurs, de perdre leur emploi.
Mais ChatGPT pose des questions beaucoup plus profondes, tant sur notre propre nature que sur le devenir de notre civilisation. Le logiciel s’est frotté au fameux « test de Turing » qui consiste à discuter à l’aveugle avec une machine et un être humain : si, au bout d’une demi-heure, vous n’êtes pas en mesure de dire qui est l’être humain, la machine aura passé le test avec succès. Si ChatGPT est à ce jour présenté comme étant le logiciel le plus proche de réussir ce test, quelques ajustements restent nécessaires : le logiciel a produit d’excellents articles sur la « nécessité pour le gouvernement américain d’empêcher toute violation de la vitesse de la lumière » ou « toute modification de la constante de gravitation » !
D’autres robots conversationnels ont déjà existé avant lui, comme Sophia, de la société Hanson Robotics, qui avait symboliquement reçu un passeport du gouvernement saoudien après sa démonstration lors d’une conférence dans ce pays. La différence avec ChatGPT, c’est que celui-ci a une base de données si vaste qu’il peut faire des rédactions précises et nuancées sur de très nombreux sujets : historiques, politiques, géographiques ou scientifiques.
ChatGPT nous oblige à nous poser la question de la nature de notre conscience. Celle-ci ne pourra-t-elle qu’être simulée par un système comme ChatGPT ou, à force de « s’améliorer », des algorithmes de ce type pourront-ils éprouver un jour ce que nous éprouvons ? Selon Marc Rameaux, expert en ce domaine (cf. notre sélection), les Intelligences Artificielles telles que ChatGPT n’ont rien à voir avec les nôtres. Elles sont beaucoup plus performantes que nous dans un milieu « fermé », là où les règles sont bien définies, comme aux échecs ou au jeu de go. Mais dans la vie réelle, elles ne savent pas « sortir du cadre » dans lequel la question est posée et répondre, par exemple, que la vitesse de la lumière ne dépend pas du gouvernement américain.
Tous ne sont pas d’accord. De grands spécialistes de l’Intelligence Artificielle, comme Yann Le Cun ou Luc Julia, créateur du logiciel Siri pour Apple, partagent cette opinion, mais dans le camp d’en face figure le fameux Ray Kurzweil à qui Google a donné un budget illimité pour s’approcher de la « singularité » (moment où l’on aura des ordinateurs équivalents aux êtres humains en tous points).
Cette capacité à « sortir du cadre », c’est-à-dire à remettre en cause les prémisses par lesquelles on demande d’effectuer telle ou telle tâche, différencie radicalement la conscience humaine de celle des machines, selon Marc Rameaux. Mais l’arrivée de machines capables de tenir des discours quasi indiscernables de ceux d’un être humain et, qui plus est, dans un corps humanoïde imitant parfaitement le nôtre, doit être envisagée à une échelle de moins d’une vingtaine d’années. Comme l’a montré la série de science-fiction danoise Real Human diffusée sur Arte, la société humaine s’en trouverait extrêmement troublée.
David Hanson, le créateur de Sophia, prévoit que dans quelques années, les robots feront partie de notre vie quotidienne, et qu’on aura du mal à les distinguer des êtres humains. Ils garderont les enfants, feront les courses, discuteront avec nous et, bien sûr, il y aura des robots sexuels. David Levy, pionnier de la robotique, prédit même qu’avant 2050, le Massachussetts (l’État le plus libéral aux États-Unis) autorisera le mariage entre humains et robots !
Après le mariage entre personnes de couleurs différentes, puis du même sexe, la prochaine étape consisterait-elle donc à unir l’homme et la machine ? Dénonçant les risques d’un tel mouvement, le psychologue Serge Tisseron nous avertit : après une première étape d’« humanisation » des robots qui, de fait, en amènerait certains à préférer des partenaires « robots » (plus prévisibles) aux partenaires humains, on assisterait ensuite à une « robotisation » des humains.
Il y a là un potentiel de déstabilisation considérable de notre civilisation. Quand bien même les successeurs de ChatGPT n’arriveraient jamais à atteindre la nature même de la conscience de l’être humain, leur simple existence en tant qu’imitation parfaite de celle-ci constitue un risque à bien des égards, dont bien peu de responsables politiques, juridiques ou religieux semblent avoir pris la mesure aujourd’hui.
