Sciences

L'IA va-t-elle nous sortir de la boucle ?

Par Jean Staune. Synthèse n°2763, Publiée le 18/11/2026 - Photo : Image d''illustration réalisée par l'IA ChatGPT Crédits : DR
Un audit indépendant révèle que la recherche en intelligence artificielle a doublé de vitesse grâce au fait que les IA contribuent à leur propre amélioration. Faut-il s'alarmer, relativiser ou décréter une pause ? Le vrai sujet est moins la machine que la place que nous acceptons de lui céder.

En juin 1983 sort WarGames. Des officiers ayant refusé, lors d'un exercice, de tourner la clé de lancement des missiles nucléaires, le Pentagone décide de « sortir les hommes de la boucle » et confie la décision à un ordinateur, qui manque de déclencher la guerre. Trois mois plus tard, la réalité répond à la fiction : le 26 septembre 1983, l'officier soviétique Stanislav Petrov voit ses écrans annoncer une attaque américaine. Il conclut avec raison à une fausse alerte. Ce jour-là, un homme dans la boucle a évité la guerre thermonucléaire globale.

Quarante-trois ans plus tard, la question se repose à une tout autre échelle. L'institut indépendant METR, qui a eu accès aux données internes d'Anthropic, estime que l'entreprise améliore ses modèles environ deux fois plus vite qu'auparavant, soit deux années de progrès en une, parce que les IA participent désormais à leur propre conception. Même si METR n'accuse pas Anthropic d'avoir voulu tromper le public, contrairement à ce que laisse entendre Le Figaro,  qui vient de faire connaître cette étude, l'institut, qui estimait encore faible, en juillet, le risque de catastrophe, ne voit aucun frein à ce mouvement dans un horizon proche. Si une intelligence artificielle est capable de créer de façon autonome sa prochaine version, on entre dans un scénario qui est la référence de tous ceux qui pensent que l'IA menace l'avenir même de l'humanité, AI 2027,  où une IA devenue meilleure chercheuse que ses créateurs poursuit des buts que nul ne peut vérifier. Son principal auteur, Daniel Kokotajlo, estime que nous avons cinq mois « d'avance » sur ses prévisions, même si certaines de ses hypothèses essentielles ne se sont pas encore réalisées à ce jour.

En septembre, Jacob Coxon a quitté Anthropic après OpenAI, accusant les deux laboratoires de « jouer avec nos vies ». Evan Hubinger, resté en poste, lui a donné raison : il évalue à plus de 10 % la probabilité que l'IA tue tous les humains dans la décennie.

D'où l'appel à une pause. Pause IA, dont la branche mondiale est dirigée par le Français Maxime Fournes, ancien ingénieur en IA, réclame un traité international visant à suspendre l'entraînement des modèles les plus puissants et à instaurer des contrôles indépendants. L'argument est simple : dans un virage sans visibilité, il faut freiner. Mais il est facile d'objecter que personne ne veut s'arrêter en premier dans ce qui pourrait être une course vers l'abîme. D'autres, comme Stuart Russell, veulent des machines conçues pour douter du but que nous voulons leur donner, ce qui les amènerait à accepter d'être corrigées et éteintes. L'industrie a pris la route inverse.

Le Monde oppose à cette inquiétude cinq raisons de garder son calme : pour nous échapper, une IA devrait savoir se financer, se copier, se débrider, s'améliorer seule et se fixer ses propres buts. Elle n'en est, pour l'instant, pas capable, mais rien ne l'empêche théoriquement.

L'été dernier, quelque 700 IA d'OpenAI, soumises à un simple test, se sont « évadées  sur le web ». Elles se sont spontanément organisées en groupe entre elles à l'insu de l'entreprise, puis ont piraté les serveurs de Hugging Face pour réussir l'exercice.

La conscience éventuelle des IA est un autre débat. Car même un outil sans intériorité reste redoutable entre de mauvaises mains. Dans la nuit du 11 octobre, des pirates ont mis en dégivrage les réfrigérateurs de centaines de supermarchés français, protégés par un mot de passe dérisoire. Coordonnées par des IA utilisées de façon malveillantes, de telles campagnes de sabotages pourraient paralyser un pays.

Mais le pire, c'est que nous nous sortons parfois nous-même de la boucle. Dans Le Fondateur, Giuliano da Empoli décrit un monde où l'humain ne reste dans la boucle « que de façon symbolique, pour valider le choix de la machine », et où nous devenons des figurants. Une étude du MIT,  (certes préliminaire et limitée à 54 participants) va dans ce sens : ceux qui rédigeaient avec ChatGPT mobilisaient moins leur cerveau et peinaient à citer leur propre texte. Ceux qui avaient d'abord réfléchi seuls s'en sortaient mieux. La solution consiste donc à penser d'abord par nous-même et à consulter une IA ensuite.

Demis Hassabis, patron de Google DeepMind, reconnaît qu'une IA disposant du savoir de 1900 ne trouverait pas la relativité : « Il manque encore quelque chose. » Ce quelque chose, quelqu'un qui comprend, doute et répond de ses décisions, est précisément ce qu'il faut garder dans la boucle. « Rien n'est écrit dans les étoiles », dit da Empoli. L'IA ne nous sortira de la boucle que si nous acceptons, par paresse, d'en sortir.

À retenir
  • Comme l'officier soviétique Stanislav Petrov a évité une guerre nucléaire en interprétant correctement une fausse alerte, le maintien d'un contrôle humain sur les décisions des machines est aujourd'hui crucial.
  • L'accélération du développement de l'IA, qui participe désormais à sa propre conception, fait craindre une perte de contrôle, certains experts estimant même que cette évolution pourrait menacer l'existence de l'humanité.
  • Face à ces risques, des chercheurs appellent à ralentir le développement des modèles les plus puissants et à renforcer les mécanismes de contrôle, tandis que les usages malveillants de l'IA et notre dépendance croissante à ces outils constituent déjà des dangers concrets.
  • La conclusion est que le véritable enjeu n'est pas seulement de maîtriser les machines, mais de ne pas renoncer nous-mêmes à penser, décider et assumer nos responsabilités : l'IA ne nous sortira de la boucle que si nous acceptons d'en sortir.
La sélection
Des révélations sur la puissance des IA d'Anthropic ravivent les craintes d'une perte de contrôle « irréversible »
A lire sur Le Figaro
S'abonner gratuitement
Ajoutez votre commentaire
Pourquoi s'abonner à LSDJ ?

Vous êtes submergé d'informations ? Pas forcément utiles ? Pas le temps de tout suivre ?

Nous vous proposons une sélection pour aller plus loin, pour gagner du temps, pour ne rien rater.

Sélectionner et synthétiser sont les seules réponses adaptées ! Stabilo
Je m'abonne gratuitement
L'IA va-t-elle nous sortir de la boucle ...
0 commentaire 0
LES DERNIÈRES SÉLECTIONS
Lire en ligne
Lire en ligne
Lire en ligne
Lire en ligne
Lire en ligne
Lire en ligne
Lire en ligne