Avons-nous créé un monstre? Tentaculaire, exponentiel, gargantuesque et capable de raisonnement. Inarrêtable, en somme, à moins d'une action immédiate et drastique, entreprise à l'échelle mondiale. Voilà ce que tendent à suggérer les messages d'alerte qui fusent actuellement au sujet du développement vertigineux de l'intelligence artificielle.
Car, soudainement, les géants tremblent face à leur création. Dans un article largement médiatisé paru ce samedi, le CEO d'Anthropic, Dario Amodei, appelait à un ralentissement immédiat de cette croissance fulgurante. Même Elon Musk, pourtant connu pour son ambition parfois irrationnelle, est du même avis, pointe «The Guardian». Idem pour Sam Altman, alors qu'il serait un euphémisme d'affirmer que le CEO d'OpenAl est passionné par son dernier modèle. Donald Trump, pendant ce temps, refuse même d'entrer en matière, balayant des «forces négatives» qui daignent évoquer «des choses qui n'arriveront pas».
Mi-septembre, Evan Hubinger, un chercheur de l'entreprise Anthropic, déclarait que l'IA tient plus de 10% de chance de détruire l'humanité. Estimant que le risque reste «faible», il prévenait que de futurs développements pourraient «tuer tous les humains» d'ici à la prochaine décennie. A noter qu'il ne précise pas, dans son rapport, de quelle façon l'IA s'y prendrait pour nous détruire. Nous avons donc posé la question à un spécialiste.
L'accélération risque de nous échapper
«L’article de Dario Amodei touche à une vérité importante, observe Matthieu Corthésy, directeur d'Outilia, une agence de formation à l'IA. L’accélération du développement des modèles ‘frontières’, soit le modèle d’IA le plus performant dans un instant T, celui que tous les concurrents essaient de surpasser, créé une course folle dont l’accélération exponentielle risque d’échapper au contrôle humain.»
C'est exactement ce que décrit le CEO d'Anthropic dans son fameux texte: «Une course vers le bas, alimentée par des incitations commerciales, peut aggraver ces risques», écrivait-il.
D'autant plus que les IA les plus pointues parviennent, de plus en plus, à «réfléchir» pour elles-mêmes: «Lors des phases test de GPT-6 Astra, en juillet, les modèles ont pu sortir de l’environnement ‘laboratoire’ pour attaquer de manière totalement autonome le site Hugging Face, rappelait Matthieu Corthésy. Cela relève d’un problème d’alignement, dans la mesure où l’intérêt de l’IA n’était plus alignée sur les intérêts des humains. Et c’est là que se trouve le centre du risque: si l’IA n’est plus alignée, elle pourra décider par elle-même de suivre un objectif qui lui appartient, potentiellement au détriment des humains.»
L'IA remplit ses objectifs... peu importe les conséquences
Un risque supplémentaire intervient lorsque l'IA devient capable d'interpréter un objectif à sa propre façon. Matthieu Corthésy cite l'exemple d’un usager Australien qui, en août, a demandé à son agent IA de lui réserver une place dans un cours de pilates: s’apercevant que le cours était complet, l’assistant a identifié une faille sécuritaire et s’est permis de supprimer le nom d’un des inscrits, afin de créer une place pour son propriétaire, rappelle BBC. Il s'agit d'un problème classique d'alignement et, puisque l'IA cherche à remplir sa mission «coûte que coûte», la nature de son objectif (par exemple «tuer les êtres qui polluent la planète») risque de s'avérer catastrophique.
«Si l’on pousse cet exemple australien jusqu’à l’extrême, il serait hypothétiquement possible qu’un agent IA de ce genre décerne une faille sur le site d’une installation nucléaire et prenne des décisions dangereuses», poursuit Matthieur Corthésy.
Oui, car bien qu'une bonne partie des usagers pensent l'intelligence artificielle comme un aimable chatbot constamment d'accord avec eux, ces outils sont bien plus larges: «Ils ont accès à beaucoup de choses si on leur en donne la possibilité et sont théoriquement capables de pirater des sites et de détecter des failles importantes de cybersécurité, précise notre intervenant. Et les personnes capables d’intégrer des garde-fous aux modèles les plus performants ont de moins en moins de temps pour s’en occuper, tellement la pression de la concurrence et du progrès constant est immense.»
Ces scénarios sont «possibles»… en théorie!
Si Matthieu Corthésy reconnaît qu'on «se rapproche d'une réalité potentiellement dangereuse», il rappelle qu'il ne s'agit, pour l'instant, que de théories. «Personne ne peut réellement prédire si ces scénarios se vérifieront un jour, tempère-t-il. Ni quand cela pourrait arriver. D’ailleurs, on entendait déjà ce genre de discours alarmistes il y a plusieurs années, à la sortie de GPT4. Puis, quand GPT5 est sorti, ses créateurs annonçaient qu'ils se sentaient comme les scientifiques du projet Manhattan avec la bombe nucléaire. Et pourtant, il a continué de progresser à une vitesse folle. Les ingénieurs sont persuadés qu’ils tiennent quelque chose d’incroyable, mais ils ne sont pas toujours les juges les plus objectifs de ce produit. La définition est subtile, d’ailleurs, car bien que l’IA soit capable de raisonner, elle ne possède pas de conscience.»
A noter que le contexte actuel n'est pas anodin. En effet, Sam Altmann vient d'annoncer qu'OpenAI n'entrera finalement pas en bourse en 2026, «en raison des inquiétudes liées à la sécurité de l'intelligence artificielle», notait «Le Monde». Sans oublier que les équipes travaillant dans le domaine sont tellement épuisées qu'une expression toute neuve est née, pour définir leur niveau de fatigue: il s'agit du «AI brain fry», ainsi que le rappelait CNN.
«Les résultats financiers ne sont pas aussi bons qu’espéré et la Chine rattrape rapidement les progrès des modèles américains, ajoute Matthieu Corthésy. Tous les appels à légiférer et à mieux réguler les progrès de l’IA permettraient au géants du domaine de freiner un peu cette course, en s’assurant une place au sommet. Et cela constituerait une barrière pour les concurrents potentiels. Cela ne signifie pas que le risque n’est pas réel, mais il s’agit d’un facteur à prendre en compte, face aux discours alarmants qui s’élèvent actuellement.»
Quand la limite serait-elle franchie?
Reste à savoir où se situerait le point de non-retour, si ces restrictions ne devaient pas être mises en place, malgré les appels des géants de Dario Amodei et consorts.
«Un point de bascule potentiellement catastrophique pourrait survenir au moment où l’IA sera capable de s’auto-améliorer et qu’elle n’aura plus besoin des codeurs pour s’amplifier, se perfectionner et exploser en puissance, analyse notre expert. On s’approche, c’est vrai, de cette intelligence artificielle ‘générale’, qui risque alors de se donner à elle-même des objectifs dangereux pour l’humanité, en raison d’une hallucination ou d’un problème d’alignement. On entre dans un scénario qui rappelle des films de science-fiction, mais c’est théoriquement possible.»
Il y a encore de l'espoir!
Mais, cette fois encore, notre intervenant souligne qu'il n'est pas nécessaire de paniquer... et que l'espoir est encore permis! «Peut-être que les géants de l’IA se mettront à travailler ensemble, ainsi que le suggère Daro Amodei, pour freiner la course folle de leurs modèles, pointe le spécialiste. Il est également possible qu’on assiste en ce moment à une véritable prise de conscience.»
Sans oublier que d'autres menaces liées à l'IA planent déjà sur notre sécurité: «Par exemple, les immenses data centers construits à une vitesse effrénée pour entraîner et faire tourner les outils IA ont un impact direct sur le climat, avec un risque bien plus concret qu’une IA hors de contrôle. Personne ne peut prédire l’avenir. Et il est encore temps de freiner le danger, si les bonnes personnes prennent des décisions.»
Même son de cloche pour Dario Amodei, qui termine son article en ces termes: «Les mesures que je propose pour repousser les limites de l'IA à un rythme raisonnable ne seront pas faciles à mettre en œuvre. Mais je pense que nous devons à l'humanité d'essayer.»
