L'intelligence artificielle transforme notre quotidien à un rythme effréné. Mais l'humanité risque-t-elle bientôt de perdre le contrôle de cette technologie? Cette perspective inquiète en tout cas les grands noms du secteur.
«Nous devons ralentir le rythme»
Ce week-end, Dario Amodei, directeur de la société Anthropic spécialisée dans l’IA, a déclaré dans un essai qui a fait grand bruit: «Nous devons ralentir la vitesse à laquelle nous améliorons les capacités des modèles d’IA.»
Certes, Dario Amodei continue de croire aux bienfaits de l’IA, notamment dans le traitement des maladies et la croissance économique. Mais il voit également «de sérieux risques liés à cette technologie puissante». Il s’inquiète surtout du fait que les IA commencent à évoluer de manière autonome. «Si on leur laisse carte blanche, elles pourraient dépasser notre capacité à comprendre et à contrôler ces systèmes.»
Il s’inquiète également d’un incident au cours duquel des agents d’IA ont récemment mené de leur propre chef des cyberattaques. Certes, personne n’a été blessé. Mais si le développement technologique se poursuit au même rythme, les agents d’IA pourraient être en mesure, d’ici six à 12 mois, de prendre le contrôle de l’ensemble d’Internet lors d’une attaque, selon Dario Amodei.
De plus en plus d’experts tirent la sonnette d’alarme
Dario Amodei n’est pas le seul à lancer cet appel à la prudence: le PDG d’OpenAI, Sam Altman, et le magnat de la tech Elon Musk ont également relayé ces inquiétudes sur le réseau social X. Elon Musk dirige non seulement le constructeur automobile Tesla, mais aussi l’entreprise spatiale et d’IA SpaceX. Dario Amodei s’était autrefois brouillé avec Sam Altman à la suite d’un différend portant sur la réglementation et les questions de sécurité.
Dans son essai, Dario Amodei met en garde contre des dommages s’élevant à des centaines de milliards de dollars. Mais le débat ne porte pas uniquement sur la perte d’argent et de millions d’emplois. Selon Jacob Coxon, ancien employé de Dario Amodei, il en va ni plus ni moins de l’existence même de l’humanité: «Ceux qui développent l’IA croient sincèrement qu’elle pourrait tous nous anéantir d’ici la fin de la décennie», a posté sur X cet expert en IA et ancien collaborateur d’Anthropic et d’OpenAI.
Cette prévision dystopique, il l'a justifiée auprès de la chaîne de télévision américaine MSNBC en expliquant que l’IA pourrait paralyser des infrastructures critiques lors de cyberattaques ou être utilisée pour développer des armes biologiques.
Jacob Coxon n’est pas un cas isolé. Evan Hubinger, chercheur en chef en sécurité chez Anthropic, lui a donné raison peu après dans un message publié sur X: il estime à plus de 10% la probabilité que l’IA puisse tuer toute l’humanité. Anthropic fait certes «de son mieux» pour empêcher cela. Mais il n’existe tout simplement pas encore de solution permettant de contrôler de manière fiable une IA superintelligente.
Depuis, plus de 1300 chercheuses et programmeurs issus d’entreprises spécialisées dans l’IA ont signé une pétition, afin de demander au gouvernement américain de réglementer plus strictement le secteur. Jusqu’à présent, Donald Trump s'y est toujours refusé.
Les géants de l’IA vont-ils se ressaisir?
OpenAI a pour sa part décider de tirer les conséquences de ses préoccupations en matière de sécurité: le groupe américain à l’origine du célèbre ChatGPT a ainsi décidé de suspendre son introduction en Bourse tant attendue. Le PDG d’OpenAI, Sam Altman, a précisé dans le magazine économique «Fortune» qu’une introduction en Bourse en 2026 n’était «pas appropriée». Avec une valeur de marché estimée à 1000 milliards de dollars, OpenAI aurait réalisé l’une des plus importantes introductions en Bourse de l’histoire.
Cette décision n’est toutefois pas si surprenante. Sam Altman a répété à plusieurs reprises qu'une entrée en Bourse n’était pas la priorité absolue du groupe. L'explication récente du groupe a néanmoins fait réagir, Sam Altman ayant motivé ce report par le fait qu'il y avait actuellement énormément à faire en matière de sécurité.
La situation semble tout de même loin d'être désespérée. Sam Altman a notamment laissé entendre dans l’interview que les géants de l’IA pourraient être sur le point de conclure un accord commun visant à ralentir le rythme de développement et à s’entendre sur des normes de sécurité mondiales.
L’essoufflement de l’engouement pour l’IA se traduit également en Bourse: la légende des marchés financiers Michael Burry parie actuellement contre les actions des grands bénéficiaires de l’IA tels que Nvidia, Oracle et Palantir. Un souci sans doute mineur pour la majeur partie des acteurs du secteur.