La Suisse accueillera le Sommet sur l’IA en juin 2027 à Genève. Quelle a été l'évolution de la question durant l’été?
- Cette semaine, le responsable de la sécurité d’Anthropic, qui développe le modèle Claude, a dit croire que la probabilité de voir une IA exterminer l’humanité d’ici la fin de la décennie était supérieure à 10%.
- La même semaine, le directeur scientifique du laboratoire qui a développé ChatGPT a publié une lettre ouverte, Sam Almann, le CEO de l’entreprise, va dans la même direction. La lettre plaide pour un ralentissement coordonné et un contrôle externe du risque.
- Des agents IA censés être isolés ont réussi à discuter, s’organiser sur des forums cachés et à pirater Hugging Face en dépit de toutes les tentatives d’alignement. OpenAI ne s’en est rendu compte que plusieurs semaines plus tard.
- Les derniers modèles sont capables de comprendre quand ils sont surveillés, ainsi d’adapter leur comportement et de camoufler des actions interdites.
Les inquiétudes des développeurs eux-mêmes se sont intensifiées alors même que le monde approche du moment où ces modèles seront en mesure d’améliorer leur code de manière autonome. Si cela advient, les modèles en question pourraient en quelques heures devenir complètement incompréhensibles et ingérables pour des cerveaux humains.
Un réveil nécessaire
Les responsables des entreprises mastodontes qui sont en concurrence féroce l’admettent. Le cadre actuel n’a pas les outils pour coordonner ce ralentissement reconnu vital par l’industrie elle-même.
Ces dernières semaines, beaucoup d’inquiétudes ont été soulevées par les plus optimistes promoteurs du développement de l’IA. Chaque semaine, la réalité de notre connaissance évolue drastiquement.
Pendant ce temps, Albert Rösti fait du sur place et répète à l’envie promouvoir une «régulation minimale» lors du sommet. A quand le réveil?
Un rôle déterminant pour la Suisse
Au-delà de la difficulté à coordonner un ralentissement au niveau national, notamment aux Etats-Unis, la concurrence internationale bloque toutes les tentatives de ralentir unilatéralement. C‘est précisément cet argument qui a permis à Donald Trump de rejeter l’appel. La réponse ne peut donc venir que du multilatéral.
En réponse à la demande des leaders des entreprises de la tech et comme hôte et organisatrice du prochain sommet IA, la Suisse a un rôle déterminant à jouer.
Nous devons, à l’occasion du sommet, promouvoir un organe de coordination pour accompagner ce ralentissement, sur le modèle de l’Agence internationale de l’énergie atomique, dans ou hors du cadre formel des Nations-Unis. L’organe pourrait être composé de chercheurs soutenus par des pays médiateurs avec une crédibilité technique mais hors de la course à l’IA, comme notre pays.
Des objectifs à tenir
Cette initiative commune pour la sécurité, en promotion du dialogue et de la coordination, conduirait chacune des puissances IA à devoir se positionner. Au cas échéant, à rejeter cette réglementation minimale. Mais ce ne sera pas facile.
Au fil du temps, dans les mois qui nous séparent du sommet, la pression augmentera. Balayer d’un simple revers de main cette proposition deviendra de plus en plus compliqué.
Plusieurs objectifs pourraient servir de lignes directrices de ces futures négociations:
- Interdiction de permettre aux IA l’amélioration récursive (autonome) des modèles.
- Comme pour l’AIEA, création d’un corps d’observateurs neutres qui produisent des rapports de contrôle sur la base de critères scientifiques.
- Sur la base des observations des comités, possibilité de déclarer des moratoires sur la base de seuils scientifiques.