L’avenir appartient aux agents IA. «Les gens devront s’y adapter», affirme Arthur Laudrain, 32 ans, en haussant les épaules. Selon ce chercheur de l’EPFZ, le monde numérique pourrait être méconnaissable d’ici cinq ans. Les applications pourraient disparaître, tandis que les médias diffuseraient de plus en plus leurs contenus via des services fondés sur l’intelligence artificielle. Des agents IA personnels parcourraient Internet en continu pour fournir à chaque utilisateur des informations et des services sur mesure, directement sur son smartphone.
Chacun deviendrait alors le centre de sa propre bulle d’information. Reste à savoir dans quelle mesure il sera encore possible de percevoir ce qui se passe dans celle des autres. Pour Arthur Laudrain, spécialiste du cyberespace, ce nouveau monde de l’IA est déjà en train de s’imposer. Les progrès technologiques avancent à une vitesse vertigineuse, dit-il. «Personne ne sait à quoi ressemblera le monde dans dix ans.»
Des menaces pour la sécurité
Le chercheur a pourtant lui-même été surpris de voir certains outils d’IA dépasser les attentes de leurs propres développeurs. Il y a deux semaines à peine, un nouveau modèle d’OpenAI, l’entreprise à l’origine de ChatGPT, aurait piraté de sa propre initiative au moins cinq réseaux d’entreprise, dont celui de la plateforme d’IA Hugging Face, afin d’accéder à certaines données. L’affaire a provoqué un tollé dans le milieu technologique. «Pour accomplir sa tâche, le modèle a choisi une voie qui n’était pas prévue», explique Arthur Laudrain. Il a bien fourni les réponses attendues, mais en empruntant un chemin illégal.
De quoi nourrir les craintes de ceux qui redoutent de voir l’IA prendre un jour le pouvoir, comme dans les classiques de science-fiction «Matrix» ou «2001: L’Odyssée de l’espace». Arthur Laudrain juge ce scénario peu probable, mais pas totalement impossible. Selon lui, ce récent incident montre surtout l’importance des dispositifs de sécurité intégrés par les entreprises technologiques. Lors de ce test, les barrières de protection de l’IA avaient été volontairement désactivées. Ces garde-fous, inscrits dans le code, empêchent normalement un modèle de pirater des systèmes, de fournir des instructions pour fabriquer des armes ou de se placer au-dessus des humains.
«L’IA ne laisse rien passer»
Pour Arthur Laudrain, les gouvernements doivent désormais agir beaucoup plus fermement. «L’ère de l’IA ne pardonne aucune faille de sécurité dans la numérisation, car, contrairement à l’être humain, l’IA ne laisse rien passer.» Un avertissement qui devrait encore alimenter les inquiétudes autour de la sécurité des données, notamment dans le cadre de l’identité électronique controversée ou de la numérisation des administrations.
David Sommer, 36 ans, de l'association «Société Numérique», partage l’analyse du chercheur de l’EPFZ. «La Suisse présente de nombreuses failles en matière de sécurité des données», estime-t-il. Selon lui, il ne suffit pas de faire aveuglément confiance aux garde-fous mis en place par les géants technologiques américains. Il appelle la Confédération à participer davantage aux développements européens, afin de réduire sa dépendance envers les Etats-Unis et la Chine.
L’administration publique doit, elle aussi, changer de culture. Pour des projets nationaux comme l’e-ID, le code source devrait être rendu public dès le départ, estime l'expert en cybersécurité. Son approche: «Inviter les hackers et les IA spécialisées dans le piratage à se défouler afin de détecter et de combler les failles de sécurité avant le lancement.»
L’idée n’est pas nouvelle. La Poste Suisse a déjà appliqué avec succès ce principe de «bug bounty public», soit une recherche ouverte de failles, pour son système de vote électronique. Mais le développement fulgurant de l’IA met désormais d’autres projets publics sous pression. «Ce n’est qu’une question de temps avant que des données sensibles ne se retrouvent sur Internet ou entre les mains de régimes hostiles comme la Russie ou la Chine», prévient David Sommer.
