«Deepfakes» générés par l'intelligence artificielle (IA), chatbots relayant des infox, séquences de jeux vidéo présentées comme de vraies scènes de guerre: le conflit entre Israël et l'Iran n'échappe pas au flot de désinformation alimenté par les outils technologiques, sur les réseaux sociaux et au-delà.
Cette déferlante d'infox illustre le besoin urgent d'outils de détection plus performants, expliquent des experts, au moment où les plateformes ont réduit la voilure dans la modération de contenu et se passent de fact-checkeurs.
Une sophistication sans précédent
Après des salves de missiles tirés par l'Iran, riposte aux bombardements israéliens, des vidéos générées par l'intelligence artificielle largement partagées sur les réseaux sociaux ont prétendu montrer des dégâts subis sur l'aéroport Ben Gourion de Tel Aviv. Une image en réalité fabriquée, issue d'un compte TikTok qui produit du contenu généré par l'IA, selon le travail de vérification de l'AFP.
Il y a une «vague de désinformation générée par l'IA en lien avec le conflit Israël-Iran en particulier», constate auprès de l'AFP Ken Jon Miyachi, fondateur de l'entreprise spécialisée BitMindAI, évoquant des «une échelle et avec une sophistication sans précédent».
Google pointé du doigt
GetReal Security, une entreprise américaine spécialisée dans la détection de contenus truqués avec l'IA, pointe notamment les images hyperréalistes générées par l'outil de Google, Veo 3.
L'entreprise a par exemple lié des vidéos convaincantes de scènes apocalyptiques de bombardements iraniens en Israël au générateur d'IA Veo 3, dont le logo est d'ailleurs visible au bas de l'une de ces vidéos publiée par le média Tehran Times, censée montrer «le moment où un missile iranien a frappé Tel Aviv».
«Ce n'est pas une surprise qu'au fur et à mesure que les outils d'IA générative s'améliorent en termes de réalisme, ils soient détournés pour diffuser de la désinformation», estime son co-fondateur Hany Farid, également professeur à l'Université de Californie à Berkeley. Il glisse d'ailleurs que la durée des vidéos créées par Veo 3, huit secondes, donne «une bonne raison de prendre le temps de vérifier avant de la partager.»
L'armée iranienne en profiterait
L'entreprise américaine NewsGuard, qui analyse la fiabilité des contenus en ligne, a par ailleurs identifié 51 sites internet qui ont publié plus d'une douzaine d'infox, allant de photos générées par l'IA censées montrer des destructions massives à Tel Aviv à des éléments fabriqués de toutes pièces faisant état de pilotes israéliens capturés par l'Iran.
Parmi ceux qui ont diffusé ces faux contenus, on trouve des chaînes Telegram liées à l'armée iranienne et des sources affiliées aux médias d'Etat iraniens, selon NewsGuard.
La cible: les Iraniens lambda
«Nous assistons à un déferlement de désinformation, et les Iraniens lambda semblent être le coeur de cible», explique McKenzie Sadeghi, chercheur à NewsGuard.
«Avec la télévision d'Etat qui pousse les Iraniens à supprimer WhatsApp, Internet fortement restreint, et un contrôle strict de la presse, les Iraniens sont pris au piège dans un environnement d'information clos, dominé par les médias d'Etat, qui se contredisent activement les uns les autres dans une tentative désordonnée de contrôler le récit», poursuit-il.
Certains de ces faux contenus ont été relayés par des médias d'Etat russes et chinois, les exportant ainsi sur une scène plus vaste, ajoute-t-il.
Les jeux vidéos piègent aussi
S'ajoutent à ce torrent de désinformation des séquences tirées de jeux vidéo et indûment présentées comme de vraies scènes de guerre, comme précédemment pour l'Ukraine ou la Syrie. L'équipe de fact-checking de l'AFP a ainsi identifié sur X une vidéo qui prétendait montrer un avion israélien abattu par l'Iran, mais venue du jeu de simulation militaire Arma 3.
«Il y a un besoin urgent de meilleurs outils de détection, d'éducation aux médias, et de responsabilisation des plateformes, pour préserver l'intégrité du discours public», alerte l'entrepreneur Ken Jon Miyachi.
