Le tribunal judiciaire de Paris a étendu vendredi son enquête visant X à l'intelligence artificielle (IA) Grok. Cette dernière est accusée par trois ministres et deux députés d'avoir généré et diffusé de fausses vidéos à caractère sexuel, «mettant notamment en scène des mineurs», a appris l'AFP auprès du ministère public.
Ces parlementaires et ministres français dénoncent la diffusion de «deepfakes». Des fausses vidéos diffusées sur la plateforme X par Grok, sans le consentement des personnes représentées sur ces vidéos.
Une enquête ouverte en juillet
Cette enquête visant X est ouverte depuis juillet, à la suite de signalements contre le réseau social et ses dirigeants. Ils sont accusés d'avoir biaisé l'algorithme de la plateforme à des fins d'ingérence étrangère.
«Le délit de montage à caractère sexuel d'une personne sans son consentement est puni de deux ans d'emprisonnement et de 60'000 euros», a rappelé le parquet qui confirmait une information du site Politico. Vendredi, les députés macroniste Eric Bothorel et socialiste Arthur Delaporte ont saisi la justice, aboutissant à l'élargissement des investigations.
Les ministres Roland Lescure, Anne Le Hénanff et Aurore Bergé ont également annoncé vendredi avoir signalé au procureur des «contenus manifestement illicites», demandant leur retrait immédiat. «Ces derniers jours, l'intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement», ont-ils détaillé. Un signalement a également été effectué auprès de la plateforme Pharos par le gouvernement, ont-ils indiqué.
Signaler les publications
L'Arcom, l'autorité de régulation de la communication audiovisuelle et du numérique, a aussi été saisie, «au titre de possibles manquements de X à ses obligations découlant du Digital Services Act (ndlr: le règlement européen sur les services numériques)».
Sur X, la haute-commissaire à l'Enfance Sarah El-Haïry s'est déclarée «scandalisée par les requêtes adressées à Grok de dénuder des filles et femmes». Elle a incité les internautes à signaler les publications à Pharos.
Grok admet des «failles»
Grok a reconnu vendredi l'existence de «failles» ayant permis à des utilisateurs d'obtenir de lui des images à caractère sexuel impliquant des mineurs ou des femmes, suscitant des protestations à travers le monde et l'élargissement d'une enquête judiciaire en France.
«Nous avons identifié des failles dans nos garde-fous et nous les corrigeons de toute urgence – la pédopornographie est illégale et interdite», a écrit vendredi le compte X de Grok, en réponse à l'interpellation d'un utilisateur après plusieurs jours de signalements sur la plateforme.
xAI, l'entreprise d'intelligence artificielle d'Elon Musk qui développe Grok, n'a pas réagi publiquement à cette nouvelle controverse autour de son assistant IA, déjà épinglé ces derniers mois pour des affirmations polémiques sur la guerre à Gaza, le conflit Inde-Pakistan ou pour des propos antisémites. Vendredi, les questions adressées par l'AFP à xAI ont reçu une réponse automatique affirmant que "les médias traditionnels mentent", sans autre commentaire.
