Le gouvernement britannique a appelé mardi le réseau social X à trouver «de toute urgence» une solution pour éviter la prolifération de fausses images «révoltantes» de femmes et de mineurs dénudés générées par Grok, l'assistant d'intelligence artificielle associé au réseau. «Ce que nous avons vu en ligne ces derniers jours est absolument révoltant et inacceptable dans une société digne de ce nom», a déclaré Liz Kendall, la ministre en charge des Technologies dans le gouvernement travailliste de Keir Starmer.
«Nous ne pouvons et ne permettrons pas la prolifération de ces images dégradantes et humiliantes, qui ciblent de manière disproportionnée les femmes et les filles. X doit régler ce problème de toute urgence», a-t-elle insisté. Grok, l'assistant IA du réseau social propriété du milliardaire américain Elon Musk, est sous le feu des critiques après que des utilisateurs ont pu créer grâce à lui des images à caractère sexuel impliquant des femmes et des mineurs.
Grok sous pression
Ces images, réalisées en retouchant des photos ou vidéos de personnes réelles pour les dénuder, ont suscité des protestations à travers le monde et l'élargissement d'une enquête judiciaire en France. «Le Royaume-Uni ne tolérera pas la prolifération incessante de contenus répugnants et injurieux en ligne», a insisté Liz Kendall, ajoutant qu'elle soutenait «pleinement» l'action du régulateur britannique Ofcom et «toutes les mesures coercitives qu'il jugera nécessaires».
L'Ofcom a annoncé lundi avoir demandé à X comment il protège ses utilisateurs, et n'a pas exclu le lancement d'une enquête formelle «s'il existe des problèmes de conformité». Face au tollé, Grok a reconnu vendredi l'existence de «failles» ayant permis à des utilisateurs d'obtenir des images à caractère sexuel impliquant des mineurs ou des femmes, et a assuré qu'il les corrigeait «de toute urgence».
Au titre de la législation britannique sur la sécurité en ligne (Online Safety Act), les plateformes doivent lutter contre l'apparition de tels contenus et agir rapidement pour les retirer. En cas de non-respect de ces obligations, elles s'exposent à des amendes pouvant atteindre 18 millions de livres (plus de 20 millions d'euros), ou 10% de leur chiffre d'affaires mondial si ce montant est plus élevé.
Les victimes de Crans-Montana concernées?
Sur les réseaux sociaux, des publications mentionnent le fait que cela a pu toucher les victimes de Crans-Montana. Des captures d'écran montrent que sous certains posts sur les décès, des utilisateurs demanderaient à dénuder les victimes. L'information n'a toutefois pas pu être vérifiée.
