Un avocat de confession juive blessé lors de l'attentat de la plage de Bondi à Sydney en décembre en Australie a découvert que des images générées par intelligence artificielle (IA) le faisant passer pour un comédien payé pour simuler ses blessures proliféraient en ligne, alors même qu'il s'apprêtait à subir une intervention chirurgicale, a appris lundi une commission d'enquête royale.
Arsen Ostrovsky, directeur du Conseil des affaires australo-israéliennes et juives à Sydney, a expliqué qu'un selfie envoyé à un ami au lendemain de l'attaque antisémite avait été rapidement détourné en ligne par IA pour faire croire qu'il avait orchestré une mise en scène et simulé ses blessures.
Son histoire a été révélée lors des auditions de la commission d'enquête royale fédérale, la plus haute instance d'enquête possible en Australie et la première de ce type depuis 2022. Naveed Akram et son père Sajid, décédé lors de l'attaque, sont accusés d'avoir ouvert le feu lors d'une célébration de la fête juive de Hanouka le 14 décembre sur la plage de Bondi près de Sydney. Il s'agit de l'attentat la plus meurtrier en Australie depuis trois décennies.
X et Youtube laissent faire
Arsen Ostrovsky a expliqué que son selfie s'était propagé «comme une traînée de poudre» après avoir été publié en ligne par son ami. L'image d'origine le montrait allongé sur le sol, le visage ensanglanté. Mais en l'espace de quelques heures, des images générées par IA ont été créées, l'une d'elles le montrant en train de rire alors qu'une maquilleuse retouchait du faux sang sur son visage.
D'autres «deepfakes» (trucages numériques) sont apparus pour le montrer à l'hôpital sans ses bandages, ou encore brandissant un Oscar de la meilleure interprétation. Beaucoup de ces images sont toujours visibles en ligne aujourd'hui. Si Meta a réagi rapidement pour supprimer les faux contenus, Arsen Ostrovsky a indiqué qu'il n'avait reçu aucune réponse de la part de X ou de YouTube.
La commission examinera «les failles et les faiblesses des plateformes dans la détection et la suppression rapide des contenus haineux, a souligné Richard Lancaster, qui en est conseiler juridique.
