Darum gehts
- KI-Bild mit angeblicher Festnahme von Nicolás Maduro geht viral
- Erschaffer Ian Weber nimmt Stellung, verteidigt Vorgehen
- Sogar etablierte Medien fielen auf Fälschung rein, entschuldigen sich
Die Fälscher und Witzbolde waren sofort zur Stelle. Als US-Präsident Donald Trump (79) am Samstag die Gefangennahme des venezolanischen Präsidenten Nicolás Maduro (63) und dessen Ehefrau bekannt gab, überschwemmten in kürzester Zeit mehr oder weniger ernst gemeinte Falschinformationen und Memes zur Operation die sozialen Medien.
Ein mit künstlicher Intelligenz (KI) generiertes Bild, das Maduro mit zwei US-Soldaten zeigt, die ihn festhalten, ging viral und wurde in der Folge auch von etablierten Medien publiziert. Jetzt äussert sich der Erschaffer: «Ich hätte nie gedacht, dass es weltweit das meistgeteilte Bild werden würde», sagt X-Nutzer Ian Weber gegenüber der Nachrichtenagentur AFP. «Ich wollte nur schauen, ob ein Account auf X mit weniger als 78 Followern zu diesem Zeitpunkt ein Bild organisch viral gehen lassen kann.»
Deutsche Agentur und Verlagshaus entschuldigen sich
Manche der gefälschten Inhalte wurden von Bloggern und Nutzern von sozialen Medien aufgegriffen und weiterverbreitet – mitunter auch in der Annahme, dass es sich um authentisches Material handelt. So postete etwa der umstrittene US-Moderator Alex Jones (51) Bilder von Venezolanern, die in den Strassen der Hauptstadt Caracas angeblich die Gefangennahme Maduros feiern. Bloss: Die Aufnahmen stammen aus dem Sommer 2024. Dies kann mit einer Bildrückwärtssuche auf Google einfach gezeigt werden.
Das KI-Bild von X-User Weber lag am Samstag auch Blick vor. Da die Quelle in diesem Moment unklar war und die Echtheit der angeblichen Aufnahme nicht unmittelbar überprüft werden konnte, wurde sie nicht publiziert. Allerdings landete das Bild in der Datenbank der deutschen Fotoagentur DDP und erschien in der Folge in Berichten der deutschen Mediengruppe Funke, die unter anderem die «Berliner Morgenpost» herausgibt. Sowohl DDP als auch Funke entschuldigten sich später für den Fehler.
Wie Weber, der seinem X-Profil zufolge in Spanien wohnt, erklärt, erstellte er das Bild mithilfe des Google-Tools Nano Banana Pro. Er veröffentlichte es innerhalb von 20 Minuten nach der Bekanntgabe der Operation durch Trump. Dazu schrieb er: «Maduro wurde gefangen genommen. Er wurde ausser Landes geflogen.»
So wurde die Fälschung entlarvt
Webers KI-Fälschung ging innert kürzester Zeit viral. «Ich habe nie behauptet, dass dies das erste Bild von Maduro in Haft sei», rechtfertigt er sich. «Wenn ein Account mit nur 78 Followern eine solche Wirkung erzielen kann, stellen Sie sich vor, wozu ein Influencer mit Millionen von Followern in der Lage ist.»
Schliesslich veröffentlichte Trump ein echtes Foto von Maduro in US-Gewahrsam. Das Magazin «Wired» entlarvte Webers KI-Bild derweil mithilfe des Google-Tools SynthID als solches. SynthID dient zur Erkennung von KI-generierten Inhalten und kann die unsichtbaren Wasserzeichen lesen, die vom KI-Tool Nano Banana Pro platziert werden. Hätten die Internetnutzer sich die Mühe gemacht, das KI-Bild mit Maduro bis zum Post von Weber zurückzuverfolgen, hätten sie auch ohne SynthID zumindest Verdacht schöpfen können, dass es sich um eine Fälschung handelte: In seiner Biografie auf X beschreibt sich Weber nämlich als «AI-Videokunst-Enthusiast».