Darum gehts
- KI-Bild mit angeblicher Festnahme von Nicolás Maduro geht viral
- Erschaffer Ian Weber nimmt Stellung, verteidigt Vorgehen
- Sogar etablierte Medien fielen auf Fälschung rein, entschuldigen sich
Die Fälscher und Witzbolde waren sofort zur Stelle. Als US-Präsident Donald Trump (79) am Samstag die Gefangennahme des venezolanischen Präsidenten Nicolás Maduro (63) und dessen Ehefrau bekannt gab, überschwemmten in kürzester Zeit mehr oder weniger ernst gemeinte Falschinformationen und Memes zur Operation die sozialen Medien.
Ein mit künstlicher Intelligenz (KI) generiertes Bild, das Maduro mit zwei US-Soldaten zeigt, die ihn festhalten, ging viral und wurde in der Folge auch von etablierten Medien publiziert. Jetzt äussert sich der Erschaffer: «Ich hätte nie gedacht, dass es weltweit das meistgeteilte Bild werden würde», sagt X-Nutzer Ian Weber gegenüber der Nachrichtenagentur AFP. «Ich wollte nur schauen, ob ein Account auf X mit weniger als 78 Followern zu diesem Zeitpunkt ein Bild organisch viral gehen lassen kann.»
Deutsche Agentur und Verlagshaus entschuldigen sich
Manche der gefälschten Inhalte wurden von Bloggern und Nutzern von sozialen Medien aufgegriffen und weiterverbreitet – mitunter auch in der Annahme, dass es sich um authentisches Material handelt. So postete etwa der umstrittene US-Moderator Alex Jones (51) Bilder von Venezolanern, die in den Strassen der Hauptstadt Caracas angeblich die Gefangennahme Maduros feiern. Bloss: Die Aufnahmen stammen aus dem Sommer 2024. Dies kann mit einer Bildrückwärtssuche auf Google einfach gezeigt werden.
Das KI-Bild von X-User Weber lag am Samstag auch Blick vor. Da die Quelle in diesem Moment unklar war und die Echtheit der angeblichen Aufnahme nicht unmittelbar überprüft werden konnte, wurde sie nicht publiziert. Allerdings landete das Bild in der Datenbank der deutschen Fotoagentur DDP und erschien in der Folge in Berichten der deutschen Mediengruppe Funke, die unter anderem die «Berliner Morgenpost» herausgibt. Sowohl DDP als auch Funke entschuldigten sich später für den Fehler.
Wie Weber, der seinem X-Profil zufolge in Spanien wohnt, erklärt, erstellte er das Bild mithilfe des Google-Tools Nano Banana Pro. Er veröffentlichte es innerhalb von 20 Minuten nach der Bekanntgabe der Operation durch Trump. Dazu schrieb er: «Maduro wurde gefangen genommen. Er wurde ausser Landes geflogen.»
So wurde die Fälschung entlarvt
Webers KI-Fälschung ging innert kürzester Zeit viral. «Ich habe nie behauptet, dass dies das erste Bild von Maduro in Haft sei», rechtfertigt er sich. «Wenn ein Account mit nur 78 Followern eine solche Wirkung erzielen kann, stellen Sie sich vor, wozu ein Influencer mit Millionen von Followern in der Lage ist.»
Schliesslich veröffentlichte Trump ein echtes Foto von Maduro in US-Gewahrsam. Das Magazin «Wired» entlarvte Webers KI-Bild derweil mithilfe des Google-Tools SynthID als solches. SynthID dient zur Erkennung von KI-generierten Inhalten und kann die unsichtbaren Wasserzeichen lesen, die vom KI-Tool Nano Banana Pro platziert werden. Hätten die Internetnutzer sich die Mühe gemacht, das KI-Bild mit Maduro bis zum Post von Weber zurückzuverfolgen, hätten sie auch ohne SynthID zumindest Verdacht schöpfen können, dass es sich um eine Fälschung handelte: In seiner Biografie auf X beschreibt sich Weber nämlich als «AI-Videokunst-Enthusiast».
Medien fielen auch auf «Blut-Maduro» rein
Auch ein anderes Fake-Bild von Maduro sorgte im Netz für Aufsehen. Es zeigt den venezolanischen Präsidenten in ähnlicher Pose wie auf dem oben beschriebenen Foto – aber mit Blutspuren am Hemd.
Hier ist die Entlarvung aber ein wenig komplexer, weil das Bild wahrscheinlich nicht mit Google erstellt wurde und darum auch das Tool SynthID nicht anschlägt. Das Team von «globalfactchecking.com» ist der Sache auf den Grund gegangen:
- Der auf dem Foto abgebildete Helm ist vom Typ MICH2000. Er ist kaum noch im Umlauf.
- Die US-Soldaten auf dem Foto tragen reguläre Armeetarnkleidung. Die reguläre US-Armee war jedoch nicht an den Bodenoperationen gegen Venezuela beteiligt. Diese Operationen wurden von DEVGRU, der Marineeinheit des US-Spezialkommandos (SOCOM), und deren Landeinheit Delta geleitet.
- Die Blutspuren auf dem Hemd passen nicht zu Maduros Zustand. Sein Gesicht und Schnurrbart weisen keine Blutspuren auf.
- Die Frisur wirkt unnatürlich, und das Gesicht ist zu symmetrisch und glatt.
Leider war die Fälschung aber so gut, dass auch Foto-Agenturen darauf reingefallen sind und das Bild so Eingang in diverse seriöse Publikationen fand.
Tipp: Das Tool SynthID ist noch im Betatest und nicht öffentlich verfügbar. Es ist aber auch in Googles Chatbot Gemini eingebaut. Einfach Bild reinladen und fragen: «Ist dieses Foto KI?».