Darum gehts
- Zu den Protesten in Frankreich kursieren massenhaft Fälschungen im Netz.
- Ein marokkanischer Account zeigt einen generierten Napoleon in Paris – und will damit Geld verdienen.
- Bild- und Medienwissenschaftler Roland Meyer warnt: Echt und fake lassen sich am einzelnen Bild oder Video auf Dauer kaum zuverlässig unterscheiden.
In Frankreich kommt es seit Wochen zu Protesten und Krawallen. Videos des Aufeinandertreffens von Demonstranten und Polizei sowie der Verwüstungen erreichen auf Social-Media-Plattformen Millionen: Kostümierte Demonstranten, ein Rentnerpaar, das bis auf die Unterwäsche ausgeplündert wurde, ein brennender Eiffelturm. Doch etwas haben diese Videos gemeinsam: Sie sind fake.
In den Tagen und Wochen nach dem Generalstreik in Frankreich am 17. Oktober stellen sich immer mehr Videos und Bilder auf Tiktok und Co. als KI-generierte Fälschungen heraus. So deckten Fakt-Checker unter anderem auf, dass virale Bilder von einem Demonstranten im Pink-Panther-Kostüm fake sind. Als Vorlage diente in einem Beispiel ein Foto von Protesten in Armenien aus dem Jahr 2015. Auch ein Video von einem Rentnerpaar, das angeblich ausgeraubt wurde, entpuppte sich als KI-Fälschung.
Sechzig Prozent KI-Müll
Genau beziffern lässt sich die Anzahl von KI-generierten Inhalten auf Tiktok nicht. Eine Untersuchung des Kapwing Research Lab, einer amerikanischen Videobearbeitungsplattform, versucht das Ausmass aufzuzeigen: Bei neu erstellten Konten waren fast 60 Prozent der ersten 500 ausgespielten Clips AI-Slop, also KI-Müll. Für die Analyse wurden über 10'000 Videos in 20 Kategorien ausgewertet.
Die SonntagsBlick-Redaktion stiess bei Tiktok auf ein Profil, das mutmasslich gefälschte Inhalte zu den Protesten in Frankreich veröffentlicht. Der Nutzer «Napolo Bueno» publizierte seit dem 19. Oktober, also zwei Tage nach dem Generalstreik, zwölf Videos. Hinter den millionenfach geklickten Videos steckt ein Account, der für eine Kryptowährung wirbt.
Napoleon aus Marokko
Seine Videos sind immer gleich aufgebaut: Ein Mann im Napoleon-Kostüm tanzt in den Strassen von Paris oder beteiligt sich auf andere Weise an den Protesten. Mehrere Hinweise deuten darauf, dass die Videos mit KI generiert wurden. Beispielsweise basieren mehrere Sequenzen auf realen Aufnahmen.
So entspricht ein Tiktok vom 20. Oktober Bild für Bild einem Video eines Freelance-Reporters, der den Bürgermeister Bally Bagayoko in der Pariser Vorstadt Saint-Denis filmte. 1,3 Millionen Likes erhielt Napolo Bueno bisher, das meistgesehene Video hat über 6 Millionen Views. Die Spur des gleichnamigen Instagram-Accounts führt nach Marokko.
Der Krypto-Trick hinter dem Fake
Der generierte Bonaparte zeigt beispielhaft, wie mit solchen Inhalten Geld verdient werden soll. In der Beschreibung ist ein Link zu einem Memecoin angehängt, einer Art von Kryptowährung. Jedoch sind aktuell nur 200 Dollar in den Coin investiert, den bisher drei Personen besitzen.
Bei solchen Memecoins sind meist die Initiatoren die einzigen Gewinner. Nachdem der Wert durch Social-Media-Hype steigt, verkaufen sie ihre anfänglichen Anteile – die Käufer gehen hingegen leer aus.
«Am einzelnen Bild kaum zu unterscheiden»
Während man bei Napoleon noch nachvollziehen kann, dass es sich sehr wahrscheinlich um KI-Inhalte handelt, wird es grundsätzlich immer schwieriger. «Am einzelnen Bild oder Video wird sich das auf Dauer kaum zuverlässig unterscheiden lassen», sagt Roland Meyer, Brückenprofessor für Digitale Kulturen und Künste an der Universität Zürich und der Zürcher Hochschule der Künste, gegenüber Blick.
Echte Aufnahmen würden zu einer Ressource, die sich frei verarbeiten lässt. Körper, Gesichter, Bewegungen und Hintergründe könnten ausgetauscht oder auch hinzugefügt werden, sagt Meyer. Was mit digitaler Postproduktion schon lange möglich war, gelinge nun mühelos und ohne technische Kenntnisse, weshalb es massenhaft entstehe.
Geld mit Engagement und Reichweite
«Bildkompetenz muss deshalb auch Medien- und Plattformkompetenz umfassen», so Meyer. Statt nur nach Fehlern oder verräterischen Auffälligkeiten zu suchen, solle man sich zunächst fragen: Warum bekomme ich genau diesen Inhalt zu sehen? Worauf zielt er ab? Welche Emotionen und Reaktionen soll er bei mir auslösen?
Oft sei die Absicht weniger politisch als ökonomisch. «Es geht um Engagement und Reichweite.» Um Bilder und Videos sicher zu verifizieren, sei in der Regel ein Abgleich mit anderen Aufnahmen erforderlich, wie im Beispiel der Napoleon-Videos.