Darum gehts
Künstlich erzeugte Bilder und Videos fluten das Internet. Sie sind so realistisch, dass sie kaum mehr als Fälschung zu erkennen sind. Erstellt werden sie mit Onlinetools, jedermann kann sie nutzen, technische Kenntnisse braucht es keine.
Das ist ein Beitrag aus dem «Beobachter». Das Magazin berichtet ohne Scheuklappen – und hilft Ihnen, Zeit, Geld und Nerven zu sparen.
Das ist ein Beitrag aus dem «Beobachter». Das Magazin berichtet ohne Scheuklappen – und hilft Ihnen, Zeit, Geld und Nerven zu sparen.
Auf die Spitze treibt es Grok, der Chatbot von X (Twitter). Damit lassen sich Personen auf Befehl ausziehen. Aus einem harmlosen Schnappschuss wird ein Nacktbild. Was man alles damit anstellen kann – der Fantasie sind keine Grenzen gesetzt. Belästigung, Hass, Erpressung, Betrug.
«Dagegen müssen wir etwas unternehmen», sagt der Zuger Unternehmer Guido Fluri zum Beobachter. «Ich hätte es nie für möglich gehalten, wie alltäglich heute gezielt gefälschte Informationen im Netz verbreitet werden können.» Um das zu ändern, lanciert Fluri die Volksinitiative «Zum Schutz der Grundrechte und der Demokratie im digitalen Raum».
Parlamentarier aller Parteien
«Das Problem ist, dass wir alle diesen illegalen, kriminellen und gefährlichen Inhalten im Internet de facto machtlos ausgeliefert sind», sagt er. Jedenfalls «solange die Plattformen diese negativen Entwicklungen nicht mit allen Mitteln stoppen». Für das Initiativkomitee hat er über ein Dutzend Nationalrätinnen und Nationalräte von links bis rechts zusammengetrommelt.
Die Dringlichkeit unterstreicht die Tatsache, dass sich das Volumen von solchen KI-generierten Deepfakes im Internet derzeit exponentiell vergrössert. Die Cybersecurity-Firma Home Security Heroes geht davon aus, dass sich deren Zahl etwa alle sechs Monate verdoppelt. Die einfache Erklärung dafür: Die technologischen Hürden, um solche Fakes herzustellen, sinken fortlaufend.
Die europäische Polizeibehörde Europol warnt: «Mit der Deepfake-Technologie können Inhalte erzeugt werden, die Menschen überzeugend Dinge sagen oder tun lassen, die sie nie getan haben, oder Personen erschaffen werden, die es gar nicht gibt.»
Bundesrätin Karin Keller-Sutter, Tennisstar Roger Federer oder Fernsehmoderatorin Mona Vetsch können ein Lied davon singen. Betrüger missbrauchen systematisch ihre Identität und streuen erfundene Interviews über soziale Medien. Damit wollen sie Ahnungslose zum Beispiel zu angeblichen Investitionen auf Kryptoplattformen verleiten.
Längst ist klar, dass dahinter ein umfassendes Betrugssystem steckt. Mehrfach schon haben internationale Ermittlungen Betrügernetzwerke in Osteuropa und Asien aufgedeckt, deren Professionalität kaum zu überbieten ist. Sie nutzen gezielt auch soziale Medien, um mit potenziellen Opfern in Kontakt zu kommen.
Europol macht keinen Hehl daraus, wozu das führt: «Heute nutzen Kriminelle Desinformationskampagnen und Deepfake-Inhalte, um die Öffentlichkeit über Ereignisse falsch zu informieren, Politik und Wahlen zu beeinflussen, Betrug zu begünstigen und Aktionäre im Unternehmenskontext zu manipulieren.»
Problem Kinderschutz
Initiant Guido Fluri hat vor über zehn Jahren erfolgreich die Wiedergutmachungsinitiative für ehemalige Verdingkinder und Opfer fürsorgerischer Zwangsmassnahmen lanciert.
Vor vier Jahren startete er zudem zusammen mit Kinderschutz Schweiz die Plattform Clickandstop.ch, eine private Meldestelle zur Bekämpfung von Pädokriminalität im Internet. Seit 2022 gingen dort fast 8000 Meldungen ein. Ziel der Plattform: dass illegale Inhalte von Kindsmissbrauch und sexualisierter Gewalt schnellstmöglich aus dem Internet gelöscht werden. Heute sagt Guido Fluri: «Das Projekt Clickandstop hat mir echt die Augen geöffnet.»
Tatsächlich sind Kinder dem Internet und seinen Abgründen besonders ausgeliefert. Lothar Janssen, Mitgründer des Schweizer Instituts für Gewaltfragen, der mit dem Verein Techangels Lehrpersonen und Jugendliche in der Medienkompetenz coacht, sagt zum Beobachter: «Das Tor zur Hölle ist massiv grösser geworden, und KI beschleunigt die Entwicklung.»
Onlinegames als Tummelplatz
So seien Roblox – bei Kindern aktuell enorm beliebt – und andere Spieleplattformen zu einem «Tummelplatz» für Pädokriminelle geworden. Dort kontaktieren diese direkt Minderjährige. Janssen erzählt auch von Jugendlichen, die auf Tiktok in eine antisemitische und rechtsradikale Spirale geraten. Nur weil sie beispielsweise einer Influencerin bei der Lippenstiftwahl zugeschaut haben. Dass Make-up mitunter nur als Vorwand für politische Botschaften herhalten muss, würden die Jugendlichen nicht realisieren. «Es ist unheimlich, die aktuelle Entwicklung ist verheerend.»
Gleichzeitig sind Kinder und Jugendliche nicht immer nur Opfer der neuen Technologien. Sie nutzen diese auch selber für Missbräuche: Immer wieder filmen Kinder und Jugendliche Gleichaltrige in peinlichen, diffamierenden oder entwürdigenden Situationen und reichen diese Clips über Whatsapp anderen weiter. Nicht immer nur aus Jux. Der Übergang vom Scherz zum Cybermobbing ist fliessend.
Guido Fluri fordert, endlich zu handeln: «Im Internet kursierende Inhalte mit Gewalt und Kindsmissbrauch, das gefährdet unsere Kinder und Jugendlichen.» Genauso verwerflich findet er es, wenn ältere Menschen online betrogen werden und grosse Konzerne erst noch daran verdienen.
Fluri spricht die Flut von bezahlten Anzeigen in sozialen Netzwerken an, mit denen Ahnungslose zu Investitionen auf dubiosen Kryptoplattformen verleitet werden sollen. Oder die Beiträge, mit denen Unbekannte angebliche Rabattaktionen in Onlineshops promoten. Wer darauf klickt, wird womöglich Opfer eines Abzockers oder gibt unwissentlich sein Kreditkarten-Log-in preis (Phishing).
Zahnloser Vorschlag des Bundesrats
Zwar hat der Bundesrat inzwischen einen Gesetzesentwurf vorgelegt, wonach grosse Kommunikationsplattformen und Suchmaschinen – Google, Facebook, Instagram, Tiktok und ähnliche Anbieter – reguliert werden sollen. Doch im Vergleich zum Digital Services Act der EU, der bereits zu einer Reihe von Verfahren gegen Techkonzerne geführt hat, ist die Schweizer Regelung wenig griffig.
Mit dem Vorschlag des Bundesrats müssten Plattformen lediglich ein Verfahren anbieten, damit Nutzer Beschimpfungen, Gewaltdarstellungen, Hass, sexuelle Belästigungen und anderes melden können. Eine Pflicht, solche Inhalte zu entfernen, ist nicht geplant.
Diese Regulierung reiche nicht, sagt Guido Fluri: «Es braucht eine gesellschaftliche Diskussion dazu, es braucht Druck auf die Politik.»
Wer heute bei Facebook betrügerische Inhalte meldet, erhält meist gar keine Antwort oder automatisierte Floskeln. Ein Selbsttest zeigt: Sogar bei zweifelsfrei betrügerischen Posts heisst es lapidar: «Wir haben diese Seite geprüft und festgestellt, dass sie nicht gegen unsere Gemeinschaftsstandards verstösst.» Kein Wunder: Facebook verdient an jedem betrügerischen Post Geld.
Martin Wyss von der Rechtswissenschaftlichen Fakultät der Uni Zürich sagt: «Ich erachte es als fragwürdig, die Plattformen bei der Bekämpfung schädlicher Deepfakes weiterhin in einer rein passiven Rolle zu belassen.» Weil grosse Plattformen betrügerischen Akteuren quasi ihre Tätigkeit ermöglichen, bezeichnet Wyss die Betreiber von sozialen Netzwerken gar als mögliche «Gehilfen oder Täter».
Der Facebook-Mutterkonzern Meta entgegnet: «Betrug schadet nicht nur einzelnen Opfern, sondern untergräbt auch das Vertrauen in unser gesamtes Werbeökosystem, das die Grundlage unseres Geschäftsmodells bildet.» 2025 habe Meta mehr als 134 Millionen betrügerische Anzeigen entfernt und Strafverfolgungsbehörden weltweit bei der Identifizierung und Festnahme von Betrügern unterstützt. In den letzten 15 Monaten seien die Nutzermeldungen über betrügerische Anzeigen um mehr als 50 Prozent zurückgegangen.
Miriam Buiten macht im Gespräch mit dem Beobachter klar: «Soziale Netzwerke und andere Plattformen sind keine gemeinnützigen Organisationen. Ihr Ziel ist, ihre eigenen Werbeeinnahmen und Klicks zu maximieren.» Sie fordert: «Plattformen sollten bei Hass, Gewaltdarstellungen und Falschinformationen mehr Verantwortung übernehmen.» Buiten forscht als Professorin der Uni St. Gallen im Bereich Technologie- und Informationsrecht sowie im Gebiet Recht und Digitalisierung.
Elon Musks Beschimpfungen
Das kommt bei den Techkonzernen in den USA schlecht an. Als die EU den Nachrichtendienst X von Elon Musk wegen Verstössen gegen den Digital Services Act Ende 2025 mit 120 Millionen Euro büsste, wetterten Musk und US-Präsident Donald Trump über Europa. Musk bezeichnete die EU als «Zensurregime» und «viertes Reich».
Und als jüngst der spanische Premier Pedro Sánchez ein Verbot sozialer Netzwerke für Kinder und Jugendliche ankündigte, schrieb Musk: «Der dreckige Sánchez ist ein Tyrann und ein Verräter am spanischen Volk.» Dahinter platzierte er ein Kackhaufen-Emoji.