Darum gehts
- EU-Kommission leitet Verfahren gegen X wegen KI-Chatbot Grok ein
- Grok manipuliert Bilder, teils mit sexualisierten und missbräuchlichen Inhalten
- EU verhängte im Dezember 2025 120 Millionen Euro Strafe gegen X
X war in den vergangenen Wochen in die Kritik geraten, weil Nutzer den KI-Chatbot Grok auffordern konnten, gepostete Bilder zu sexualisieren. Immer wieder befahlen Menschen der KI etwa, Fotos derart zu manipulieren, dass die Frauen darauf nur noch in Bikinis zu sehen waren – ohne deren Einverständnis. Der britische Premierminister Keir Starmer nannte die Erzeugnisse der KI «widerlich». «The Atlantic» nannte den Dienst «Elon Musks Porno-Maschine».
Jetzt hat die EU-Kommission gegen X ein Verfahren eingeleitet. Dabei geht es laut der EU-Kommission auch um Bilder, die als Kindesmissbrauch gelten könnten. Im Sommer konnten User von Grok Lobpreisungen für Adolf Hitler erhalten. «In Europa werden wir unvorstellbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren», teilte EU-Kommissionspräsidentin Ursula von der Leyen mit.
X hat mehrere Verfahren am Hals
Nach der Deeskalation im Grönland-Konflikt nimmt die Brüsseler Behörde mit diesem Schritt das Risiko in Kauf, die USA unter Donald Trump erneut zu verärgern. Kritiker halten der EU jedoch gleichzeitig schon länger vor, ihre Digitalregeln nicht konsequent genug durchzusetzen.
Gegen Musks Online-Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen, es geht unter anderem um die Moderation und den Umgang mit illegalen Inhalten. Anfang Dezember hatte die EU gegen X eine Strafe von 120 Millionen Euro wegen Transparenzmängeln verhängt. Washington reagierte scharf, sprach von Zensur und verhängte Einreiseverbote gegen einen der Architekten der Digitalgesetze sowie andere Europäer. Die heftige Reaktion konnte auch als Drohung in Richtung Brüssel verstanden werden, keine weiteren Massnahmen gegen die US-Tech-Riesen zu ergreifen.
US-Regierung poltert gegen EU
Aussenminister Marco Rubio schrieb zur Begründung der Einreisesperren auf X, es würden gezielt amerikanische Plattformen attackiert. Man sei bereit, die Liste um weitere Personen zu erweitern, wenn es keine Kurskorrektur gebe. Elon Musk selbst sprach sich dafür aus, die EU abzuschaffen.
Das nun eröffnete Verfahren konzentriert sich laut Mitteilung darauf, ob X das Risiko für «geschlechtsspezifische Gewalt und schwerwiegende negative Folgen für das körperliche und geistige Wohlbefinden» genügend eingeschränkt habe. Die Internetwächter in Brüssel kündigen neben der neuen Ermittlung zudem an, eine seit Ende 2023 laufende Untersuchung zu erweitern.
Von einer Strafe oder Sperre des Dienstes hat man abgesehen: Eine Deaktivierung von Grok in der EU sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel, hatte ein Sprecher der Behörde in der Vergangenheit gesagt. Indonesien und Malaysia hatten Grok als erste Länder weltweit Mitte Januar vorübergehend gesperrt.
Die Einleitung des Verfahrens auf Grundlage des Gesetzes über digitale Dienste (Digital Services Act, kurz DSA) bedeutet noch keinen Nachweis eines Verstosses. Sollte X aber nicht einlenken oder entlastende Beweise liefern, könnten Strafen durch die Europäische Kommission drohen. Sie wacht in der EU über die Einhaltung der Digitalregeln. Wie lange das Verfahren dauern wird, ist offen.
Pariser Staatsanwaltschaft ermittelt
Unter zunehmendem Druck wegen der übergriffigen Bilder – etwa von Schwedens stellvertretender Ministerpräsidentin Ebba Busch – hatte die US-Firma ihren Chatbot zuletzt angeblich eingeschränkt. Doch die Einschränkung ist Augenwischerei: Die Funktion ist über andere Wege für alle Nutzer zugänglich, etwa über den Button direkt unter jedem Bild auf der Plattform oder über die Grok-App.
Auch die britische Medienaufsichtsbehörde Ofcom hatte Mitte Januar eine offizielle Untersuchung gegen Musks Online-Plattform eingeleitet. Als Grund gab die Behörde ebenfalls die von Grok sexualisierten Bilder an. Dies könne mitunter als Missbrauch gewertet werden, hiess es in einer Mitteilung.
Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf, dass Algorithmen in dem sozialen Netzwerk verändert worden sein sollen, um rechtsextremen Inhalten mehr Aufmerksamkeit zu bescheren. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.