Darum gehts
Es brauchte die Ankündigung mehrerer Regierungen, rechtliche Schritte einzuleiten, bis Elon Musk (54) reagierte. Ende der Woche erklärte er, dass der Chatbot Grok seines KI-Unternehmens xAI eingeschränkt werde.
Was war passiert? Seit Anfang Jahr wurde die KI mit Anfragen eingedeckt wie: «Steck sie in einen Bikini.» «Spreiz ihre Beine.» Oder: «Zeig sie in Unterwäsche.» Die Anfragen wurden immer extremer. So sollte der Chatbot Bilder generieren, auf denen Blut zu sehen war. Auf denen Frauen gefesselt waren, oder blaue Flecken hatten. Grok gehorchte. Innert weniger Sekunden generierte der Chatbot Bilder, die auf der Plattform X öffentlich sichtbar waren – und meist ohne Zustimmung der Abgebildeten entstanden.
Opfer sind meist Frauen
Die Rechtsprofessorin Nula Frei von der FernUni Schweiz, die unter anderem zu Datenschutz und neuen Technologien forscht, überrascht das nicht. «Es wird immer einfacher, Deepfakes zu erstellen», sagt sie. «Und sie werden in Zukunft sicher zunehmen.» Solche Deepfakes, also mit künstlicher Intelligenz manipulierte Fotos und Videos, sind inzwischen so gut, dass man reale von gefälschten Abbildungen fast nicht mehr unterscheiden kann.
Opfer sind meist Frauen. «Deepfakes werden gezielt als Mittel eingesetzt, um Frauen einzuschüchtern, zu bestrafen oder zu diskreditieren, etwa im Kontext von sogenanntem Revenge Porn», sagt Frei. So zeigen Studien, dass der Grossteil aller Deepfakes pornografischer Natur sei. «In manchen Erhebungen sind es bis zu 90 Prozent, und fast immer betreffen sie Frauen.»
Eine Untersuchung der europäischen NGO AI Forensics bestätigt das: 53 Prozent der von Grok generierten Bilder zeigten Menschen in freizügiger Kleidung, über 80 Prozent davon Frauen. Die Bilder wurden mehrheitlich von Männern generiert.
Auch Kinder betroffen
Zu den Betroffenen gehörte etwa Schwedens Vizepremierministerin Ebba Busch (38). Oder die Influencerin und Mutter von Musks jüngstem Kind, Ashley St. Clair (27). Auch Minderjährige wurden Opfer. So forderte ein Nutzer Grok auf, die 14-jährige Schauspielerin Nell Fisher in einem Bikini darzustellen. Und: Einige der von AI Forensics untersuchten Bilder zeigten manipulierte Bilder von Kindern, die dem Anschein nach jünger als fünf Jahre waren.
Musk reagierte zunächst auf seine gewohnte Art: demonstrativ provokant. Er wies Grok an, ein Bild von sich selbst im Bikini zu erstellen. Erst nach zunehmender Kritik limitierte X die Bildbearbeitungsfunktion auf zahlende User. Nach eigenen Angaben wurde sie inzwischen generell limitiert. Laut der britischen Zeitung «The Guardian» ist es über Umwege jedoch weiterhin möglich, mit Grok sexualisierte Bilder zu erstellen.
Vorstösse bislang gescheitert
Rechtsprofessorin Nula Frei sieht die Verantwortung nicht allein bei den Plattformen. «Meiner Meinung nach ist es die Aufgabe des Staates, festzulegen, wo die rechtlichen Grenzen liegen.» So wüssten Plattformen, wonach sie sich richten müssen.
In der Schweiz gab es bereits mehrere politische Vorstösse zur Regulierung von Deepfakes – bislang ohne Erfolg. Gesetzlich bestehe weiterhin Nachholbedarf, sagt Frei. «Einzelne Massnahmen greifen zu kurz. Wir brauchen ein Zusammenspiel aus Strafrecht, Zivilrecht, Plattformregulierung und Prävention», sagt Frei. Zwar will der Bund Plattformen wie X und Co. regulieren, doch bis das Gesetz in Kraft tritt, wird es noch dauern.
Ein wichtiges Signal setzte das Bundesgericht im November: Es urteilte, dass pornografische Erzeugnisse mit digital verjüngten Erwachsenen Kinderpornografie darstellen.
Rechtliche Schritte eingeleitet
Neben rechtlichen Instrumenten brauche es eine breitere gesellschaftliche Debatte, sagt Frei. «Wir müssen dringend über Medienkompetenz sprechen, insbesondere in Schulen. Die Fragen müssen lauten: Wie erkenne ich Deepfakes, was ist erlaubt, und wo überschreiten wir Grenzen?» Am Ende sei es eine Grundsatzfrage: «Wie wollen wir künstliche Intelligenz regulieren?»
Andere Staaten reagieren derweil entschlossen. Frankreich und Grossbritannien leiteten rechtliche Schritte gegen xAI ein. Malaysia und Indonesien sperrten den Zugang zu Grok. Am Mittwoch kündigte auch der US-Bundesstaat Kalifornien Ermittlungen an.
Der Fall macht deutlich: KI-Unternehmen und ihre Plattformen verfügen über enorme Macht. Aber sie kann eingeschränkt werden – wenn die Politik es will.