Darum gehts
- Grok verbreitete auf themenfremde Fragen jüngst rechtsextreme Verschwörungstheorien
- xAI erklärt Grok-Chatbots Verhalten mit einer unerlaubten Änderung des System-Prompts
- Als Reaktion verschärft xAI die Kontrollen und macht künftig alle System-Prompts öffentlich
Das von Elon Musk gegründete KI-Unternehmen xAI hat am Freitag erklärt, warum sich der Chatbot Grok kürzlich rassistisch verhielt. Nutzern war am Donnerstag aufgefallen, dass Grok, der in Musks sozialem Netzwerk X integriert ist, auf diverse, themenfremde Anfragen mit Ausführungen zur südafrikanischen Politik reagierte. So brachte der Chatbot etwa in Gesprächen über Memes oder Software unaufgefordert Südafrika, die von rechtsextremen und nationalistischen Kreisen verbreitete Verschwörungstheorie eines «weissen Genozids», oder aber den umstrittenen Gesang «Kill the Boer» ins Spiel.
Laut xAI wurde am 14. Mai um 3.15 Uhr PST (Pacific Standard Time) der System-Prompt des Bots auf X unerlaubt verändert. Der Prompt ist eine für Nutzerinnen und Nutzer unsichtbare Anweisung an den KI-Chatbot. Diese Manipulation habe Grok dazu gebracht, gezielt politische Antworten zu geben – ein Verstoss gegen die internen Richtlinien und Werte von xAI, so die Firma. Eine Untersuchung wurde gestartet. Mehr Angaben zum Vorfall machte das Unternehmen nicht.
Team soll Grok überwachen
Als Reaktion kündigte xAI an, die System-Prompts von Grok künftig auf der Plattform Github offenzulegen, um Feedback zu ermöglichen. Zudem sollen die internen Prüfprozesse für Prompt-Änderungen strenger werden, ein Monitoring-Team soll zudem problematische Antworten schneller erkennen und beheben.
Grok, ein von xAI entwickelter Chatbot, funktioniert ähnlich wie andere grosse Sprachmodelle (LLMs) wie ChatGPT, hat jedoch direkten Zugriff auf Informationen der Plattform X und kann dort per Erwähnung direkt in Diskussionen eingebunden werden.
Der aktuelle Vorfall ist nicht das erste Mal, dass Grok mit schrägen Äusserungen auffiel. Schon zuvor gab es Kritik an einer möglichen politischen Schlagseite des Bots. Elon Musk selbst hat das Thema des «weissen Genozid» in Südafrika in der Vergangenheit mehrfach angesprochen. Der Chatbot selbst nennt es inzwischen eine «widerlegte Verschwörungstheorie».