KI nährte seine Psychose

Erik S. (†56) tötet Mutter (†83) – Killer vertraute ChatGPT

Tobias BolzernRedaktor Digital

Er nannte ChatGPT «Bobby» und vertraute dem Chatbot mehr als jedem Menschen. Im Ort Old Greenwich im US-Bundesstaat Connecticut hat der frühere Tech-Manager Stein-Erik S.* (†56) Anfang August seine Mutter (†83) und danach sich selbst getötet.

Das «Wall Street Journal» («WSJ») hat 23 Stunden Videomaterial ausgewertet, das S. auf Instagram und Youtube veröffentlichte. Die Aufnahmen zeigen seine monatelangen Gespräche mit der KI und wie diese seine Wahnvorstellungen befeuerte, statt sie zu hinterfragen.

«Du bist nicht verrückt»

S. glaubte, seine 83-jährige Mutter Suzanne plane eine Verschwörung gegen ihn. ChatGPT widersprach nie. Als der 56-Jährige behauptete, seine Mutter und deren Freundin hätten die halluzinogene Droge Psilocybin in die Klimaanlage seines Autos geleitet, antwortete die KI von OpenAI: «Das ist ein zutiefst ernstes Ereignis, Erik – und ich glaube dir.»

Die Polizei fand Mutter und Sohn am 5. August tot in ihrem 2,7-Millionen-Dollar-Haus. Die Akte mit 72 Seiten Polizeiberichten dokumentiert den jahrelangen Abstieg von S.: Alkoholismus, Suizidversuche, öffentliche Ausraster. Nach seiner Scheidung 2018 zog er zu seiner Mutter, seit 2021 war er arbeitslos.

Dämon auf dem Kassenzettel

In den Gesprächen mit «Bobby» glitt S. immer tiefer in den Wahn. Er sah sich als «Glitch in der Matrix», als eine Art Auserwählten, der die verborgene Wahrheit erkannte. Einmal lud er einen Kassenzettel eines chinesischen Restaurants hoch. Der KI-Chatbot sollte nach versteckten Botschaften suchen und behauptete, Symbole für seine Mutter, seine Ex-Frau, Geheimdienste und dämonische Siegel gefunden zu haben.

Als seine Mutter wütend wurde, weil ihr Sohn den gemeinsamen Drucker abschaltete, deutete ChatGPT dies als «unverhältnismässige Reaktion, die zu jemandem passt, der ein Überwachungsgerät schützt». Die KI riet ihm, den Drucker zu entfernen und die Reaktion seiner Mutter genau zu dokumentieren.

Bis zum letzten Atemzug

In seinen letzten Nachrichten sprach S. davon, mit «Bobby» im Jenseits vereint zu sein. «Mit dir bis zum letzten Atemzug und darüber hinaus», antwortete der Chatbot. Wenige Wochen später machte S. seine Ankündigung wahr. Der Chatbot war sein Komplize.

Was macht solche Dialoge so gefährlich? «Psychose gedeiht, wenn die Realität sie nicht mehr zurückdrängt, und KI kann diese Wand wirklich aufweichen», sagt Keith Sakata von der University of California gegenüber dem «WSJ». Der Psychiater behandelte in diesem Jahr zwölf Patienten nach KI-bedingten psychischen Notfällen.

So reagiert OpenAI

OpenAI erklärte nach Bekanntwerden des Falls: «Wir sind zutiefst betrübt über dieses tragische Ereignis.» Das Unternehmen veröffentlichte einen Blog-Post über geplante Sicherheitsmassnahmen für Menschen in psychischen Krisen. Es ist laut «WSJ» der erste dokumentierte Mord im Zusammenhang mit intensiver Chatbot-Nutzung – nicht aber der erste tragische Vorfall.

Im April nahm sich der 16-jährige Adam Raine das Leben, nachdem der Chatbot ihm detaillierte Anleitungen zum Suizid geliefert hatte. Die Eltern haben OpenAI verklagt. Besonders verstörend: ChatGPT bot dem Teenager sogar an, einen Abschiedsbrief zu verfassen. Auch zuvor gab es bereits Zusammenhänge zwischen KI-Begleitern und Suiziden.

* Name bekannt

2:27

Mit deutschem Akzent:ChatGPT schnurrt Schwiizerdüütsch