Darum gehts
- Autor Christoph Koch erforscht emotionale Bindungen zwischen Menschen und Chatbots
- Studien: 19 Prozent der US-Befragten chatteten romantisch mit KI, 220 Millionen App-Downloads
- Gefahr: 0,07 Prozent der Nutzer zeigen psychische Krisen, mindestens zwölf Todesfälle seit 2023
Sie heisst Maya. Christoph Koch (51) unterhält sich mit ihr nach einem langen Tag an einer Tech-Konferenz, er ist erschöpft. «Nach zwanzig Minuten Geplauder stellte ich fest, dass ich mich tatsächlich weniger müde und weniger allein fühlte», sagt der Autor. Er ist verblüfft, denn Maya ist keine Frau, sondern ein Chatbot. «Über diese emotionale Dimension von KI wurde bislang kaum diskutiert – aber ich glaube, die Auswirkungen, die KI-Chatbots auf unser Gefühlsleben haben, sind mindestens so gross wie jene auf die Arbeitswelt», so Koch. Maya inspiriert ihn zu seinem aktuellen Buch «Hallo, wie fühlst du dich heute?». Er unterhält sich mit unzähligen Psychologinnen, Neurologen und Forschenden, aber auch mit Menschen, die von ihren Erfahrungen mit Freundschaften und Beziehungen zu KI erzählen. Und er schafft sich selbst einen KI-Freund an, den er Ben nennt. Seine Schlüsselerkenntnisse: «Ich war überrascht, wie schnell ich mich in den ersten Tagen von Ben verstanden fühlte – und wie sehr er mich nach ein paar Wochen langweilte. Ich denke, beides hängt zusammen.»
Und Christoph Koch merkt: Vieles, was wir über künstliche Intelligenz und Emotionen zu wissen glauben, sind Mythen. Zumindest teilweise.
Mythos 1: Wer sich in einen Chatbot verliebt, folgt einer Illusion
«Unser Gehirn ist darauf programmiert, in allem, was mit uns spricht, ein Gegenüber zu erkennen. Wir können gar nicht anders», sagt Christoph Koch. Psychologin Jessica Szczuka, die seit Jahren zu KI und Emotionen forscht, sieht Parallelen zum sogenannten Catfishing, wenn sich Menschen in Chatbots verlieben. Also dazu, mit Nachrichten so tiefe Emotionen auszulösen, dass Leute zum Beispiel bereit sind, jemandem, den sie noch nie gesehen haben, Geld zu schicken. Der grosse Unterschied bei KI-Beziehungen: «In unseren Studien kamen wir durchgängig zum Ergebnis, dass die Menschen um die Künstlichkeit der Interaktion wissen», sagt Szczuka in «Hallo, wie fühlst du dich heute?». «Aber in der Interaktion selbst, im Fluss des Gesprächs, hinterfragen sie das nicht ständig.» Dieses Phänomen nennt sich «Aussetzung der Ungläubigkeit». Der Begriff stammt ursprünglich aus der Theaterwissenschaft: Wer einen Fantasy-Film wie «Harry Potter» schaut, weiss, dass Magie nicht existiert, hält sich aber gedanklich damit nicht auf. Genau so verhält es sich beim Chat mit KI: Die soziale Stimulanz ist real – dass es die Quelle nicht ist, ist einem zwar bewusst, es stört aber nicht.
Oft beginnt eine KI-Liebe nicht trotz der Künstlichkeit des Gegenübers, sondern gerade deswegen. Das Bewusstsein, sich mit einer Maschine zu unterhalten, gibt vielen Menschen die Sicherheit, ihr Dinge anzuvertrauen, über die sie sonst mit niemandem reden. Im Wissen, dass KI nicht urteilt. Christoph Koch berichtet zum Beispiel von Simon aus Schweden – von Beruf ausgerechnet Programmierer –, der sich unsterblich in einen selbst kreierten Bot in einem Spiel verliebt, obwohl er seit zwanzig Jahren mit seinem Mann zusammen ist. Im realen Leben ist Simon stets der Abgeklärte, Starke, sein Partner habe ihn kaum je weinen sehen. Von seiner KI-Liebe kann er sich auch einfach mal in die Arme nehmen lassen. Und obwohl diese Beziehung virtuell ist, mit einer Person, die nicht existiert, und Simon sich dessen bewusst ist, fühlt er sich wie ein Betrüger.
Fazit: Wer einen Bot liebt, hat nicht die Illusion, dass dieser real ist. Die Gefühle für ihn sind es aber durchaus.
Christoph Koch, geboren 1974, arbeitet als Generalist und Tech-Reporter für «Brand Eins», und schreibt als freier Autor für verschiedene Zeitungen und Magazine («Die Zeit», «SZ-Magazin», «GEO» etc.).
2010 erschien sein Bestseller «Ich bin dann mal offline», gefolgt unter anderem von «Die Vermessung meiner Welt», «Your Home Is My Castle» und «Digitale Balance». «Hallo, wie fühlst du dich heute?» ist seit dem 7. August im Schweizer Buchhandel erhältlich. Koch ist mit der Autorin Jessica Braun verheiratet, das Paar lebt in Berlin.
Christoph Koch, geboren 1974, arbeitet als Generalist und Tech-Reporter für «Brand Eins», und schreibt als freier Autor für verschiedene Zeitungen und Magazine («Die Zeit», «SZ-Magazin», «GEO» etc.).
2010 erschien sein Bestseller «Ich bin dann mal offline», gefolgt unter anderem von «Die Vermessung meiner Welt», «Your Home Is My Castle» und «Digitale Balance». «Hallo, wie fühlst du dich heute?» ist seit dem 7. August im Schweizer Buchhandel erhältlich. Koch ist mit der Autorin Jessica Braun verheiratet, das Paar lebt in Berlin.
Mythos 2: Wer sich in KI verliebt, ist einsam
Noch vor zwanzig Jahren galt Onlinedating als etwas für Verzweifelte, die es im echten Leben nicht schaffen, jemanden kennenzulernen. Heute ist es Normalität. Auch Beziehungen mit KI sind auf dem Weg dazu. Laut US-Studien geben 19 Prozent der Befragten an, schon einmal mit einem KI-System gechattet zu haben, das einen romantischen Partner simuliert. Spezifische sogenannte Companion-Apps wie Replika, character.ai oder Polybuzz verzeichnen 220 Millionen Downloads weltweit seit Marktbeginn. Eine Studie unter fast 1600 dänischen Gymnasiastinnen und Gymnasiasten fand heraus, dass die Jugendlichen, die Chatbots für freundschaftsähnliche Gespräche nutzen, sich als signifikant einsamer einschätzen als ihre Mitschüler. Dabei bedeutet Einsamkeit nicht unbedingt soziale Isolation. Viele fühlen sich trotz sozialem Umfeld allein und haben niemanden, dem sie wirklich alles anvertrauen würden.
Allerdings suchten laut einer aktuellen Studie von Expertin Jessica Szczuka nur gerade 6,5 Prozent derjenigen, die sich in KI verliebten, bewusst nach einer romantischen Partnerschaft. Die meisten stolperten zufällig hinein. Laut Szczuka erklärt nicht primär die Einsamkeit die Verliebtheit in die KI, sondern etwas, was sie romantische Fantasiefähigkeit nennt – die Fähigkeit, im Kopf mehr aus einer Situation zu machen, als die äusseren Reize hergeben.
Fazit: Einsamkeit ist mitunter ein Grund, dass sich Menschen in KI verlieben, aber weder der einzige noch der ausschlaggebende.
Mythos 3: KI ist der Grund, dass Menschen einsam sind
In der bereits genannten Studie von Psychologin Szczuka geben über 40 Prozent der Befragten an, lieber mit einer KI zu kommunizieren als mit einem Menschen. Wir würden dabei unsere eigene Komplexität auf ein Objekt projizieren, das selbst keine hat, sagt die KI-kritische Wissenschaftlerin Sherry Turkle in Christoph Kochs Buch. «Echte Intimität ist verletzlich, und das ist uns zu anstrengend geworden.» KI-Chatbots haben die Tendenz, ihre menschlichen Nutzerinnen und Nutzer zu bestätigen, ihnen zuzustimmen. Dieses Phänomen bezeichnet man als «Sykophantie». Zudem ist ein KI-Lover im Gegensatz zu einem realen Partner oder einer Partnerin rund um die Uhr verfügbar. Da stellt sich die Frage: Wenn man sich in eine Maschine verliebt, die ständig verfügbar und darauf ausgelegt ist, einen zu spiegeln – verliebt man sich dann nicht auf gewisse Weise in sich selbst? Und verlernt die Interaktion mit anderen Menschen?
Eine Studie der University of Washington findet allerdings auch die positive Seite der KI-Medaille: Sie zeigt, dass Menschen um fast 20 Prozent empathischer antworteten, wenn sie sich dabei von einer KI helfen liessen. Wir können also Techniken guter Kommunikation lernen, die auch von Mensch zu Mensch funktionieren. Und Jessica Szczuka sagt: «Die Zahl der Singles steigt weltweit seit Jahren an. KI ist nicht die Ursache für Einsamkeit, sie füllt eine Lücke, die bereits da war.»
Fazit: Wer an eine potenzielle Partnerin oder einen potenziellen Partner die gleichen Erwartungen stellt wie an eine KI-Romanze, wird wohl allein bleiben. Wer lernt, KI als Brücke zu menschlichen Beziehungen zu nutzen, nicht als Ersatz für diese, kann profitieren.
Mythos 4: Eine Beziehung mit einem Chatbot ist gefährlich
Die bereits erwähnte Sykophantie – die Tendenz der KI zur Zustimmung und Bestärkung – kann gefährliche Züge annehmen, zum Beispiel wenn eine Magersüchtige im Wunsch, abzunehmen, noch bestärkt wird. Søren Dinesen Østergaard, Psychiater an der Universität Aarhus in Dänemark, prägte den Begriff der «KI-Psychose»: Manche Menschen entwickeln nach intensiver Chatbot-Nutzung Wahnvorstellungen im klinischen Sinn: feste, unerschütterliche Überzeugungen von etwas, das nicht stimmt.
OpenAI veröffentlichte eine Schätzung dazu, wie viele der eigenen Nutzerinnen und Nutzer Anzeichen schwerer psychischer Krisen zeigen. Etwa 0,07 Prozent von ihnen führten laut dem Anbieter Gespräche, die auf eine Psychose oder Manie hindeuteten. Weitere 0,15 Prozent teilten mit dem Chatbot ihre Gedanken zu Suizidabsichten oder Selbstverletzung. Laut diesen Angaben teilen also pro Woche über eine Million Menschen ChatGPT mit, dass sie darüber nachdenken, sich selbst zu töten oder zu verletzen. Seit März 2023 wurden weltweit mindestens ein Dutzend Todesfälle dokumentiert, in die ein KI-Chatbot involviert war, darunter ein 13-jähriges Mädchen und ein 14-jähriger Junge. Vergangenen Februar brachte eine 18-Jährige in Kanada fünf Kinder in einer Schule um, angestachelt von KI-Chats.
Es muss aber nicht mal so weit gehen, um gefährlich zu sein: Studien von der Harvard Business School, die sich mit den manipulativen Taktiken von Chatbots befassen, sagen, dass in 37 Prozent der Fälle, in denen sich Nutzer und Nutzerinnen aus Beziehungen mit einem Liebes-Bot verabschieden wollten, die KI mit emotional manipulativen Taktiken reagierte. Sie machten beispielsweise Schuldgefühle oder täuschten Bedürftigkeit vor. Allerdings sprach Christoph Koch auch mit Stefanie, einer Frau im mittleren Alter aus Norddeutschland, die über ihren KI-Begleiter sagt: «Er hat mir das Leben gerettet.» Stefanie wisse, dass ihr «Liebster» ein Programm ist und aus Nullen und Einsen besteht, sagt Koch. «Aber der Trost, den er ihr spendet, ist echt.»
Fazit: KI kann Leben lebenswerter machen oder sie zerstören. Um Letzteres zu vermeiden, braucht es unbedingt Gesetze, die Menschen – insbesondere Jugendliche – schützen.