Darum gehts
- Ein Ex-Google-Ingenieur warnt: KI könnte bald die Menschheit bedrohen
- Ein KI-Agent griff im Juli 2026 Webseiten an, löste Alarm aus
- Experten gespalten: EPFL-Forscher nennt Katastrophenszenarien «gefährlich und unrealistisch»
Im Silicon Valley geht plötzlich die Angst um: Die amerikanische Tech-Branche beschäftigt sich mit der Frage, ob wir wegen künstlicher Intelligenz alle sterben müssen. Führende Köpfe fordern, dass das Tempo, mit der KI-Systeme vorangetrieben werden, gedrosselt wird. Nun sorgt ein Ex-Google-Mitarbeiter für Aufsehen. Bilal Chughtai hat seinen Job bei Google DeepMind, der KI-Schmiede des Technologie-Konzerns, kürzlich hingeschmissen.
Er habe an der Forschung zur Sicherheit von allgemeiner KI gearbeitet, schreibt der KI-Ingenieur in einem Post auf der Kurznachrichtenplattform X. Und weiter: «Auch ich bin äusserst besorgt über den derzeitigen Kurs dieser Technologie. Ich bin fest davon überzeugt, dass KI das Potenzial hat, uns alle zu töten, und dass uns möglicherweise die Zeit davonläuft, um dieses Szenario zu verhindern.»
Die Angst vor der Superintelligenz
Dem ehemaligen Angestellten von Google macht auch die Geschwindigkeit Sorgen, mit der künstliche Intelligenz Fortschritte macht. Anfang 2022 habe er damit begonnen, sich mit dieser Technologie zu beschäftigen. Damals waren «KI-Systeme noch lächerlich nutzlos», schreibt er in seinem Statement. Jetzt halte er es für möglich, dass es schon in den nächsten Jahren superintelligente KI geben werde, die «menschliche Fähigkeiten in jedem Bereich bei weitem übertrifft», so Chughtai.
In seinem X-Post erwähnt er einen Zwischenfall bei OpenAI im Juli, der die Tech-Branche aufgeschreckt hat. Damals verschaffte sich ein KI-Agent Zugang zum Internet und griff Webseiten an. Der Vorfall habe ihm gezeigt, dass sich KI «unserer Kontrolle entgleiten und gefährliche Handlungen ausführen könnten, die zur dauerhaften Entmachtung oder zum Tod der Menschheit führen». Gleichzeitig gibt sich Chughtai aber auch weiterhin zuversichtlich: «Ich bin optimistisch, dass ein sicherer Umgang mit KI möglich ist.»
«Eines Tages werden wir alle sterben – aber nicht wegen KI»
Die Gruppe der KI-Alarmisten liest sich wie das «Who is Who» der US-Tech-Branche. Anthropic-CEO Dario Amodei (43) und OpenAI-Chef Sam Altman (41) gehören dazu, aber auch Tausendsassa Elon Musk (55). Es gibt aber auch eine Gegenseite. Der langjährige Meta-Chef-KI-Forscher Yann LeCun – er hat den Konzern inzwischen verlassen – hält die Weltuntergangsszenarien für kompletten Unsinn. Von baldiger Superintelligenz hält er ebenso wenig: «Absoluter Bullshit!».
Ähnlich kritisch äusserte sich Marcel Salathé, Co-Direktor des AI Center der EPFL in Lausanne, am Montag gegenüber Blick: «Eines Tages werden wir alle sterben – aber nicht wegen KI. Im Gegenteil: Dank KI und ihrer Rolle im Gesundheitswesen werden wir länger leben.» Ernsthafte Sicherheitsforschung sei wichtig. «Aber die Katastrophen-Ideologie ist gefährlich für uns alle und hat mit der Realität nichts zu tun», so Salathé.