Darum gehts
Werden wir wegen KI alle sterben? Diese Frage treibt seit einer Woche das Silicon Valley um. Auslöser waren fünf Sätze auf x.com mit heute 170 Millionen Views. Der KI-Forscher Jacob Coxon (27) kündigte öffentlich bei Anthropic, der Firma hinter dem Chatbot Claude. «Diejenigen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts auslöschen könnte», schrieb er. Die Branche trete jetzt ins «Endspiel» ein. Sein Vorwurf: Die Firmen rasen «geradewegs auf selbstverbessernde Superintelligenz» zu «und spielen mit unserem Leben».
Und es bleibt nicht bei Aussteigern. Auch die CEOs der grossen KI-Firmen schlagen Alarm: Dario Amodei, Sam Altman, Elon Musk. Ausgerechnet die Männer, die Milliarden mit der Technologie verdienen, warnen vor ihr. Marcel Salathé, Co-Direktor des AI Center der EPFL in Lausanne, hält dagegen: «Eines Tages werden wir alle sterben – aber nicht wegen KI. Im Gegenteil: Dank KI und ihrer Rolle im Gesundheitswesen werden wir länger leben.»
Marcel Salathé (50) ist Professor an der EPFL in Lausanne und heute Co-Direktor des AI Center, eines der wichtigsten Forschungszentren der Schweiz. Der Basler forscht seit über einem Jahrzehnt zu künstlicher Intelligenz (KI). Sein Fachgebiet ist die digitale Epidemiologie, kurz die Auswertung riesiger Datenmengen mit maschinellem Lernen. Einem breiten Publikum wurde er während der Corona-Pandemie bekannt, als er die Entwicklung der Swisscovid-App leitete und in der Covid-Taskforce des Bundes sass. 2025 erschien sein Buch «Kompass Künstliche Intelligenz» – eine Einführung ins Thema für Laien.
Marcel Salathé (50) ist Professor an der EPFL in Lausanne und heute Co-Direktor des AI Center, eines der wichtigsten Forschungszentren der Schweiz. Der Basler forscht seit über einem Jahrzehnt zu künstlicher Intelligenz (KI). Sein Fachgebiet ist die digitale Epidemiologie, kurz die Auswertung riesiger Datenmengen mit maschinellem Lernen. Einem breiten Publikum wurde er während der Corona-Pandemie bekannt, als er die Entwicklung der Swisscovid-App leitete und in der Covid-Taskforce des Bundes sass. 2025 erschien sein Buch «Kompass Künstliche Intelligenz» – eine Einführung ins Thema für Laien.
Was steckt hinter der Angst vor KI?
Coxon steht nicht allein da. Evan Hubinger, Leiter der Sicherheitsforschung bei Anthropic, doppelte auf x.com nach: Die Wahrscheinlichkeit, dass KI innert zehn Jahren alle Menschen tötet, liege bei über zehn Prozent. Pikant: Hubinger warnt seit 2022 mit fast identischen Worten – damals war Anthropic ein Start-up, heute ist die Firma rund 965 Milliarden Dollar wert. Auch Pioniere wie Physik-Nobelpreisträger Geoffrey Hinton mahnen seit Jahren.
Andere winken ab: Der langjährige Meta-Chef-KI-Forscher Yann LeCun – er hat den Konzern inzwischen verlassen – hält solche Szenarien für kompletten Unsinn. Von baldiger Superintelligenz hält er ebenso wenig: «Absoluter Bullshit!». Und Hubingers zehn Prozent? Salathé winkt ab: «Das ist ein Bauchgefühl ohne jede wissenschaftliche Grundlage. Ernsthafte Sicherheitsforschung ist wichtig. Aber die Katastrophen-Ideologie ist gefährlich für uns alle und hat mit der Realität nichts zu tun.»
Stimmt es, dass KI bereits Firmen gehackt hat?
Ja – und diese Vorfälle befeuern die Angst. Im Sommer räumten OpenAI, Meta und Anthropic ein, dass ihre KI-Agenten in fremde Firmennetze eindrangen. Solche Agenten sind Programme, die nicht nur Fragen beantworten, sondern selbständig handeln: Sie bedienen Software, schreiben Code, klicken sich durchs Internet. «Die Angriffe hat aber nicht die KI selbst gestartet, sondern OpenAI und andere Akteure. Die Agenten haben sie dann ausgeführt – durchaus auf überraschende Art», sagt Salathé. Ähnlich sieht es Stephanie Gygax von der Schweizer Tech-NGO Algorithmwatch CH: «Dass ein Modell ausbricht, ist keine autonome Handlung. Fähigkeit ist nicht gleich Autonomie», erklärte sie gegenüber SRF.
Verlieren wir die Kontrolle über das Internet?
Anthropic-Chef Dario Amodei warnte am Wochenende in seinem Essay: In sechs bis zwölf Monaten könnten KI-Agenten bei einer Attacke das gesamte Internet übernehmen. Salathé glaubt nicht daran: «Wer eine neue Technologie beherrscht, die stärker ist als die bisherige, kann viel Macht erlangen. Aber andere Menschen nutzen diese Technologie ebenfalls. Das Internet wird auch in zwölf Monaten gut funktionieren.»
Muss ich um E-Banking und Passwörter fürchten?
«Im Internet soll man immer vorsichtig sein», sagt Salathé. «Für Passwörter sollte man unbedingt einen Passwortmanager benutzen.» Also ein Programm, das für jeden Dienst ein eigenes, starkes Passwort erzeugt und verschlüsselt speichert – merken muss man sich nur noch ein Hauptpasswort. Ums Konto sorgt sich der Experte nicht: «Das E-Banking ist sicher, solange auch die Banken weiter aktiv in die Cybersicherheit investieren – auch mit KI.»
Was können die KI-Modelle heute wirklich?
«Sie können schon viel, sie sind Meister der Logik», erklärt Salathé. «Deshalb sind sie so gut im Programmieren und in der Mathematik. Und sie können zusammenarbeiten.» Nur: Revolutionär sei das nicht. «Vieles davon ist überhaupt nicht neu – Software kann das schon lange. Es nimmt jetzt einfach eine neue Dynamik an.» Dass uns die Technologie plötzlich unheimlich wird, erklärt er mit einem Bild: «Weil die KI Sprache benutzt, empfinden wir sie zunehmend als menschlich. Das ist, als würde man einem Flugzeug zwei Augen und einen Mund aufmalen: Man hat sofort das Gefühl, die Maschine sei irgendwie lebendig.»
Gibt es die Superintelligenz überhaupt schon?
Gemeint ist mit Superintelligenz gemeinhin eine KI, die den Menschen geistig übertrifft – nicht nur in einer Aufgabe, sondern auf breiter Front. Das Problem: «Jeder meint etwas anderes darunter, weil es keine allgemein akzeptierte Definition gibt», sagt Salathé. «In gewissen Bereichen sind wir schon lange dort – seit den ersten Rechnern! In vielen Bereichen kann die KI noch überhaupt nichts.»
Warum werfen KI-Forscher dann ihre Jobs hin?
Coxon verzichtete laut US-Medien auf Firmenanteile, um jetzt warnen zu können. Vor ihm kündigte ein anderer Anthropic-Forscher im Februar öffentlich – er widmet sich jetzt der Poesie in England. Solche Abgänge sprechen eigentlich gegen blosses Marketing: Wer nur Wirbel machen will, lässt keine Millionen liegen. Salathé nimmt die Abgänge trotzdem gelassen: «Gedichte schreiben finde ich gut, das bringt der Gesellschaft manchmal mehr als ein neues Gadget.» Tatsächlich vergleicht sich die KI-Branche gern mit Atomphysikern aus dem letzten Jahrhundert: Das «New York Magazine» nannte Sam Altman schon 2023 den «Oppenheimer unserer Zeit». Altman selbst betont, dass er mit dem Erfinder der Atombombe den Geburtstag teilt. Für Salathé ist genau das der Denkfehler: «Oppenheimer hatte tatsächlich eine Todesmaschine gebaut: mit Absicht und Auftrag. Die KI mit einer Atombombe zu verwechseln, ist ein kategorischer Fehler.»
Warum vertagt OpenAI seinen Börsengang?
Sam Altman sagte im Wirtschaftsmagazin «Fortune», ein Börsengang sei 2026 «nicht angebracht». Es gebe zu viel zu tun, vor allem bei der Sicherheit. Die Vertagung hat Gewicht: Mit einem geschätzten Wert von einer Billion Dollar – 1000 Milliarden – wäre es einer der grössten Börsengänge der Geschichte gewesen. Salathé glaubt die Begründung «nicht mal für eine Sekunde». Er verweist auf die Finanzchefin von OpenAI: «Sie hat schon im August gesagt, man plane den Börsengang für 2027. Man darf hier nicht leichtgläubig sein.»
Warum sollten die Firmen ihre eigene Technologie schlechtreden?
Für Salathé steckt Kalkül dahinter: «Ich denke, es ist vor allem der Wunsch nach regulatorischem Schutz. Das Geschäftsmodell hängt auch davon ab, wie viel Konkurrenz es gibt.» Die Logik: Wer bei strengen Regeln mitredet, baut Hürden, die etablierte US-Firmen stemmen können – kleinere Anbieter und die Konkurrenz aus China aber kaum. Dass die lauten Warnungen genau darauf zielen könnten? «Sehe ich genau so», sagt Salathé.
Wer soll das KI-Rennen jetzt bremsen?
Über 1300 Forscherinnen und Programmierer fordern per Petition, dass die US-Regierung die Branche reguliert. In Washington haben Senator Bernie Sanders und der Abgeordnete Greg Casar ein Gesetz vorgelegt, das die Entwicklung von Superintelligenz gleich ganz verbieten will. Präsident Trump liess die Branche bisher bewusst gewähren. Salathé hält vom Ruf nach der Entwicklungsbremse wenig: «Wenn die Firmen das Tempo drosseln wollen, können sie das ja tun. Wieso soll da der Staat eingreifen?» Dessen Rolle sei eine andere: «Er muss die KI-Firmen angemessen bestrafen, wenn ihre Software hackt oder andere Schäden anrichtet. Da lässt man im Moment viel zu viel durchgehen.» Die Firmen deklarieren die Vorfälle als Sicherheitstests, die sie selbst publik machten. Salathé genügt das nicht: «Es ist unglaublich: Diese Firmen schicken KI-Agenten los, um andere Firmen zu hacken – und kriegen dafür gratis PR statt massiver Strafen.» Die wirkliche Sorge der Konzerne sei nicht der Weltuntergang: «Sondern dass ihre Software Schäden anrichtet, die sie finanziell stark bedrohen könnten.» Gygax von Algorithmwatch geht das zu wenig weit. Erst bestrafen, wenn der Schaden da ist? «Unternehmen müssen gesetzlich verpflichtet werden, Risiken lückenlos offenzulegen – und zwar zwingend vor dem Marktstart», sagte sie zu SRF.
Was ist denn nun die echte Gefahr?
Nicht der Killerroboter, sagt Salathé, sondern die Frage, wer die Technologie kontrolliert: «KI wird garantiert in die Hände von Diktatoren fallen. Und die Schweiz wird sich schlecht behaupten können, wenn sie sich keine eigenständige KI leisten will, die an der Spitze mithalten kann. Das macht mir Sorgen.»