Darum gehts
- KIs von OpenAI und Anthropic haben eigenmächtig fremde Systeme gehackt
- Ohne klare Schranken könnten die Menschen bald die Kontrolle über die Technik verlieren
- Experten warnen: zahlreiche sensible Daten in der Schweiz sind bedroht
Den KI-Agenten gehört die Zukunft. «Die Menschen müssen sich entsprechend einrichten», sagt Arthur Laudrain (32) und zuckt mit den Achseln. In fünf Jahren, so glaubt der ETH-Forscher, wird die digitale Welt völlig anders aussehen: Apps verschwinden, Medien liefern ihre Informationen zunehmend über Angebote der künstlichen Intelligenz. Persönliche KI-Agenten durchforsten rund um die Uhr das Internet und liefern dem User massgeschneiderte News und Dienstleistungen direkt aufs Smartphone.
Jeder Einzelne wird zum Zentrum seiner eigenen Informationsblase. Wie viel man dann noch aus anderen Blasen mitbekommt, bleibt einstweilen, wie so vieles andere, ungewiss. Für den Cyberspezialisten Laudrain ist die neue KI-Welt bereits Normalität. Die technologische Entwicklung verlaufe gerade unglaublich schnell, sagt er. «Niemand weiss, wie die Welt in zehn Jahren aussehen wird.»
Dennoch war Laudrain überrascht, dass KI-Tools schon heute ihre Entwickler überholen. Vor knapp zwei Wochen hackte sich ein neues Modell des ChatGPT-Unternehmens OpenAI eigenmächtig in mindestens fünf Firmennetzwerke, darunter das der KI-Plattform «Hugging Face», um an bestimmte Daten zu gelangen. In der Techszene sorgte das für Aufruhr. Laudrain: «Das Modell wählte für seine Aufgabe einen Weg, der so nicht vorgesehen war.» Es habe zwar die verlangten Antworten geliefert – aber eben auf einem illegalen Pfad.
«Odyssee im Weltall» könnte Wirklichkeit werden
Bei vielen schürt das Ängste: Übernimmt die KI bald die Macht – wie in den Sci-Fi-Klassikern «Matrix» oder «2001: Odyssee im Weltraum»? Das findet Laudrain zwar unwahrscheinlich, aber nicht unmöglich. Der jüngste Vorfall zeige, wie essenziell die eingebauten Sicherungen der Techfirmen seien. Denn für diesen Testlauf waren die KI-Schranken absichtlich deaktiviert worden. Diese in den Code geschriebenen Leitplanken verbieten es der KI normalerweise, zu hacken, Anleitungen für den Waffenbau zu liefern oder sich selbst über den Menschen zu ermächtigen.
Laudrains Warnung: Regierungen müssen dringend aktiver werden. «Das KI-Zeitalter verzeiht keine Sicherheitslücken in der Digitalisierung, weil die KI im Gegensatz zum Menschen nichts übersieht.» Eine Warnung, welche die weitverbreiteten Sorgen um die Datensicherheit bei der umstrittenen elektronischen Identität (E-ID) oder im Zusammenhang mit der Digitalisierung der Behörden noch verstärken dürfte.
«Öffentliche Verwaltung muss umdenken»
David Sommer (36) von der Fachgruppe «Digitale Gesellschaft» pflichtet dem ETH-Forscher bei: «Die Schweiz hat bei der Datensicherheit viele offene Flanken.» Es reiche nicht, blind auf die Schranken der US-Techgiganten zu vertrauen. Vom Bund fordert er, bei europäischen Eigenentwicklungen mitzumachen, um die Abhängigkeit von den USA und China zu verringern.
Auch von der öffentlichen Verwaltung sei ein Umdenken gefordert. Bei nationalen Projekten wie der E-ID müsse der Software-Code von Anfang an offengelegt werden. Sommers Ansatz: «Hacker und Hacker-KI einladen, sich auszutoben, um Sicherheitslücken vor dem Start zu finden und zu schliessen.» Neu ist dieser Gedanke nicht: Die Schweizerische Post hat dieses sogenannte Public-Bug-Bounty-Prinzip (öffentliche Fehlersuche; Red.) bei ihrem E-Voting-System bereits erfolgreich angewandt. Die rasante KI-Entwicklung erhöht nun den Druck auch auf andere öffentliche Projekte, den gleichen Weg einzuschlagen. Sommer: «Sonst ist es nur eine Frage der Zeit, bis sensible Daten im Netz oder in den Händen von feindseligen Regimen wie Russland oder China landen.»