Kurz vor der Abreise seiner Tochter für einen Sprachaufenthalt in Frankreich erkundigt sich der Vater beim Mobilfunkanbieter GoMo über die Roaminggebühren im Land. Auskunft gibt ihm kein Mensch, sondern ein Computer. Genauer: ein von künstlicher Intelligenz gesteuerter Chatbot. Dieser «sagt» dem Vater, dass im Abo der Tochter bis zu drei Gigabyte Daten inklusive seien.
Obwohl die Teenagerin deutlich weniger davon verbraucht, erhält sie nach ihrer Rückkehr eine Roamingrechnung über 44 Franken. Der Vater reklamiert. Doch statt den Fehler einzugestehen, will GoMo die Kosten nur erlassen, wenn die Tochter zu einem fünf Franken teureren Abo wechselt. Erst nachdem sich das SRF-Konsumentenmagazin «Espresso» eingeschaltet hat, lenkt der Mutterkonzern Salt ein. Der Chatbot hatte zwei Informationen verwechselt, weshalb das Geld nun doch zurückerstattet wird.
Das ist ein Beitrag aus dem «Beobachter». Das Magazin berichtet ohne Scheuklappen – und hilft Ihnen, Zeit, Geld und Nerven zu sparen.
Das ist ein Beitrag aus dem «Beobachter». Das Magazin berichtet ohne Scheuklappen – und hilft Ihnen, Zeit, Geld und Nerven zu sparen.
Der Betrag ist zwar klein. Aber der Fall zeigt ein Problem: Wer trägt die Verantwortung, wenn künstliche Intelligenz Fehler macht?
Der Chatbot ist schuld!
Die naheliegende Antwort – der Chatbot ist schuld – hält juristisch nicht stand. Ein Algorithmus kann nicht zur Verantwortung gezogen werden. Verantwortlich bleiben Menschen und Unternehmen, die KI entwickeln, anbieten oder einsetzen.
Das können Betroffene tun, wenn sie vermuten, dass eine KI eine falsche Entscheidung getroffen oder eine falsche Auskunft gegeben hat:
- Einsatz erfragen: Wenn du vermutest, dass eine KI an einer Entscheidung beteiligt war, frage beim Unternehmen nach, ob und wie ein automatisiertes System eingesetzt wurde.
- Menschliche Überprüfung verlangen: Bei bestimmten automatisierten Einzelentscheiden gibt das Datenschutzgesetz Betroffenen das Recht, ihren Standpunkt darzulegen und eine Überprüfung durch einen Menschen zu verlangen.
- Beweise sammeln: Speichere Chatverläufe, Entscheide, E-Mails und Screenshots. Sie können später wichtig sein, um einen Fehler nachzuweisen.
- Datengrundlage anfordern: Frage nach, welche Informationen oder Daten zur Entscheidung geführt haben und ob falsche oder veraltete Daten verwendet worden sind.
- Sich nicht abwimmeln lassen: Eine erste Ablehnung muss nicht das letzte Wort sein. Je nach Fall können Ombudsstellen wie die Ombudscom oder das Beratungszentrum des Beobachters vermitteln oder weiterhelfen.
Das können Betroffene tun, wenn sie vermuten, dass eine KI eine falsche Entscheidung getroffen oder eine falsche Auskunft gegeben hat:
- Einsatz erfragen: Wenn du vermutest, dass eine KI an einer Entscheidung beteiligt war, frage beim Unternehmen nach, ob und wie ein automatisiertes System eingesetzt wurde.
- Menschliche Überprüfung verlangen: Bei bestimmten automatisierten Einzelentscheiden gibt das Datenschutzgesetz Betroffenen das Recht, ihren Standpunkt darzulegen und eine Überprüfung durch einen Menschen zu verlangen.
- Beweise sammeln: Speichere Chatverläufe, Entscheide, E-Mails und Screenshots. Sie können später wichtig sein, um einen Fehler nachzuweisen.
- Datengrundlage anfordern: Frage nach, welche Informationen oder Daten zur Entscheidung geführt haben und ob falsche oder veraltete Daten verwendet worden sind.
- Sich nicht abwimmeln lassen: Eine erste Ablehnung muss nicht das letzte Wort sein. Je nach Fall können Ombudsstellen wie die Ombudscom oder das Beratungszentrum des Beobachters vermitteln oder weiterhelfen.
Das bedeutet aber nicht, dass Firmen für alle KI-Fehler unbegrenzt haften. Mit Verträgen und allgemeinen Geschäftsbedingungen (AGB) lässt sich die Haftung einschränken. Aber nicht in jedem Fall. Laut Artikel 100 des Obligationenrechts kann die Haftung für Absicht oder grobe Fahrlässigkeit nicht im Voraus ausgeschlossen werden. Es hängt also immer vom konkreten Fall ab, ob ein Unternehmen für einen Fehler der künstlichen Intelligenz einstehen muss.
Genügen die heutigen Gesetze?
Neue Gesetze brauche es deswegen trotzdem nicht, wie das Bundesamt für Justiz (BJ) auf Anfrage des Beobachters festhält. Das Schweizer Haftpflichtrecht sei grundsätzlich «gut geeignet, technische Entwicklungen aufzufangen». Die bestehenden Regeln seien flexibel genug, um auch bei neuen Technologien im konkreten Fall zu klären, wer für einen Schaden einstehen muss. Der Bundesrat habe sich «mehrfach gegen spezifische Gesetzesänderungen» ausgesprochen, so das BJ.
Auch das Datenschutzgesetz «gilt uneingeschränkt für Systeme der künstlichen Intelligenz», so der eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (Edöb), weil es technologieneutral ausgestaltet sei. Gegenüber dem Beobachter hält der Edöb fest: «Die Unternehmen bleiben vollumfänglich verantwortlich für die Datenbearbeitungen und die mit Hilfe der KI getroffenen Entscheide.»
Je komplexer die KI, umso komplexer die Haftungsfragen
Dann ist ja alles klar, und die Fragen der Haftung sind kein Problem? In der Praxis ist es dann doch nicht so einfach. Je selbständiger und komplexer ein KI-System ist, desto schwieriger wird es, Fehler zuzuordnen.
Isabelle Wildhaber, Professorin für Privat- und Wirtschaftsrecht an der Universität St. Gallen, sieht drei Hürden: den Nachweis einer Sorgfaltspflichtverletzung, den Beweis, dass genau dieser KI-Fehler den Schaden verursacht hat, und die Aufteilung der Haftung aller Beteiligten, also zwischen Softwareentwicklern, Anwendern und Datenlieferanten.
Der Edöb bestätigt das Problem: Bei komplexen KI-Systemen sei oft schwer nachvollziehbar, wie ein Ergebnis zustande gekommen ist und wer dafür die Verantwortung trägt. Deshalb müsse der Einsatz solcher Systeme transparent sein, und die Risiken müssten im Voraus geprüft werden.
Der Bund plant weitere Regeln
Ein eigenes KI-Haftungsrecht hält der Bund also nicht für nötig. Das bedeutet aber nicht, dass das Schweizer Recht unverändert bleibt.
Der Bundesrat will die KI-Konvention des Europarats ratifizieren und dafür bestehende Regeln unter anderem zu Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht anpassen. «Die Vernehmlassung ist für Frühling 2027 vorgesehen», so das BJ. Auch beim Produkthaftpflichtgesetz sieht die Behörde Anpassungsbedarf.
Wenn KI über Menschen entscheidet
Warum diese Fragen relevant sind, zeigt sich dort, wo KI bereits heute den Alltag von Menschen beeinflusst. Vier Beispiele aus unterschiedlichen Bereichen:
- Stellenbewerbungen: KI kann Lebensläufe vorsortieren und Bewerberinnen und Bewerber bewerten. Die NGO Algorithmwatch zeigte in einem Experiment, dass die KI Bewerbungen aufgrund der Namen unterschiedlich beurteilt. In der Schweiz nutzen etwa die SBB und die Post algorithmische Systeme in der Personalauswahl. Für Betroffene ist eine mögliche Benachteiligung schwer zu erkennen, wenn sie gar nicht wissen, dass KI beteiligt war.
- Medizin: Ein Forschungsteam unter der Leitung des Inselspitals Bern untersuchte an vier Schweizer Notaufnahmen mit 1204 Patienten eine KI-basierte Diagnosehilfe. Die KI-Unterstützung verbesserte die diagnostische Qualität nicht messbar; sowohl mit als auch ohne KI gab es bei 18 Prozent der Patientinnen und Patienten Hinweise auf Mängel bei der Diagnose. Wenn eine falsche KI-Empfehlung zu einem Schaden führt, stellt sich die Frage, wem dieser zugerechnet werden kann, zum Beispiel der Ärztin, dem Spital oder dem Anbieter der Software.
- Versicherungen: Am Baselhack 2025 entwickelte die Schweizer IT-Firma Nag Informatik für die Pax-Versicherung einen Prototyp, der Lebensversicherungsanträge automatisch als Annahme, Risikozuschlag, weitere Abklärung oder Ablehnung klassifizierte. Das System arbeitete mit synthetischen Daten und wurde nicht produktiv eingesetzt; es zeigt aber, welche Entscheide künftig automatisiert werden könnten.
- Autonomes Fahren: Postauto testet in der Ostschweiz automatisierte Fahrzeuge. Seit Juni 2026 dürfen sie mit Sicherheitsfahrern im realen Verkehr fahren, ab 2027 ist der reguläre Betrieb mit bis zu 25 Fahrzeugen geplant. Für Unfälle verweist das Bundesamt für Justiz gegenüber dem Beobachter auf bestehende Gefährdungshaftungen und Versicherungspflichten, die auch bei automatisiertem Fahren Haftungslücken verhindern könnten.
Was heisst das nun im Fall GoMo?
Im Fall von GoMo war klar, dass eine KI beteiligt war: Der Vater hatte die Antwort des Chatbots und die Rechnung vor sich. Er konnte den Fehler erkennen, sich beschweren und bekam sein Geld schliesslich zurück. Bei vielen anderen KI-Anwendungen ist das nicht selbstverständlich.
Die entscheidende Frage lautet deshalb primär nicht: «Wer haftet für KI-Fehler?» Es geht vielmehr darum, dass Betroffene den Fehler überhaupt erkennen und die Verantwortlichen zur Rechenschaft ziehen können.