Die berühmte Frage der Ethiker
Ein Beispiel, das oft in Diskussionen über künstliche Intelligenz zitiert wird: Wenn dereinst ein autonomes Fahrzeug in Sekundenbruchteilen entscheiden muss, ob es ein Kind, das bei Rot über die Strasse läuft, trotz Vollbremsung anfährt oder mit einem Ausweichmanöver einen alten Mann auf dem Trottoir anfährt, was dann? Das ethische Dilemma: junges Leben, das die Verkehrsregeln bricht, gegen altes Leben. Das Gedankenspiel, auch als «Trolley-Problem» bekannt, führt zu kniffligen Haftungsfragen. Wer trüge die Verantwortung für den Unfall: der Fahrer, der nicht eingreift, der Autohersteller oder der Hersteller der Steuerungssoftware?
Das Beispiel zeigt auf drastische Weise das Problem, das wir in Zukunft vermehrt antreffen, wenn Computer anstelle des Menschen Entscheidungen treffen. Der konstruierte Fall lässt allerdings keine «gute» Wahl zu und mag bei manchen die Skepsis gegenüber der Technik vergrössern, weil sie nicht perfekt ist. Aber war es je der Mensch? Die wesentliche Frage zur Sicherheit autonomen Fahrens ist nicht, ob Unfälle völlig vermieden werden können, sondern, ob es unter dem Strich dank Technik weniger Unfälle gibt.
Viele Fragen sind noch offen
Ethische Überlegungen, die sich aus dem wissenschaftlichen Fortschritt ergeben, sind nicht neu. Wir kennen sie z. B. aus der Gentechnik. Wie weit sollen wir in das Erbgut von Nutzpflanzen eingreifen dürfen, um diese gegen Krankheitserreger zu schützen? Oder wo liegt die Grenze der pränatalen Diagnostik, um menschliche Erbkrankheiten frühzeitig zu erkennen? Wir haben schon in der Vergangenheit versucht, mit der Entwicklung Schritt zu halten und Regeln aufzustellen für den gesellschaftlich akzeptierten Umgang mit den jeweiligen Technologien.
Der Einsatz grosser Datenmengen und die Ausbreitung von KI-Anwendungen führt allerdings zu einem neuen Verhältnis zwischen Mensch und Maschine und neuen Fragen: Wie schützen wir das Individuum in seiner Privatsphäre? Wie stellen wir sicher, dass selbstlernende Algorithmen fair handeln, ohne gewisse Menschengruppen zu diskriminieren? Und können wir das Potenzial autonomer Systeme ausschöpfen, aber deren Missbrauch verhindern?
Die Schweiz als Vermittler
In den letzten Jahren sind viele Initiativen für ethische Leitplanken lanciert worden. Eine Studie der ETH-Bioethikerin Effy Vayena kommt weltweit auf insgesamt 84 Dokumente, die nach gemeinsamen Grundsätzen im Umgang mit künstlicher Intelligenz suchen. Es tut sich also etwas, aber die Interessen von IT-Konzernen, Wissenschaft, Regierungen und Zivilgesellschaft sind selbstredend nicht deckungsgleich. Dennoch ist es richtig und wichtig, dass diese Diskussion vorangetrieben wird, unter Einbezug möglichst vieler Anspruchsgruppen. Solche Regeln sollten zum einen gewährleisten, dass sich die Technik in den Dienst des Menschen stellt statt umgekehrt. Anderseits sollten diese Regeln aber auch keine Technikverbote aussprechen und Innovationen abwürgen. In diesen Kernfragen ist ein globaler Konsens erforderlich. Und um einen solchen zu erreichen, braucht es Zeit, multilaterale Gespräche und eine neutrale Bühne. Ein Fall für die Schweiz?
Ihr Joël Mesot