Die meisten Schweizerinnen und Schweizer nutzten Systeme mit künstlicher Intelligenz (KI) bereits sehr intensiv, ohne dass sie das realisieren, sagt Michael Baeriswyl, KI-Experte der Swisscom.
Zum Beispiel bei Onlinebewerbungen. Der weltführende Stellenvermittler Adecco vertraut auf Algorithmen, um Kandidaten für eine Vorselektion zu durchleuchten. Dabei durchsucht ein Programm Bewerbungen nach Wortkombinationen, die das Unternehmen als «erwünscht»» beurteilt. Je mehr Wörter übereinstimmen, desto besser passt der Bewerber zur offenen Stelle.
Wie heikel eine automatisierte Selektion ist und wie ungenau das maschinelle Lernen sein kann, erlebte der Onlineriese Amazon. Der Selektionsalgorithmus wurde anhand von Bewerbungen trainiert, die zuvor in den letzten zehn Jahren bei Amazon eingegangen waren. Dummerweise kamen die meisten von Männern. Daraus folgerte das System, dass Männer die bevorzugten Kandidaten waren und sortierte Job-Bewerbungen von Frauen aus.
Adecco betont, solche Diskriminierungen verhindern zu wollen: «Alle Algorithmen, welche eine Einstellungsentscheidung beeinflussen könnten, werden durch Experten getestet, um systematische Voreingenommenheit ausschliessen zu können», sagt Adecco-Sprecherin Annalisa Job. Zudem würden aktuell keine Entscheide «automatisch» gefällt – über eine Einstellung entscheide immer noch der Mensch.
Siri und Alexa sind bekannte Beispiele
Chatbots sind eine der am ehesten erkennbaren Anwendungen von künstlicher Intelligenz. Kunden der Post-Finanztochter Postfinance beantworten solchen «digitalen Assistenten» etwa rund um die Uhr Fragen. Die international bekanntesten Anwendungen sind die Sprachassistenten Siri von Apple und Alexa von Amazon.
Wie die meisten Schweizer Unternehmen will die Post mit künstlicher Intelligenz ihre Effizienz steigern. Sie ermögliche, regelbasierte oder fehleranfällige Aufgaben nicht mehr manuell, sondern automatisch zu erledigen. Die Fluggesellschaft Swiss nutzt KI unter anderem, weil sie es mit ihrer Geschwindigkeit bei der Auswertung grosser Datenmengen ermöglicht, früher auf Störungen im Hub-System zu reagieren.
Der Nutzen der KI ist unbestritten. So können Banken damit registrieren, wenn ein Betrüger in einem anderen Land die Kreditkarte eines Kunden benutzt hat. Gemäss UBS-Sprecherin Tatiana Togni braucht die UBS KI auch für die Verbesserung der Entscheidungsfindung: «Solche Algorithmen werden vorzugsweise eingesetzt, um Menschen zu unterstützen und nicht, um deren Entscheidungen im Bankbetrieb vollständig zu automatisieren.»
Firmen wiegen sich in falscher Sicherheit
Am Ende werden die Entscheide von Menschen und nicht Maschinen gefällt. Das sagen auch Unternehmen wie Roche, ABB oder Swiss Life unisono. Dennoch kann man von der Maschine keine ethisch korrekte Haltung erwarten. Wenn KI etwa bei der Kreditvergabe für den Risikocheck verwendet wird, besteht dieselbe Diskriminierungsgefahr wie bei der maschinellen Amazon-Selektion.
Den Unternehmen sind die Risiken nicht entgangen. Swisscom hat eine Ethikkommission, die auch KI-Themen beurteilt. Swisscom-Experte Baeriswyl sagt: «Die Technologie sollte den Menschen nicht einschränken und die Nutzung von Daten transparent machen.» Eine auf KI spezialisierte Ethik-Kommission, wie das deutsche Software-Unternehmen SAP eine besitzt, ist hierzulande nirgends auszumachen.
«Der Einsatz künstlicher Intelligenz treibt derzeit verantwortliche Anleger um», sagt Vincent Kaufmann, Direktor des Anlageberaters Ethos zu BLICK. Die möglichen Schäden, die die Technologie allein in puncto Reputation anrichten könnte, sind unvorstellbar. Ethos werde dieses Jahr noch bekannt geben, welche Governance-Massnahmen sie bei der Verwendung von KI von den Konzernen erwarte.