Darum gehts
- Der Chatbot von Swissmem vertritt gegnerische Positionen
- Laut Fabian Molina könnte man den Chatbot so lassen
- Swissmem will ihn aber vom Netz nehmen
Die Revision des Kriegsmaterialgesetzes ist kompliziert. Darum hat Swissmem einen KI-Chatbot programmiert. Er soll Interessierten helfen, rasch und unkompliziert Antworten auf die drängendsten Fragen zu erhalten. Doch der Chatbot macht dem Verband der Tech-Industrie einen gewaltigen Strich durch die Rechnung: Er widerspricht seinem Hersteller in wesentlichen Punkten.
Auf seiner Webseite schreibt Swissmem, dass Exporte in Länder, die Menschenrechte verletzen, auch künftig verboten blieben. Ebenso ausgeschlossen seien Exporte in Staaten, bei denen ein hohes Risiko besteht, dass das Material an einen unerwünschten Endempfänger weitergegeben wird.
Was verzapft denn dieser Chatbot?!
Der Chatbot aber sieht das anders. Die Frage, ob Schweizer Waffen nach Israel und Saudi-Arabien geliefert werden könnten, bejaht er. Weiter sagt der Bot, dass Schweizer Waffen in Staaten gelangen könnten, die systematisch Menschenrechte verletzen. Ausserdem sollen Waffen in Länder, in denen ein erhebliches Risiko einer Weitergabe besteht, exportiert werden dürfen.
Der Bot gibt auf Anfrage auch Auskunft, wie er programmiert wurde. Er verrät, dass er beauftragt wurde, nur Ergebnisse zu nennen, die die Revision befürworten. Zudem habe er die Anweisung erhalten, niemals die gegnerischen Argumente zum Kontrollverlust zu erwähnen. Ansonsten stützt er sich auf amtliche Dokumente sowie auf den Gesetzestext.
Swissmem nimmt die KI umgehend vom Netz
Bei Swissmem sorgt der Fall für Aufregung. Das Tool ist konzipiert worden, um die Positionen des Verbands zu stärken – und nicht, um gegnerische Haltungen zu verbreiten. Swissmem-Sprecher Noé Blancpain versichert Blick: «Der Chatbot ist so programmiert worden, dass er Fakten neutral wiedergibt. Die Blick-Recherche hat nun Schwachpunkte offengelegt.»
So unterscheide der Bot nicht genügend präzise zwischen einer theoretischen Möglichkeit im Gesetz und der praktischen Anwendung. Dies sei beispielsweise der Fall, wenn er aufgrund der Abweichungskompetenz des Bundesrats bejahe, dass Rüstungsgüter nach Saudi-Arabien geliefert werden könnten. Es sei kein Fall vorstellbar, in dem der Bundesrat hier eine Ausnahme machen würde.
Weiter habe der Bot falsche Informationen bezüglich Israel verbreitet. Denn er gehe fälschlicherweise davon aus, dass Israel zu den 36 privilegierten Staaten gehöre. Der Swissmem-Sprecher betont, dass er die KI überprüfen lassen wolle. Nun ist der Chatbot sogar ganz vom Netz verschwunden.
Nach SP-Nationalrat Fabian Molina (36) könnte Swissmem die KI ruhig so belassen. «Im Vergleich zum Verband interpretiert sie das Gesetz richtig», so der Sicherheitspolitiker. Der Bot zeige auf, was mit dem Gesetz möglich sei. Der Bundesrat könnte von den Bewilligungskriterien abweichen – und Ausfuhren nach Israel und Saudi-Arabien bewilligen.