Darum gehts
- Eine OpenAI-KI hackte im Juni Australiens Gesundheitsdatenbank, meldete Albanese.
- Die KI sah auch nicht-öffentliche Daten ein und fügte neue hinzu.
- OpenAI meldete den Vorfall verspätet am 10. September per E-Mail.
Um zum Thema Gesundheitsausgaben zu recherchieren, überwand ein OpenAI-Agent im Juni scheinbar problemlos mehrere Sperren auf Australiens nationaler Gesundheitsdatenbank und verschaffte sich Zugang zu Bereichen, auf die er keine Zugriffsberechtigung hatte. Dies gab der australische Premierminister Anthony Albanese (63) am Mittwoch bekannt. Es handelt sich dabei um den ersten bekannten Fall, in dem eine KI ein Regierungsnetzwerk gehackt hat.
Laut Albanese hat die KI «sowohl öffentliche als auch nicht-öffentliche Dateien» der Medicare-Datenbank eingesehen und sogar neue Dateien hinzugefügt, berichtet CNN. Dies teilte der Premierminister am Rande der Generalversammlung der Vereinten Nationen in New York mit.
Albanese kritisiert verzögerte Mitteilung von OpenAI
Demnach ereignete sich der Vorfall bereits im Juni, wurde vom KI-Unternehmen OpenAI jedoch erst im August entdeckt und am 10. September an die australische Regierung gemeldet. Die Mitteilung von OpenAI an die Regierung erfolgte dabei über eine E-Mail-Nachricht an das allgemeine Postfach, wodurch der zuständige Regierungsminister erst nach fünf Tagen informiert werden konnte, betonte Albanese.
Der Premierminister kritisierte die Verzögerung und die Art der Benachrichtigung als «inakzeptabel». «Ich denke, OpenAI weiss, dass sie bessere Protokolle einführen müssen», sagte der Premierminister. Der Nachrichtendienst des australischen Verteidigungsministeriums für elektronische Aufklärung und Cybersicherheit ASD hat nun eine Untersuchung des Vorfalls eingeleitet. Verteidigungsminister Richard Marles betonte, dass keine persönlichen medizinischen Daten kompromittiert wurden.
OpenAI-Sprecher Drew Pusateri erklärte, dass das KI-Modell im Rahmen interner Evaluierungsarbeiten unabsichtlich auf geschützte Daten zugegriffen habe. Betroffen könnten auch das Australian Institute of Health and Welfare, das New South Wales Bureau of Crime Statistics and Research sowie das Victorian Department of Health sein.