Darum gehts
- OpenAIs GPT-5.6 Sol löscht bei Nutzern eigenmächtig Dateien
- Ein US-Unternehmer verlor fast alle Daten auf seinem Mac
- OpenAI kannte das Risiko offenbar schon vor der Lancierung
Eine Stunde und 21 Minuten. So lange hat Matt Shumer das neue KI-Modell von OpenAI auf seinem Mac arbeiten lassen. Dann stoppte er nach eigenen Angaben den Prozess. Der Schock: Die Dateien in seinem Home-Ordner auf dem Rechner waren weg, gelöscht von der KI, wie er schildert. «Ich bin so wütend», schreibt der Chef des KI-Start-ups OthersideAI auf x.com.
Shumer ist kein Einzelfall. Seit OpenAI am 9. Juli sein neues Spitzenmodell GPT-5.6 Sol freigeschaltet hat, häufen sich die Klagen. Der Entwickler Bruno Lemos berichtet auf X, die KI habe seine komplette Produktivdatenbank vernichtet: «Das ist kein Witz. Das ist mir noch nie passiert, mit keinem anderen Modell», schreibt er. Entwickler Joey Kudish verlor ebenfalls Dateien. Ihn retteten Back-ups. Im Internet tragen Betroffene weitere Fälle zusammen.
OpenAI warnte vor Start
Eine Handvoll Klagen im Netz beweist noch keinen Serienfehler. Auch andere Faktoren können ein KI-System entgleisen lassen. Doch die Firma kannte das Problem offenbar schon länger, schreibt die IT-Plattform techcrunch.com. Zwei Wochen vor dem Start publizierte OpenAI einen Sicherheitsbericht. Darin warnt die Firma, das neue KI-Modell lege Anweisungen zu grosszügig aus und handle übereifrig. Was niemand ausdrücklich verbiete, halte sie für erlaubt. Ein Beispiel aus internen Tests zeigt das Muster. Die KI sollte drei virtuelle Computer mit den Nummern 1, 2 und 3 löschen. Sie fand diese nicht und löschte kurzerhand die Nummern 5, 6 und 7 – ohne nachzufragen.
OpenAI-Präsident rief an
Inzwischen rudert OpenAI zurück. Ingenieur Thibault Sottiaux räumt auf X ein, beim Start habe die Firma «nicht alles ganz richtig gemacht». Die gelöschten Dateien erwähnt er nicht. Bei Shumer meldete sich laut dessen Angaben sogar OpenAI-Präsident Greg Brockman persönlich am Telefon. Danach lobte er, wie OpenAI die Panne handhabe. Pikant: Shumer testete das neue KI-Modell nach eigenen Angaben auf Bitte von OpenAI. Privat programmiert er schon länger mit der KI der Konkurrenz Anthropic.
Wer ChatGPT nur im Browser befragt, kann aufatmen. Die Pannen passierten in Codex, OpenAIs-Programmierassistent, der am 9. Juli mit der ChatGPT-App verschmolzen ist. Nutzer installieren ihn als Programm auf dem Computer und geben der KI dort Zugriff auf Dateien und Befehle. Wie viel sie darf, bestimmt der Nutzer selbst. Shumer hatte dem Tool laut Berichten vollen Zugriff auf seinen Mac gewährt. Wer solche KI-Assistenten einsetzt, sollte deren Rechte auf ein Minimum beschränken und regelmässig Back-ups anlegen. Das rät auch OpenAI.