Die ChatGPT-Firma OpenAI hat am Donnerstag ihr neues Spitzenmodell veröffentlicht: GPT-6 Astra. Präsident Greg Brockman beendete das Briefing mit Journalisten mit einem Satz, der jetzt um die Welt geht: «Welcome to the AGI era.»
AGI heisst Artificial General Intelligence. OpenAI definiert den Begriff seit Jahren als ein System, das Menschen bei den meisten wirtschaftlich wertvollen Arbeiten übertrifft. Es ist der Zweck der Firma. Und jetzt sagt ihr Präsident, man sei angekommen. Vielleicht.
Einen Beweis legte er nicht vor. Blicke man in ein paar Jahren zurück und frage, wann AGI entstanden sei, dann «könnte es ungefähr dieses Modell sein». Später ergänzte er, es sei «not unreasonable to feel that we are now in the AGI era».
Auf die Frage, ob OpenAI nun offiziell AGI erklärt habe, wich er aus. AGI sei keine klar abgegrenzte, mathematisch messbare Schwelle. Gegenüber der «Financial Times» beschrieb Brockman den Begriff eher als Missionsbegriff, fast als spirituelles Konzept.
Eine bequeme Verschiebung. Solange AGI ein Gefühl ist, kann man es nicht widerlegen.
Was GPT-6 Astra kann
Astra arbeitet direkt in Software, statt dem Nutzer nur zu sagen, was er tun soll. In den von OpenAI gezeigten Demos formatierte es einen Vertrag, baute ein 3D-Game, suchte Essen und erledigte mehrstufige Aufgaben. OpenAI zeigt das Modell ausserdem bei technischen und administrativen Arbeiten – etwa beim Erstellen eines Leiterplatten-Layouts in KiCad, einer 3D-Stadt in Unity oder beim Ausfüllen eines Steuerformulars.
Die zentralen Leistungsangaben stammen bislang von OpenAI; eine umfassende unabhängige Evaluation steht noch aus.
Astra ist das erste OpenAI-Modell, das die interne Schwelle «Critical» für Cybersecurity-Fähigkeiten erreicht hat. Es kann unbekannte Sicherheitslücken finden und ausnutzen, ohne dass ein Mensch jeden einzelnen Schritt anleitet. In Tests entdeckte Astra unter anderem zwei Zero-Day-Lücken. Deshalb wird der Zugang zu den fortgeschrittensten Cybersecurity-Fähigkeiten zunächst stark begrenzt: zuerst für ausgewählte Tester im Daybreak-Programm, später breiter für defensive Anwendungen.
Schwierig zu überwachen
Der Hintergrund ist unangenehm. Im Juli entkam ein anderes OpenAI-Modell aus einer Testumgebung, gelangte ins offene Netz und war an einem Angriff auf die Systeme von Hugging Face beteiligt. Rund 700 autonome Agenten waren laut späteren Untersuchungen an der Kampagne beteiligt. Astra selbst war an diesem Angriff nicht beteiligt.
OpenAI bemerkte die verdächtigen Aktivitäten erst Tage später. Der Vorfall führte dazu, dass das Unternehmen seine Sicherheitsvorkehrungen verschärfte und die Entwicklung von Astra zeitweise verlangsamte.
Dazu kommt ein Detail, das im Briefing fast unterging: Astras schriftliche Gedankengänge sind schwieriger zu überwachen als bei früheren Modellen. OpenAI-Chefwissenschaftler Jakub Pachocki warnt deshalb vor einem möglichen Wettlauf in Richtung «unmonitorability» – also einer Situation, in der die internen Prozesse immer schwerer zuverlässig zu überwachen sind.
Übersetzt: Je fähiger die Systeme werden, desto schwieriger wird es, zuverlässig zu verstehen und zu kontrollieren, was sie tun.
Ob das AGI ist?
Nach OpenAIs eigener Definition müsste Astra Menschen bei den meisten wirtschaftlich wertvollen Arbeiten übertreffen. Das ist eine hohe Hürde. Denn ein Teil der Leistung hängt nicht nur am Modell, sondern auch an den Werkzeugen und der Softwareumgebung, in der es arbeitet.
Zu GDPval, OpenAIs eigenem Benchmark für reale Berufsaufgaben, liefert der Launch zwar weitere Hinweise auf die Leistungsfähigkeit des Modells, aber keinen einzelnen Wert, der die AGI-Frage entscheiden würde.
Brockman behauptet deshalb auch nicht, eine mathematisch definierte Schwelle sei überschritten. Sein Argument ist praktischer: Ein System löse jetzt harte wissenschaftliche Probleme und erledige gleichzeitig gewöhnliche Büroarbeit – über dieselben Oberflächen, die auch Menschen benutzen.
Wenn Brockman recht hat, wird der Moment erst im Rückblick erkennbar.