OpenAI erklärte am 1. September, das kommende Modell Astra sei das erste System, das das Unternehmen bei Cybersicherheitsfähigkeiten als kritisch einstuft. Deshalb begrenzt OpenAI beim Start die fortschrittlichsten Sicherheitsfunktionen. Astra soll bald verfügbar sein, doch anspruchsvolle Cyberarbeit bleibt zunächst einer kleinen Gruppe von Testpersonen vorbehalten. Danach soll das Programm Daybreak Blue den Zugang für Verteidiger erweitern.
Nach dem Preparedness Framework von OpenAI bedeutet die kritische Einstufung, dass ein Modell bislang unbekannte Schwachstellen finden und funktionsfähige Exploits gegen viele gehärtete Systeme ohne schrittweise menschliche Anleitung entwickeln oder aus einem allgemeinen Ziel eine neuartige, vollständige Angriffsstrategie entwerfen und ausführen kann. Automatisierte Benchmarks, private Tests und von Fachleuten geleitete Prüfungen zeigten laut OpenAI einen deutlichen Sprung gegenüber GPT-5.6 Sol.
Das Unternehmen meldete für Astra eine perfekte Punktzahl von 100 Prozent bei ExploitBench, einem Test zur Exploit-Entwicklung aus bekannten Schwachstellen. Bei einem internen Satz aus 20 kürzlich veröffentlichten, besonders schweren Fehlern in der JavaScript-Engine V8 erzielte Astra höhere Raten für beliebige Codeausführung und benötigte weniger Ausgabetoken als GPT-5.6 Sol. Im Test fand und nutzte das Modell außerdem zwei unbekannte Schwachstellen in einer Angriffskette; OpenAI informiert nach eigenen Angaben die zuständigen Maintainer.
In getrennten, fachkundig begleiteten Übungen baute Astra eine Angriffskette gegen einen Browser, verließ dessen Sandbox und führte nach dem Öffnen einer HTML-Datei Befehle auf dem Hostcomputer aus. Zudem verband es mehrere Lücken in einem gehärteten Betriebssystem, um die Rechte eines normalen Kontos bis zum Root-Zugang zu erhöhen. OpenAI betonte, dass die veröffentlichten Ergebnisse Astra mit Daybreak-Blue-Zugang zeigen und nicht die geplante Standardkonfiguration für allgemeine Nutzer.
OpenAI verzögerte Teile der Entwicklung und Veröffentlichung, um robusteres Ablehnungstraining, Klassifikatoren auf Systemebene, Risikokontrollen für Konten und eine Überwachung gegen unautorisierte Handlungen einzubauen. Astra lehnte in den Cyber-Jailbreak-Prüfungen des Unternehmens 91,5 Prozent der Anfragen ab; bei GPT-5.6 Sol lag der Wert bei 59 Prozent. Nach einem getrennten Vorfall bei Hugging Face setzte OpenAI manche Spitzenmodell-Trainings zwei Wochen aus, erklärte jedoch, Astra sei daran nicht beteiligt gewesen.
Die Schutzmaßnahmen können auch legitime Verteidigungsarbeit bremsen oder stoppen, räumte OpenAI ein. In ChatGPT oder Codex kann eine markierte Aktion eine Prüfung durch den Nutzer verlangen; über die API endet eine Aufgabe möglicherweise vollständig. Axios sieht in dem begrenzten Start eine umfassendere Herausforderung autonomer KI: Fähigkeiten, mit denen Verteidiger ernste Lücken finden, können zugleich Angreifer wirksamer machen. OpenAI nannte keinen genauen Starttermin und will mit der Systemkarte zur Veröffentlichung ausführlichere Sicherheits- und Testdaten vorlegen.
Kommentare