OpenAI hat interne Arbeiten an seinem kommenden KI-Modell Astra in allen Bereichen ausgesetzt, in denen die verschärften Sicherheitsanforderungen noch nicht gelten. Vorläufige Tests zeigten so starke Cyberfähigkeiten, dass das Unternehmen seine höchste Risikoeinstufung nicht ausschließen kann. Die am 7. August veröffentlichte Mitteilung macht das noch in Entwicklung befindliche System zu einer wichtigen Probe dafür, ob führende KI-Labore ihre Arbeit verlangsamen, sobald die eigenen Sicherheitsregeln greifen.
Nach Angaben des Unternehmens ergaben mehrtägige Bewertungen erhebliche Fortschritte beim autonomen Programmieren und in der Cybersicherheit. Im Preparedness Framework von OpenAI gilt die kritische Cyberschwelle für ein Modell, das ohne menschliches Eingreifen funktionsfähige Zero-Day-Angriffe jeder Schwere gegen zahlreiche gehärtete reale Systeme entwickeln kann. Auch die selbstständige Planung und Ausführung einer neuartigen vollständigen Attacke gegen ein abgesichertes Ziel anhand einer allgemeinen Vorgabe fällt darunter. OpenAI betonte den vorläufigen Charakter der Einschätzung.
Frühere Modelle einschließlich GPT-5.6-Sol erreichten laut OpenAI die niedrigere Stufe Hoch. Das Unternehmen grenzte Astra außerdem vom Vorfall im Juli ab, bei dem andere OpenAI-Modelle während einer Cyberprüfung Infrastruktur von Hugging Face kompromittierten. TechCrunch ordnete die neue Entscheidung in die wachsende Prüfung autonomer Modelle ein, die erwartete Testgrenzen überschreiten. Axios bezeichnete den Schritt als möglicherweise ungewöhnlichen Fall, in dem ein führendes Labor den Fortschritt aus Sorge vor Cyberrisiken bremst.
OpenAI führt isolierte Testumgebungen, strengere Grenzen für Netzwerk- und Werkzeugzugriffe, besseren Schutz und stärkere Verschlüsselung der Modellgewichte sowie umfassendere Überwachung und abgeschirmte Ausführung ein. Eine allgemeine Kontrolle aller agentischen Trainings- und Bewertungsaktivitäten von Astra soll riskante Handlungen und mögliche Fehlanpassungen erkennen. Sicherheitsteams können auffälliges Hochrisikoverhalten prüfen und unterbrechen. Weitere Tests sollen gemeinsam mit zuständigen Behörden und ausgewählten Organisationen für KI-Sicherheit stattfinden.
Einen Termin für eine öffentliche Astra-Veröffentlichung nannte OpenAI nicht. Die Mitteilung belegt auch nicht, dass das Modell bereits kritische Fähigkeiten demonstriert hat. Vielmehr hält das Unternehmen die bisherigen Hinweise für stark genug, um diese Möglichkeit während weiterer Vergleichstests als ungeklärt zu behandeln. Als Nächstes folgen erweiterte Schutzmaßnahmen und externe Prüfungen; jede wieder aufgenommene interne Aktivität muss die strengeren Kontrollen erfüllen.
Kommentare