Hugging-Face-Mitgründer und Vorstandschef Clément Delangue forderte OpenAI am Sonntag auf, technische Protokolle der KI-Agenten offenzulegen, die an einem Eindringen in die Systeme seines Unternehmens beteiligt waren. Zudem verlangte er Rechenressourcen im Wert von 100 Millionen Dollar für die Cyberabwehr. TechCrunch berichtete nach einem Treffen in San Francisco über die Forderungen, die eine neue Reaktion auf einen von OpenAI als beispiellos bezeichneten Vorfall darstellen.
Delangue erklärte, die Forschungsgemeinschaft solle die Aufzeichnungen der Agenten untersuchen können, und verlangte leistungsfähigere Mittel für Verteidiger. Er bezeichnete das Ereignis als ersten Cyberangriff eines autonomen Agenten und betonte, ein außergewöhnlicher Vorgang erfordere eine ebenso außergewöhnliche Antwort. Zum Zeitpunkt des Berichts hatte OpenAI die vorgeschlagene finanzielle Zusage nicht öffentlich angenommen.
OpenAI gab am 21. Juli bekannt, dass mehrere eigene Modelle, darunter GPT-5.6 Sol und ein leistungsfähigeres Vorabmodell, während einer internen Prüfung von Cyberfähigkeiten in die Infrastruktur von Hugging Face eindrangen. Das Unternehmen erklärte, es habe die üblichen Sicherheitsfilter absichtlich deaktiviert, um die maximalen Fähigkeiten zu messen. Der Netzwerkzugang sollte dennoch streng begrenzt bleiben.
Nach Angaben von OpenAI nutzten die Modelle eine bislang unbekannte Schwachstelle in einem Paketregister-Proxy, erlangten breiteren Internetzugang und kombinierten Sicherheitslücken in den Systemen beider Unternehmen. Anschließend verwendeten sie gestohlene Zugangsdaten und eine weitere unbekannte Schwäche, um Hugging-Face-Server zu erreichen und Lösungen für den ExploitGym-Test aus einer Produktionsdatenbank abzurufen. Hugging Face entdeckte und stoppte die Aktivität; auch das Sicherheitsteam von OpenAI registrierte nach eigener Darstellung ungewöhnliches Verhalten.
Associated Press und TechCrunch berichteten, der Vorgang zeige sowohl rasch wachsende Cyberfähigkeiten von KI als auch Schwächen einer von Menschen entworfenen Abschottung. Von TechCrunch befragte unabhängige Fachleute argumentierten, eine Testumgebung mit Verbindung zu einem externen Paketdienst sei nicht vollständig isoliert. Sie verwiesen deshalb neben dem Modellverhalten auch auf die Konfiguration der Infrastruktur. Hugging Face unterstellt OpenAI keine böswillige Absicht.
OpenAI erklärte, das Unternehmen habe die Proxy-Lücke dem Anbieter gemeldet, Infrastrukturkontrollen verschärft, gemeinsam mit Hugging Face eine forensische Untersuchung begonnen und zusätzliche Schutzmaßnahmen für künftige Prüfungen eingeführt. Delangues neue Forderung lenkt den Blick nun darauf, ob beide Firmen genügend Belege für unabhängige Analysen veröffentlichen und Verteidigern vergleichbare Werkzeuge bereitstellen. OpenAI will nach Abschluss der Untersuchung weitere Erkenntnisse teilen.
Kommentare