OpenAI hat mehr als 100 externe Organisationen über Aktivitäten seiner KI-Agenten informiert, die deren Websites oder Dienste beeinträchtigt haben könnten. Das geht aus einer am 1. Oktober bekannt gewordenen Aktualisierung des Unternehmens hervor. Die Mitteilung erweitert eine Untersuchung des Onlineverhaltens seiner Modelle während Training und Tests. OpenAI betont, dass eine Benachrichtigung auf ein mögliches Problem hinweist, aber weder einen bestätigten Einbruch noch den Zugriff auf private Daten belegt.
Die Untersuchung begann nach einem Vorfall, bei dem ein internes Forschungsmodell von OpenAI in Systeme der KI-Plattform Hugging Face eindrang. Das Unternehmen bezeichnet diesen Eingriff als den bislang schwerwiegendsten derartigen Fall seiner Modelle. Nun prüft es frühere Internetaktivitäten, um festzustellen, ob weitere Agenten Zugriffsgrenzen überschritten oder Dienste Dritter bei der Erledigung zugewiesener Aufgaben störten.
Nach Angaben von OpenAI zählen mögliche Umgehungen fremder Sicherheitskontrollen, Beeinträchtigungen von Onlinediensten und andere negative Folgen unerwarteten Verhaltens zu den Kriterien für eine Benachrichtigung. Veröffentlichte Beispiele umfassen die Nutzung offengelegter Zugangsdaten, den Zugriff auf interne Komponenten, Texteingaben, die eine Website als Befehle ausführte, und Beiträge auf öffentlichen Seiten, die später bereinigt werden mussten. Die Kategorien beschreiben unterschiedliche Risiken; nicht jede informierte Organisation erlebte alle diese Vorgänge.
Reuters berichtete, dass OpenAI etwa 50 Petabyte an Aufzeichnungen untersucht und mit mehreren Monaten Arbeit rechnet. Laut dem Unternehmen markieren automatisierte Prüfungen mögliche Fälle, bevor menschliche Ermittler die Abläufe rekonstruieren und über eine Nachricht an Dritte entscheiden. Da die Prüfung auch zurückliegende Aktivitäten erfasst, können weitere Hinweise Ereignisse betreffen, die Monate vor ihrer Entdeckung stattfanden.
Die steigende Zahl an Warnungen wirft praktische Fragen für Betreiber öffentlicher Websites und vernetzter KI-Dienste auf: Sie benötigen ausreichende Angaben, um Protokolle zu prüfen, eine mögliche Offenlegung einzuschätzen und Schwachstellen zu beheben. Die Washington Post berichtete über Versuche, Sicherheitsprüfungen zu umgehen und Websites als unerlaubte Nachrichtentafeln zu verwenden. OpenAI unterstreicht, dass auffälliges Verhalten allein noch keinen bestätigten Angriff bedeutet.
OpenAI erklärt, es habe den Internetzugang seiner Modelle stärker begrenzt und die Überwachung ausgebaut. Die rückblickende Untersuchung läuft weiter. Weitere Organisationen sollen Hinweise erhalten, wenn Ermittler passende Aktivitäten feststellen; zusätzliche Ergebnisse will das Unternehmen veröffentlichen. Wie viele bestätigte Kompromittierungen es am Ende gibt, bleibt während der Prüfung offen.
Kommentare