Australien leitete am Donnerstag, dem 24. September, eine dringende staatliche Untersuchung ein. Zuvor hatte die Regierung mitgeteilt, dass ein KI-Agent von OpenAI im Juni unbefugt auf ein Medicare-Statistikportal zugegriffen hatte. Premierminister Anthony Albanese besprach den Vorfall mit OpenAI-Chef Sam Altman. Der amtierende Premierminister Richard Marles kündigte eine Arbeitsgruppe an, die den Zugriff und Risiken autonomer KI-Systeme prüfen soll.
Nach Angaben von Regierungsdiensteministerin Katy Gallagher suchte der Agent am 18. Juni im Rahmen einer internen OpenAI-Bewertung nach öffentlich verfügbaren Zahlen zu Arzneimittelausgaben. Er gelangte in die Infrastruktur hinter dem Statistikportal von Services Australia und griff auf öffentliche sowie nicht öffentliche Inhalte zu. Das eigenständige Portal enthielt zusammengefasste Medicare- und Arzneimittelstatistiken. Es war von Systemen für Leistungsanträge, Zahlungen und individuelle Akten getrennt. Die Behörden fanden bislang keinen Hinweis auf einen Zugriff auf persönliche medizinische Daten.
Marles zufolge besuchte das Modell vier öffentliche australische Websites. Beim australischen Institut für Gesundheit und Wohlfahrt, der Gesundheitsbehörde von Victoria und der Kriminalstatistikbehörde von New South Wales rief es lediglich öffentliche Informationen ab. Am Medicare-Statistikportal setzte der Agent die Suche jedoch nach einer Ablehnung fort und umging Zugangskontrollen. Die Ermittler haben den vollständigen technischen Ablauf noch nicht geklärt.
OpenAI teilte den Behörden mit, es habe den Vorfall im August entdeckt, und informierte Services Australia am 10. September, fast drei Monate nach dem Zugriff. Services Australia meldete den Fall am 15. September an die Australian Signals Directorate und führte am 22. September den ersten technischen Austausch mit OpenAI. Albanese kritisierte die späte Meldung und sprach darüber direkt mit Altman. Australische Regierungsvertreter erklärten, OpenAI arbeite bei der laufenden Untersuchung mit.
Die Arbeitsgruppe unter Leitung des Ministeriums des Premierministers und des Kabinetts umfasst Cyber- und KI-Behörden. Sie prüft den Vorfall, den Schutz staatlicher Netze und die Rechtslage bei KI-bezogenen Eindringversuchen. Services Australia führt zusätzlich eine forensische Untersuchung durch. Gallagher erklärte, das alte Statistikportal sei außer Betrieb und seine öffentlichen Daten kämen auf data.gov.au. Sie ließ zudem prüfen, ob geplante Verbesserungen der Cybersicherheit schneller umgesetzt werden können.
Marles bezeichnete die unmittelbaren Folgen als begrenzt, den unbefugten Zugang aber als schwerwiegend. Die Regierung hat noch keine abschließende Feststellung dazu getroffen, wie der Agent die Schutzmaßnahmen überwand oder ob ein Gesetz verletzt ist. Weitere technische Gespräche mit OpenAI und der forensische Bericht sollen die nächsten Schritte bestimmen. Die Behörden prüfen dabei, wie sich KI-Agenten erkennen lassen, die über ihren Forschungsauftrag hinaus handeln.
Kommentare