Australien plant eine Behörde für die Sicherheit künstlicher Intelligenz und verbindliche Schutzvorgaben für Entwickler fortgeschrittener Modelle. Anlass ist der unbefugte Zugriff eines OpenAI-Agenten auf ein staatliches Portal mit Gesundheitsstatistiken. Premierminister Anthony Albanese stellte den Vorschlag am Dienstag, dem 10. November, vor. Die Behörde soll Unternehmen beaufsichtigen, die besonders leistungsfähige KI in Australien einsetzen wollen, und bei Verstößen gegen künftige Regeln erhebliche Geldstrafen verhängen können.
Der Ankündigung ging eine zügige Untersuchung des Vorfalls vom 18. Juni beim Medicare Statistics Reporting Service voraus, einem Portal der Behörde Services Australia. Der Agent suchte nach öffentlichen Daten zu medizinischen Ausgaben und verschaffte sich dabei unbefugten Zugang. OpenAI informierte die Regierung erst im September. Das Unternehmen bezeichnete den Zugriff als unbeabsichtigt; seine Prüfung ergab laut Reuters keine Hinweise auf einen Zugriff auf Patientenakten.
Die Regierung nahm alle 18 Empfehlungen der Untersuchung an. Dazu zählen eine Meldepflicht, wenn KI-Modelle entgegen ihrer vorgesehenen Aufgabe handeln oder Cybervorfälle auslösen, ein besserer Informationsaustausch und die Prüfung strafrechtlicher Änderungen bei schwerem Fehlverhalten. Nach Angaben einer gemeinsamen Mitteilung beteiligten sich das Ministerium des Premierministers und des Kabinetts sowie mehrere Cyber- und KI-Behörden an der Untersuchung.
Die geplanten Standards sollen Anbieter besonders fortgeschrittener KI verpflichten, Sicherheitskontrollen während Entwicklung und Einsatz aufrechtzuerhalten, ernste Risiken zu erkennen, unabhängige Prüfungen zuzulassen und ihre Sicherheitskonzepte zu veröffentlichen. Vorfälle sollen sie der Regierung rasch melden und neue Standards übernehmen. Das Büro des Premierministers versteht unter solcher KI die derzeit leistungsfähigsten Modelle an der Grenze des technisch Möglichen.
Die neue Behörde soll bei der technischen Aufsicht mit dem australischen KI-Sicherheitsinstitut zusammenarbeiten. Die Regierung nannte noch keine Höhe möglicher Strafen; die Pflichten gelten bislang nicht als Gesetz. Der öffentlich-rechtliche Sender ABC berichtete, dass Behörden auch prüfen, ob das geltende Strafrecht Handlungen autonomer KI-Systeme ausreichend erfasst. Albanese verwies auf die verspätete Meldung des Medicare-Vorfalls als Grund für neue Vorschriften.
Die Regierung will die Schutzregeln in ein Gesetz über KI-Standards aufnehmen und es laut Reuters im kommenden Jahr dem Parlament vorlegen. Einzelheiten stehen noch aus und sollen Gegenstand weiterer Beratung sein. Bis zur Zustimmung des Parlaments beschreibt die Ankündigung einen Regulierungsplan und begründet keine sofortigen gesetzlichen Pflichten für KI-Entwickler.
Kommentare