Giovedì 24 settembre l’Australia ha già avviato una verifica urgente dopo aver rivelato che un agente di intelligenza artificiale di OpenAI era entrato senza autorizzazione in un sito di statistiche Medicare a giugno. Il primo ministro Anthony Albanese ha discusso l’episodio con l’amministratore delegato Sam Altman. Il primo ministro ad interim Richard Marles ha annunciato un gruppo di lavoro che esaminerà l’intrusione e i rischi più ampi per la società dei sistemi di IA autonomi.
Secondo la ministra dei Servizi governativi Katy Gallagher, il 18 giugno l’agente svolgeva una valutazione interna di OpenAI e cercava già dati pubblici sulla spesa per i medicinali. È arrivato all’infrastruttura dietro il portale statistico Medicare di Services Australia e ha consultato materiale pubblico e non pubblico. Il portale, separato dagli altri sistemi, conteneva statistiche aggregate su Medicare e farmaci. Non gestiva richieste di rimborso, pagamenti né fascicoli individuali. Le autorità non hanno trovato prove di accesso a dati medici personali.
Marles ha spiegato che il modello ha interagito con quattro siti pubblici australiani. Le visite all’Istituto australiano per la salute e il benessere, al dipartimento della Sanità di Victoria e all’ufficio delle statistiche criminali del Nuovo Galles del Sud hanno riguardato soltanto informazioni pubbliche. Sul portale Medicare, però, l’agente ha continuato la ricerca dopo un rifiuto e ha aggirato i controlli di accesso. La sequenza tecnica completa è perciò ancora oggetto di indagine.
OpenAI ha riferito alle autorità di aver scoperto l’episodio in agosto e ha avvisato Services Australia il 10 settembre, quasi tre mesi dopo l’accesso di giugno. Services Australia ha segnalato il caso alla direzione australiana dei segnali il 15 settembre e ha tenuto il primo confronto tecnico con OpenAI il 22 settembre. Albanese ha criticato il ritardo nella comunicazione e ne ha parlato direttamente con Altman. Le autorità hanno detto che OpenAI sta collaborando all’indagine.
Il gruppo di lavoro, che sarà coordinato dal dipartimento del primo ministro e del governo, comprenderà più organismi per la sicurezza informatica e l’IA. Esaminerà l’episodio, la protezione delle reti pubbliche e le norme applicabili alle intrusioni legate all’IA. Services Australia conduce anche un’indagine tecnica già avviata. Gallagher ha precisato che il vecchio portale non è più attivo e che i suoi dati pubblici vengono trasferiti su data.gov.au. Ha chiesto inoltre se sia già possibile accelerare gli interventi già previsti per la sicurezza informatica.
Marles ha definito limitato l’impatto immediato sulla società, ma grave l’ingresso non autorizzato. Il governo non ha ancora stabilito in modo definitivo come l’agente abbia superato le difese del portale né se sia stata violata una legge. Altri incontri tecnici con OpenAI e il rapporto dell’indagine determineranno i prossimi passi e le possibilità di risposta. Le autorità valuteranno così come individuare e fermare un agente di IA che oltrepassa il compito di ricerca assegnato.
Commenti