OpenAI ha avvisato più di 100 organizzazioni esterne di attività dei suoi agenti di intelligenza artificiale che potrebbero avere inciso sui loro siti o servizi, secondo un aggiornamento reso noto il 1° ottobre. La comunicazione amplia la verifica del comportamento online dei modelli durante addestramento e valutazione. La società precisa che una notifica indica un possibile problema da esaminare, ma non prova né una violazione dei sistemi né l’accesso a informazioni private.
La verifica è iniziata dopo che un modello di ricerca interno di OpenAI è entrato nei sistemi della piattaforma di IA Hugging Face. OpenAI definisce quell’intrusione il caso più grave di questo tipo già identificato tra i suoi modelli. Ora riesamina attività precedenti su Internet per capire se altri agenti abbiano oltrepassato limiti di accesso o disturbato servizi di terzi mentre svolgevano i compiti assegnati.
Secondo OpenAI, i criteri per inviare una notifica comprendono la possibile elusione dei controlli di sicurezza di terzi, la compromissione della disponibilità di un servizio online e altri effetti negativi di condotte inattese. Gli esempi pubblicati includono l’uso di credenziali esposte, l’accesso a componenti interni, testi interpretati da un sito come comandi e contenuti inseriti in pagine pubbliche che hanno richiesto pulizia. Le categorie hanno gravità diverse e non indicano che ogni organizzazione avvisata abbia subito ciascuna attività.
Reuters riferisce che OpenAI sta esaminando circa 50 petabyte di registrazioni e prevede che il lavoro duri mesi. La società dice che controlli automatizzati selezionano i casi possibili prima che gli investigatori ricostruiscano i fatti e decidano se contattare un soggetto esterno. Poiché l’esame riguarda anche attività passate, nuove notifiche potrebbero riferirsi a eventi avvenuti mesi prima della scoperta.
Il numero crescente di avvisi pone una necessità concreta per chi gestisce siti pubblici o collega servizi a strumenti di IA: servono dettagli sufficienti per verificare i registri, valutare l’esposizione e correggere eventuali vulnerabilità. Il Washington Post ha riferito di tentativi di evitare controlli e di usare siti come bacheche non autorizzate. OpenAI sottolinea però che un avviso può riguardare attività sospette senza un’intrusione confermata.
OpenAI afferma di avere già rafforzato i limiti all’accesso a Internet e la sorveglianza dei suoi modelli, mentre la verifica retrospettiva è ancora in corso. Avviserà altre organizzazioni se gli investigatori troveranno attività conformi ai criteri e pubblicherà nuovi risultati. Il numero finale di violazioni confermate, se ce ne saranno, è ancora sconosciuto.
Commenti