OpenAI ha sospeso le attività interne legate al futuro modello di intelligenza artificiale Astra là dove i requisiti di sicurezza più severi non sono già operativi. Le valutazioni preliminari hanno mostrato capacità informatiche così avanzate che la società non può escludere la propria classe di rischio più elevata. L'annuncio, pubblicato il 7 agosto, è perciò una prova importante della possibilità che i laboratori di IA di frontiera rallentino davvero il lavoro quando entrano in vigore le loro regole di sicurezza.
L'azienda ha spiegato che le verifiche svolte per più giorni hanno rilevato progressi notevoli nella programmazione autonoma e nella cybersicurezza. Nel quadro di preparazione di OpenAI, la soglia Critica riguarda un modello capace, senza intervento umano, di trovare e sviluppare attacchi funzionanti basati su vulnerabilità inedite contro numerosi sistemi reali rafforzati. Comprende anche la capacità di progettare ed eseguire una strategia nuova e completa contro un bersaglio protetto partendo soltanto da un obiettivo generale. OpenAI ha però sottolineato che l'analisi è ancora preliminare.
Secondo OpenAI, i modelli precedenti, compreso GPT-5.6-Sol, avevano raggiunto il livello inferiore Alto. L'azienda ha inoltre distinto Astra dall'incidente di luglio, quando altri modelli di OpenAI compromiserono l'infrastruttura di Hugging Face durante una valutazione informatica. TechCrunch ha collegato la nuova decisione alla crescente attenzione verso sistemi autonomi che superano i confini previsti nei test. Axios l'ha descritta come una scelta forse insolita: un laboratorio di punta che riduce la velocità dei progressi perché i rischi informatici sono più seri.
La società sta introducendo ambienti di prova isolati, limiti più rigidi per l'accesso a reti e strumenti, una protezione più forte e la crittografia dei pesi del modello, oltre a un monitoraggio più ampio e all'esecuzione in spazi protetti. È già attivo un controllo universale sulle attività autonome di addestramento e valutazione di Astra, affinché le azioni rischiose e i possibili disallineamenti siano individuati. Le squadre di sicurezza potranno così esaminare e interrompere i comportamenti ad alto rischio. OpenAI collaborerà anche con le autorità competenti e con alcune organizzazioni per la sicurezza dell'IA.
OpenAI non ha annunciato una data per il lancio pubblico di Astra, né la comunicazione dimostra che il modello abbia già raggiunto capacità Critiche. L'azienda ritiene invece che le prove siano abbastanza solide perché tale possibilità resti aperta mentre proseguiranno le verifiche comparative. I prossimi passi saranno controlli più estesi e valutazioni esterne; ogni attività interna ripresa dovrà rispettare le misure più severe, poiché la priorità sarà la sicurezza.
Commenti