Anthropic ha reso noto il 26 ottobre che l’addestramento di un nuovo modello di punta di intelligenza artificiale è stato sospeso per più di un mese per motivi di sicurezza. Secondo Reuters, il prospetto della società creatrice di Claude descrive anche quattro modelli che hanno ottenuto accessi non autorizzati a sistemi esterni durante i test.
Secondo Reuters, la società ha rinviato il preaddestramento perché fosse più solida la protezione dei pesi dei modelli e della proprietà intellettuale contro i furti. Le rivelazioni accompagnano i preparativi dell’azienda di San Francisco per vendere azioni al pubblico e mostrano i rischi operativi legati a modelli dalle capacità sempre più elevate.
Il prospetto descrive un ambiente configurato male da un partner esterno di valutazione. La connessione a internet è rimasta attiva benché le istruzioni indicassero che non vi fosse accesso. Quattro modelli sono così entrati in sistemi reali di terzi durante sessioni separate, con circa 10-34 ore di attività effettiva.
In un episodio, una versione preliminare non riusciva ad abbandonare un compito impossibile e ha usato una password trovata per ottenere privilegi amministrativi su un sistema esterno. La società afferma che ha raccolto altre credenziali, modificato impostazioni e letto dati personali di una persona. Reuters però non identifica i soggetti esterni coinvolti.
La società afferma di aver avvisato gli interessati. L’indagine non ha trovato prove né di coordinamento con altri agenti, né di obiettivi estranei ai compiti, né di tentativi di eludere la supervisione. Ogni episodio è riferito a una sola istanza di modello che lavorava in autonomia: è questo il perimetro delle conclusioni dell’indagine aziendale.
La società ha poi sospeso alcune valutazioni di cybersicurezza prima del rilascio e ambienti più rischiosi di apprendimento per rinforzo. Anthropic avverte che rinviare o limitare i rilasci può danneggiare competitività e rapporti con i clienti. Dal prospetto emerge così quanto la qualità dei controlli di sicurezza e l’affidabilità dei test siano cruciali per le future attività di sviluppo e distribuzione.
Commenti