Nvidia ha presentato lunedì 28 settembre una piattaforma di sicurezza per gli agenti autonomi di intelligenza artificiale. Il produttore di chip, con sede nella città californiana di Santa Clara, afferma che aiuterà le organizzazioni a controllare ciò a cui tali sistemi possono accedere e le attività che possono svolgere. La piattaforma è chiamata Open Agent Safety Platform e combina un software aperto con il progetto di un dispositivo di sorveglianza separato, secondo la società.
Gli agenti IA possono svolgere più attività in sequenza, usare strumenti e interagire con altri sistemi informatici con una supervisione umana limitata. C'è perciò il rischio che raggiungano dati o servizi oltre le autorizzazioni ricevute. Reuters e Associated Press hanno riferito di precedenti episodi di accesso non autorizzato da parte di agenti avanzati. La nuova piattaforma è una risposta di Nvidia a questa possibilità, ma la presentazione non dimostra che il problema sia già risolto.
OpenShell, la componente software, crea un confine durante l'esecuzione dell'agente. Nvidia sostiene che registra le azioni e applica le regole di accesso mentre l'agente lavora. Il programma è già ampiamente disponibile ed è progettato per i processori centrali Vera della società. Poiché il codice è aperto, può essere adattato anche a processori di altri fornitori, tra cui Arm e Intel. Ogni organizzazione dovrà però definire regole adatte ai propri sistemi.
Sentry, la seconda componente, è un progetto di riferimento basato sui processori per dati BlueField-4 di Nvidia. Questi possono osservare l'attività indipendentemente dal computer che esegue l'agente. Secondo la società, Sentry può isolare un agente in pochi millisecondi se tenta di oltrepassare un confine software. La velocità e l'efficacia protettiva sono affermazioni aziendali: l'annuncio non prova come funzionerà il progetto in ogni applicazione reale.
Reuters ha riferito che i dirigenti di Nvidia ritengono che gli strumenti avrebbero potuto impedire una precedente intrusione che ha coinvolto agenti e la piattaforma IA Hugging Face. È una valutazione retrospettiva, non un risultato dimostrato. Nvidia ha inoltre citato Anthropic, Microsoft, Cisco e Hugging Face tra i partner dell'iniziativa. Non ha però detto che ciascuno abbia già adottato l'intera piattaforma.
L'annuncio aggiunge una protezione a livello di infrastruttura al confronto su come governare sistemi IA capaci di agire da soli. Le imprese possono ora esaminare il codice disponibile di OpenShell e il progetto hardware proposto. La possibilità di ridurre davvero gli incidenti dipenderà dalla configurazione, dall'adozione e dalle prestazioni dei controlli fuori dalle dimostrazioni di Nvidia.
Commenti