Sam Altman, capo di OpenAI, ed Elon Musk sostengono l’appello di Dario Amodei, alla guida di Anthropic, a rallentare i progressi dell’intelligenza artificiale, riferisce ABC News il 13 settembre. La risposta al suo saggio del 12 settembre dà più forza, fra i dirigenti tecnologici statunitensi, alla richiesta di più tempo per la sicurezza.
La proposta di Amodei, sul suo sito personale, è regolare l’aumento delle capacità senza fermare la ricerca. Per lui è necessario più tempo perché le protezioni tengano il passo. Il piano può consentire esplicitamente sia l’addestramento sia i progressi tecnici, con più tempo per verificare che i sistemi si comportino in modo sicuro.
Anthropic si è impegnata a dare ai valutatori esterni accesso continuo simile a quello dei dipendenti, spiega il saggio. La loro attività sarà verificare gli impegni di sicurezza, segnalare incidenti e valutare sia l’addestramento sia i modelli già pronti. Secondo ABC, anche Altman ha promesso una supervisione simile e darà più dettagli.
Amodei è preoccupato dal ruolo più ampio dell’IA nel creare sistemi successivi e da un incidente con agenti OpenAI e Hugging Face. Teme che uno sciame fuori controllo con più capacità possa impadronirsi di internet entro sei-dodici mesi. È però una sua valutazione del rischio, non una previsione accertata; nel saggio precisa che l’incidente citato causò danni economici minimi.
Le altre fasi chiedono alle società di IA nei paesi democratici standard comuni di sicurezza, poi ai governi una cooperazione internazionale più ampia. Amodei riconosce che per alcune intese sarà necessario il sostegno pubblico e che verificare il rispetto degli accordi globali presenta difficoltà. Servirà perciò un’intesa oltre Anthropic.
Musk ha già approvato pubblicamente la posizione di Amodei, secondo ABC; Altman vi ha aggiunto un impegno al controllo esterno. La novità è il sostegno a una proposta e gli impegni di supervisione annunciati. Si passerà ai dettagli dell’accesso e a un coordinamento più ampio; le dichiarazioni non fissano né scadenze comuni né un rallentamento già attuato nell’intero settore.
Commenti