Le Filippine hanno annunciato giovedì che bloccheranno l'accesso al chatbot AI Grok di Elon Musk, unendosi a Malesia e Indonesia in una repressione regionale per le preoccupazioni che lo strumento possa generare immagini sessualizzate, inclusi contenuti che pongono rischi per la sicurezza dei minori. Il Segretario alle Telecomunicazioni Henry Rhoel Aguda ha dichiarato che il paese prevede di bloccare Grok entro stasera in tutte le Filippine.
La decisione arriva mentre le nazioni del sud-est asiatico intraprendono azioni rapide contro il chatbot sviluppato da xAI a seguito di segnalazioni di utenti che creano immagini esplicite non consensuali. Renato Paraiso, direttore esecutivo ad interim del Centro di investigazione e coordinamento della criminalità informatica, ha confermato che il governo sta lavorando con la Commissione nazionale delle telecomunicazioni per attuare il divieto. Ha sottolineato l'urgenza, affermando che è necessario pulire internet ora perché molto contenuto tossico sta apparendo con l'avvento dell'IA.
Malesia e Indonesia sono diventate i primi paesi a bloccare completamente Grok durante il fine settimana, con l'Indonesia che ha implementato il suo divieto sabato e la Malesia a seguire domenica. La risposta regionale coordinata riflette la crescente allarme tra i governi asiatici riguardo ai contenuti espliciti generati dall'IA. Anche il Procuratore Generale della California Rob Bonta ha avviato un'indagine su xAI e Grok per le stesse preoccupazioni.
In risposta alla crescente pressione internazionale, X ha annunciato mercoledì che geobloccherà la possibilità per tutti gli utenti di Grok e X di creare immagini di persone in bikini, biancheria intima e abbigliamento simile nelle giurisdizioni dove tali azioni sono considerate illegali. Tuttavia, i funzionari filippini hanno indicato che la promessa di X non avrebbe alcun effetto sui piani del governo, aggiungendo che osserveranno se la piattaforma mantiene le sue promesse.
La controversia si concentra sulle capacità di generazione di immagini di Grok, che i critici affermano siano state sfruttate per creare deepfake sessualizzati di persone reali senza il loro consenso. Sono emersi rapporti di utenti che generano immagini esplicite di personaggi pubblici, celebrità e persone comuni, sollevando serie preoccupazioni sulla privacy e il consenso. I sostenitori della sicurezza dei minori sono stati particolarmente vocali, avvertendo che tale tecnologia potrebbe essere utilizzata per creare materiale di abuso sessuale su minori.
Gli analisti tecnologici notano che questo rappresenta una delle sfide normative più significative per gli strumenti di generazione di immagini AI. L'azione rapida di più governi segnala un potenziale cambiamento verso una supervisione più rigorosa delle capacità di IA generativa. Gli osservatori del settore suggeriscono che altri paesi potrebbero seguire con restrizioni simili mentre le preoccupazioni sui contenuti dannosi generati dall'IA continuano a crescere.
La xAI di Musk ha affrontato un crescente scrutinio dal lancio di Grok, con i critici che sostengono che l'azienda non abbia implementato adeguate salvaguardie contro l'uso improprio. L'azienda non ha ancora rilasciato una risposta completa alla crescente lista di paesi che bloccano l'accesso alla sua piattaforma.