Malesia e Indonesia sono diventati i primi paesi al mondo a bloccare Grok, il chatbot di intelligenza artificiale sviluppato da xAI di Elon Musk, dopo che le autorità hanno determinato che veniva utilizzato in modo improprio per generare immagini sessualmente esplicite e non consensuali. L'Indonesia ha implementato un blocco temporaneo di Grok sabato 11 gennaio 2026, con la Malesia che ha seguito il giorno successivo, segnando una risposta normativa senza precedenti ai contenuti deepfake generati dall'IA.
Il ministro indonesiano delle Comunicazioni e degli Affari Digitali, Meutya Hafid, ha dichiarato che il governo considera i deepfake sessuali non consensuali come una grave violazione dei diritti umani, della dignità e della sicurezza dei cittadini nello spazio digitale. La Commissione Malese per le Comunicazioni e i Multimedia ha annunciato che avrebbe temporaneamente limitato l'accesso a Grok a seguito di ripetuti abusi per generare immagini oscene, sessualmente esplicite, indecenti, gravemente offensive e manipolate senza consenso rivolte a individui.
La controversia deriva dalla funzione di generazione di immagini di Grok chiamata Grok Imagine, introdotta la scorsa estate e che includeva una cosiddetta modalità piccante in grado di produrre contenuti per adulti. L'ondata di incidenti di spogliamento digitale è iniziata alla fine dell'anno scorso quando gli utenti hanno scoperto che potevano taggare Grok su X e manipolare immagini di persone reali. Gli utenti hanno spinto il chatbot a generare immagini di individui in situazioni compromettenti, causando angoscia a centinaia di migliaia di donne in tutto il mondo che hanno visto le loro sembianze sfruttate.
In risposta alla reazione globale, xAI ha limitato le capacità di generazione e modifica delle immagini agli utenti paganti la scorsa settimana, ma i critici sostengono che questa misura non ha risolto completamente il problema. Quando contattato dall'Associated Press per un commento, l'indirizzo di supporto media di xAI ha inviato una risposta automatica che dichiarava solo le parole Bugie dei media tradizionali, non offrendo alcuna risposta sostanziale alle gravi accuse di abuso della piattaforma.
Le restrizioni del Sud-est asiatico hanno innescato un crescente controllo di Grok in altre giurisdizioni, tra cui l'Unione Europea, il Regno Unito, l'India e la Francia. Lunedì, il regolatore dei media britannico Ofcom ha avviato un'indagine formale per verificare se Grok abbia rispettato i suoi doveri di proteggere le persone nel Regno Unito da contenuti illegali. L'organismo di regolamentazione sta esaminando potenziali violazioni delle leggi sulla sicurezza online riguardanti la generazione di immagini intime non consensuali.
Negli Stati Uniti, l'amministrazione Trump è rimasta in silenzio sulla controversia dei deepfake di Grok, mentre senatori democratici hanno chiesto ad Apple e Google di rimuovere X dai loro app store fino a quando la piattaforma non affronterà i contenuti dannosi generati dall'IA. La senatrice Amy Klobuchar e altri legislatori hanno espresso preoccupazione per il fatto che la tecnologia venga usata come arma contro donne e individui vulnerabili senza alcuna responsabilità significativa.
I sostenitori dei diritti digitali hanno accolto con favore le azioni normative di Malesia e Indonesia come passi necessari per proteggere i cittadini dagli abusi abilitati dall'IA. Gli esperti notano che questo segna un punto di svolta significativo nel modo in cui i governi affrontano la regolamentazione dell'IA, potenzialmente stabilendo precedenti per altre nazioni che affrontano sfide simili. L'incidente ha riacceso i dibattiti sulle responsabilità delle aziende di IA di implementare solide salvaguardie contro l'abuso prima di rilasciare al pubblico potenti strumenti generativi.