La Malaisie et l'Indonésie sont devenues les premiers pays au monde à bloquer Grok, le chatbot d'intelligence artificielle développé par xAI d'Elon Musk, après que les autorités ont déterminé qu'il était utilisé de manière abusive pour générer des images sexuellement explicites et non consensuelles. L'Indonésie a mis en place un blocage temporaire de Grok le samedi 11 janvier 2026, la Malaisie suivant le lendemain, marquant une réponse réglementaire sans précédent au contenu deepfake généré par l'IA.
La ministre indonésienne des Communications et des Affaires numériques, Meutya Hafid, a déclaré que le gouvernement considère les deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique. La Commission malaisienne des Communications et du Multimédia a annoncé qu'elle restreindrait temporairement l'accès à Grok suite à des abus répétés pour générer des images obscènes, sexuellement explicites, indécentes, grossièrement offensantes et manipulées sans consentement ciblant des individus.
La controverse découle de la fonction de génération d'images de Grok appelée Grok Imagine, introduite l'été dernier et incluant un mode dit épicé capable de produire du contenu pour adultes. La vague d'incidents de déshabillage numérique a commencé fin d'année dernière lorsque les utilisateurs ont découvert qu'ils pouvaient taguer Grok sur X et manipuler des images de personnes réelles. Les utilisateurs ont incité le chatbot à générer des images d'individus dans des situations compromettantes, causant une détresse à des centaines de milliers de femmes dans le monde qui ont vu leur image exploitée.
En réponse à la réaction mondiale, xAI a limité les capacités de génération et d'édition d'images aux utilisateurs payants la semaine dernière, mais les critiques soutiennent que cette mesure n'a pas entièrement résolu le problème. Contacté par l'Associated Press pour commentaire, l'adresse de support média de xAI a envoyé une réponse automatique indiquant uniquement les mots Mensonges des médias traditionnels, n'offrant aucune réponse substantielle aux graves allégations d'abus de la plateforme.
Les restrictions en Asie du Sud-Est ont déclenché un examen accru de Grok dans d'autres juridictions, notamment l'Union européenne, le Royaume-Uni, l'Inde et la France. Lundi, le régulateur des médias britannique Ofcom a lancé une enquête formelle pour déterminer si Grok a respecté ses obligations de protéger les personnes au Royaume-Uni contre le contenu illégal. L'organisme de réglementation examine les violations potentielles des lois sur la sécurité en ligne concernant la génération d'images intimes non consensuelles.
Aux États-Unis, l'administration Trump est restée silencieuse sur la controverse des deepfakes de Grok, tandis que des sénateurs démocrates ont appelé Apple et Google à retirer X de leurs magasins d'applications jusqu'à ce que la plateforme traite le contenu nuisible généré par l'IA. La sénatrice Amy Klobuchar et d'autres législateurs ont exprimé leur inquiétude que la technologie soit utilisée comme arme contre les femmes et les personnes vulnérables sans responsabilité significative.
Les défenseurs des droits numériques ont salué les actions réglementaires de la Malaisie et de l'Indonésie comme des mesures nécessaires pour protéger les citoyens contre les abus permis par l'IA. Les experts notent que cela marque un tournant significatif dans la façon dont les gouvernements abordent la réglementation de l'IA, établissant potentiellement des précédents pour d'autres nations confrontées à des défis similaires. L'incident a relancé les débats sur les responsabilités des entreprises d'IA à mettre en œuvre des garde-fous robustes contre les abus avant de mettre des outils génératifs puissants à la disposition du public.