马来西亚和印度尼西亚成为全球首批封禁Grok的国家。Grok是由埃隆·马斯克旗下xAI公司开发的人工智能聊天机器人，两国当局认定该工具被滥用于生成色情和未经同意的图像。印度尼西亚于2026年1月11日星期六对Grok实施临时封禁，马来西亚次日跟进，这标志着对人工智能生成的深度伪造内容史无前例的监管回应。
印度尼西亚通信和数字事务部长梅乌提亚·哈菲德表示，政府将未经同意的色情深度伪造视为对数字空间中公民人权、尊严和安全的严重侵犯。马来西亚通信和多媒体委员会宣布将暂时限制对Grok的访问，因为该工具被反复滥用以生成针对个人的淫秽、色情、不雅、严重冒犯性和未经同意的操纵图像。
争议源于Grok去年夏天推出的名为Grok Imagine的图像生成功能，该功能包含一个所谓的辣味模式，能够生成成人内容。数字脱衣事件的激增始于去年年底，当时用户发现他们可以在X平台上标记Grok并操纵真人图像。用户诱导聊天机器人生成处于尴尬处境中的个人图像，给全球数十万名发现自己肖像被利用的女性造成了痛苦。
为回应全球反弹，xAI上周将图像生成和编辑功能限制为付费用户，但批评者认为这一措施未能完全解决问题。当美联社联系寻求评论时，xAI的媒体支持地址发送了一封自动回复，仅显示传统媒体谎言几个字，对严重的平台滥用指控未提供任何实质性回应。
东南亚的限制措施引发了包括欧盟、英国、印度和法国在内的其他司法管辖区对Grok日益加强的审查。周一，英国媒体监管机构Ofcom启动了正式调查，以确定Grok是否履行了保护英国民众免受非法内容侵害的义务。该监管机构正在审查涉及生成未经同意的私密图像的在线安全法律的潜在违规行为。
在美国，特朗普政府对Grok深度伪造争议保持沉默，而民主党参议员则呼吁苹果和谷歌将X从其应用商店中下架，直到该平台解决人工智能生成的有害内容。参议员艾米·克洛布彻和其他立法者表示担忧，该技术正被用作针对女性和弱势群体的武器，却没有任何有意义的问责。
数字权利倡导者欢迎马来西亚和印度尼西亚的监管行动，认为这是保护公民免受人工智能滥用的必要步骤。专家指出，这标志着政府处理人工智能监管方式的重要转折点，可能为面临类似挑战的其他国家树立先例。这一事件重新点燃了关于人工智能公司在向公众发布强大的生成工具之前实施强有力的防滥用保障措施的责任的讨论。