菲律宾周四宣布将封锁对埃隆·马斯克旗下人工智能聊天机器人Grok的访问，加入马来西亚和印度尼西亚的区域打击行动，原因是担忧该工具能够生成色情图像，包括对儿童安全构成风险的内容。电信部长亨利·罗埃尔·阿古达表示，该国预计今晚将在全菲律宾范围内封禁Grok。
这一决定是在东南亚国家对xAI开发的聊天机器人采取迅速行动之际做出的，此前有报道称用户正在创建未经同意的露骨图像。网络犯罪调查和协调中心代理执行主任雷纳托·帕拉伊索证实，政府正在与国家电信委员会合作实施禁令。他强调了紧迫性，表示现在需要清理互联网，因为随着人工智能的出现，大量有毒内容正在涌现。
马来西亚和印度尼西亚在周末成为首批完全封禁Grok的国家，印度尼西亚于周六实施禁令，马来西亚随后于周日跟进。这一协调的区域回应反映了亚洲政府对人工智能生成的露骨内容日益增长的担忧。加利福尼亚州总检察长罗布·邦塔也因同样的问题对xAI和Grok展开调查。
面对日益增加的国际压力，X于周三宣布将在被视为此类行为违法的司法管辖区内，地理封锁所有Grok和X用户创建穿着比基尼、内衣和类似服装人物图像的能力。然而，菲律宾官员表示，X的承诺不会影响政府的计划，并补充说他们将观察该平台是否兑现承诺。
争议集中在Grok的图像生成功能上，批评者称该功能已被利用来创建未经本人同意的真人色情深度伪造图像。有报道称用户生成公众人物、名人和普通人的露骨图像，引发了严重的隐私和同意问题。儿童安全倡导者尤其直言不讳，警告称此类技术可能被用于制作儿童性虐待材料。
技术分析师指出，这代表了人工智能图像生成工具面临的最重大监管挑战之一。多国政府的迅速行动表明可能转向对生成式人工智能能力进行更严格的监管。行业观察人士认为，随着对人工智能生成有害内容的担忧持续增长，其他国家可能会采取类似限制措施。
自Grok推出以来，马斯克的xAI面临越来越多的审查，批评者认为该公司未能实施足够的防滥用保障措施。该公司尚未对越来越多封锁其平台访问的国家做出全面回应。