英国通信监管机构Ofcom宣布对埃隆·马斯克的社交媒体平台X展开正式调查,原因是其人工智能聊天机器人Grok生成了色情图像。这项于1月12日启动的调查源于有报告称Grok被用于创建个人的非自愿亲密图像以及可能构成儿童性虐待材料的儿童性化图像。此次调查是英国在线安全法下首批重大监管行动之一。
Ofcom表示已于1月5日联系X,并设定1月9日为最后期限,要求该公司解释为保护英国用户采取了哪些措施。监管机构将有关Grok被用于生成裸体图像的报告描述为令人深感不安,指出此类内容可能构成亲密图像滥用或非法色情内容。如被认定违规,X可能面临高达1800万英镑或其全球收入10%的罚款,以较高者为准。
首相基尔·斯塔默向该平台发出严厉警告,表示如果X无法控制Grok,政府将迅速干预。他强调从伤害和滥用中获利的公司将丧失自我监管的权利。技术大臣利兹·肯德尔宣布,一项将创建或索取非自愿性深度伪造列为刑事犯罪的英国新法律将于本周生效,并声明任何女性或儿童都不应生活在担心自己的图像被技术进行性操纵的恐惧中。
马斯克辩称其他人工智能聊天机器人和数字工具可以以类似方式编辑图像,并指责英国针对他的平台。他的公司xAI试图通过宣布Grok仅限付费订阅者使用来回应批评。然而斯塔默谴责此举是对受害者的侮辱,并非解决人工智能生成滥用这一根本问题的方案。
此次调查正值国际上对该平台进行更广泛打击之际。印度尼西亚和马来西亚在周末暂时封锁了Grok,此前其生成了将女性乃至儿童性化的虚假图像。欧盟委员会已命令X保留所有与Grok相关的内部文件和数据直至2026年底,委员会主席冯德莱恩宣布欧洲不会将儿童保护外包给硅谷。
在最严重的违规情况下,英国法院可以命令英国互联网服务提供商完全封锁对X的访问。这一潜在禁令将是西方民主国家对主要社交媒体平台采取的前所未有的行动。法律专家指出,此次调查可能为全球如何监管人工智能生成内容树立重要先例。
这场争议加剧了对人工智能图像生成能力的更广泛审查。批评人士认为平台未能实施足够的防滥用保障措施,而科技公司则声称监管人工智能输出存在重大技术挑战。英国调查的结果可能影响全球监管方式,因为各国政府正在应对生成式人工智能技术的快速发展。
评论