一名联邦法官星期五驳回人工智能公司xAI的紧急请求，拒绝暂停明尼苏达州针对人工智能虚假裸照技术的禁令，使这项全美首创的州级措施得以在8月1日生效。埃隆·马斯克旗下公司仍可继续提出宪法层面的挑战，但在诉讼进行期间必须遵守该法律。法院这次没有接受该公司要求在案件审理期间暂缓执行的主张，因此，法律设定的义务不会因为诉讼尚未结束而推迟。对生成式人工智能行业而言，这一决定立即把有关平台责任、表达权利和受害者保护的争议带入实际执行阶段。
明尼苏达州法规禁止网站、应用程序和软件的所有者或经营者允许用户制作经过修改但看似真实的图像或视频，使可识别人物的私密部位出现在内容中。法律也禁止为执行这种功能的服务做广告或推广，不过，如果某项工具要求人类使用者投入大量个性化技术或艺术技能，则可获得豁免。法规关注的是能够让普通用户较容易完成这种修改的服务，而不是所有可以处理图像的通用工具。其法定定义要求生成或修改后的内容足够逼真，以至于一个合理的人会相信所显示的私密部位属于那名可识别人物。
官方州法授权州检察长针对每一次非法访问、下载或使用寻求最高50万美元的民事罚款。出现在违规材料中的个人也可以提起诉讼，要求赔偿、惩罚性损害赔偿、律师费用以及法院禁令。州政府收回的罚款将提供给帮助性侵、家庭暴力、虐待儿童和其他犯罪受害者的组织。法律因此同时建立公共执法和个人民事追索两条途径，被描绘者不必只依赖州政府采取行动。赔偿范围还包括精神痛苦，法院也可以根据案件情况提供其他公平救济。
xAI在生效日期前提交一份38页的联邦诉状，主张这项措施对受保护表达施加过于宽泛的限制。据美联社报道，该公司认为，法规没有为真诚努力防止滥用的服务商提供安全港，而且可能涵盖经当事人同意或由当事人亲自制作的材料。不过，该公司并未否认明尼苏达州有权遏制未经同意制作的合成裸照。争议的核心因而不是州政府是否可以保护受害者，而是它可以在多大范围内把义务和高额处罚直接施加给开发、拥有或控制有关数字服务的企业。
明尼苏达州检察长基思·埃里森为这项措施辩护，认为有关技术会剥夺受害者尊严，并造成情感、个人生活和职业方面的伤害。xAI表示，Grok的使用条款禁止非法、有害或滥用性用途，包括侵犯隐私的图像修改；公司可以暂停违规账户，并向有关机构报告疑似儿童性虐待材料。该公司以这些规则说明它已经采取防止滥用的措施，而州方则把法律视为对迅速扩散的人工智能功能所带来现实伤害的必要回应。双方立场显示，案件也涉及企业自我管理是否足以替代具有强制力的州级标准。
这项裁决只涉及诉讼期间的临时救济，并没有最终裁定xAI提出的宪法主张，因此案件仍将继续。最终结果可能影响美国其他州如何监管生成式图像服务，也可能决定制造有害深度伪造内容的用户是否承担主要责任，以及帮助生成这些内容的技术提供商是否也必须负责。今后的审理仍需处理xAI关于表达保护、法规适用范围和服务商保障机制的主张。与此同时，明尼苏达州可以按照生效后的法律推进执法，潜在原告也可以利用法规规定的民事救济。其他司法辖区将可从本案观察，针对人工智能工具本身的禁令能否在宪法审查下成立。
评论