美国一名联邦法官裁定，五角大楼以国家安全供应链风险为由将人工智能开发商Anthropic列入黑名单的做法违法。这项裁决是Claude聊天机器人开发商在与特朗普政府的争端中取得的一次重大胜利。美国联邦地区法官丽塔·林周四在旧金山发布一份长达59页的命令，禁止国防部执行这一风险认定以及与之相关的限制措施。
林法官认定，政府因Anthropic对军事人工智能政策提出受宪法保护的批评而对该公司实施报复，违反了美国宪法第一修正案。她还认定，公司在认定生效前没有获得宪法要求的回应机会，因此其第五修正案规定的正当程序权利受到侵犯。法官进一步指出，这项决定超出了适用的政府采购法律授权范围，并且具有武断和反复无常的性质。
这场冲突始于今年2月，当时Anthropic与五角大楼未能就Claude可以接受的使用方式达成一致。首席执行官达里奥·阿莫代伊拒绝取消相关安全措施，这些措施旨在防止该技术被用于大规模监控美国人或用于完全自主武器。随后，国防部长皮特·赫格塞思将该公司认定为供应链风险，并指示军事承包商、供应商和合作伙伴停止与其开展商业活动。
Anthropic表示，这项措施可能令其损失数十亿美元业务，并造成长期声誉损害，而且与军方此前对Claude的积极评价相矛盾。司法部律师则称，该公司的使用限制可能使战场应用面临不确定性，并可能造成软件在军事行动期间无法使用的风险。林法官认为，没有事实依据表明Anthropic会蓄意破坏自己的模型，并指出国家安全主张不能成为报复政府批评者的通行证。
在案件审理期间，法院已于3月暂时冻结相关限制。周四的裁决现在阻止赫格塞思的指令获得执行，并否定了把禁令从五角大楼直接采购扩大到所有与军方有业务往来的公司的法律基础。当企业自身的人工智能安全规则与政府要求发生冲突时，这项决定可能影响美国机构今后管理人工智能供应商的方式，也可能成为政府采购新兴技术的重要判例。
Anthropic表示欢迎法院裁决，并称仍愿意就涉及国家安全的人工智能用途与政府合作。外界预计政府将提起上诉，此外，与这场争端相关的一宗范围较窄的独立案件仍在华盛顿一家联邦上诉法院审理。接下来的司法程序将决定本次裁决能否维持，也将界定五角大楼在为国防领域使用的商业人工智能系统设定条件时可以采取多大范围的措施。
评论