欧盟已为设在布鲁塞尔的人工智能办公室增加38名工作人员，欧洲委员会准备从8月2日星期日起对先进人工智能模型行使新的执法权。美联社星期五报道，这次扩充将增强欧盟监督全球开发商的能力，并调查网络攻击、有害操纵以及侵害基本权利等风险。新团队面对的对象既包括初创企业，也包括美国和中国的大型人工智能开发商。
这一变化标志着欧盟人工智能法进入关键实施阶段。这部依据风险等级建立监管体系的法律于2024年通过。欧洲委员会的指导文件说明，在一年的合规期结束后，针对最先进通用人工智能模型提供商义务的执法权将于2026年8月2日开始适用。人工智能办公室目前已经拥有超过125名工作人员，包括律师、工程师、经济学家、政策专家和行政人员。
据美联社报道，欧洲委员会可以要求企业提交模型文件和其他信息，提出整改措施，对模型进行评估，在调查期间询问公司人员，并依法实施制裁。欧盟机构与各成员国的市场监督部门共同承担执法责任。国家监管机构负责监督成员国内使用的许多人工智能系统，人工智能办公室则重点监督通用模型及其相关系统，因此跨境协调将成为实际执行的重要环节。
新的透明度规则也将从8月2日起开始适用。欧洲委员会表示，提供商必须在人们直接与人工智能互动时作出说明，并使生成或修改的内容具有机器可读性和可检测性。部署系统的机构还必须披露深度伪造内容、缺乏人工编辑控制的特定人工智能公共利益材料，以及情绪识别或生物特征分类系统。对于截止日期前已投放市场的生成式系统，其内容标记义务获得延至12月的有限宽限期。
欧洲委员会列出的强大模型系统性风险包括网络攻击能力、化学或生物危害、失去控制、有害操纵以及损害基本权利。人工智能办公室已设立保密渠道，让科技行业工作人员和用户能够举报涉嫌违规行为或提出合规疑虑。由独立专家组成的科学小组以及代表各成员国的欧盟人工智能委员会，将为技术判断和一致监管提供支持。
这轮执法行动将检验欧洲能否把具有开创性的立法转化为有效监督，同时避免压制创新。向欧盟用户提供服务的企业将面临更严格的技术记录、风险控制和合成内容披露审查。监管机构下一步必须协调27个成员国的调查，并证明相关要求能够一致适用于设在欧盟境内和境外的开发商。实施效果也将影响其他地区如何处理先进模型、深度伪造与跨境人工智能服务带来的风险。
评论