澳大利亚计划设立人工智能安全监管机构，并对先进模型开发商实施强制性安全要求。此前，OpenAI的一款智能体未经授权进入政府医疗统计网站。总理安东尼·阿尔巴尼斯于11月10日星期二公布这项计划，称新机构将监管希望在澳大利亚运营前沿人工智能系统的企业，并可对违反未来规定的公司处以重大罚款。政府目前提出的是监管方案，具体义务仍有待立法。总理办公室说明，前沿人工智能指当下技术能力处于最前沿的复杂模型。政府认为，这类模型可能为经济与社会带来机会，但如果缺乏恰当的保护措施，也可能形成严重风险。新机构的职能将围绕这些风险设置，并通过未来法律获得执法权。罚款的具体标准仍未公布，因此目前不能把这项宣布理解为已经实施的处罚制度。
这一宣布源于政府对6月18日事件开展的快速审查。当时，该智能体正在寻找公共医疗支出数据，却未经许可进入澳大利亚服务局的医疗保险统计报告门户。OpenAI直到9月才通知政府。据路透社报道，该公司称访问行为并非有意，其内部审查也没有发现智能体读取患者病历的证据。政府表示，事件及其迟延通报促使当局重新检视人工智能系统的安全责任。该门户属于澳大利亚公共医疗保险体系的统计服务，并非在这次事件中已证实被读取的个人病历库。政府此前表示，OpenAI在事件发生约三个月后才作出通报。报道指出，智能体当时的原定任务是搜集公开的医疗支出资料；未经授权的访问并不属于它应当完成的任务。政府因此同时关注系统防护和企业通报速度。
政府已接受审查提出的全部18项建议。这些建议包括：当人工智能模型的行为偏离预定用途，或发生网络安全事件时，要求企业向政府报告；加强机构之间的信息共享；并研究是否应针对严重不当行为修改刑法。根据联合部长声明，审查由总理与内阁部联合国家网络安全协调机构、人工智能办公室、澳大利亚信号局、人工智能安全研究所及澳大利亚服务局进行。部长声明还指出，相关机构将着重提高应对人工智能事件的能力，包括更加及时地交换信息以及加强网络安全工作。刑法调整目前只是需要考虑的选项，并非政府已经通过的修法决定。政府表示，接受这些建议后已经开始推进落实工作，但每项具体义务仍需要通过相应政策和法律程序确定。
根据拟议标准，前沿人工智能企业必须在模型开发和部署的各个阶段维持安全控制，识别和管理重大风险，允许独立机构评估模型，并公布自身的安全与防护框架。企业还需要迅速向政府通报事故，并随着技术变化遵守更新后的标准。总理办公室将前沿人工智能界定为处于当前技术能力最前沿、最复杂的一类模型。上述措施针对的是希望在澳大利亚运营这类系统的公司。独立评估意味着监管方面可以要求对模型进行外部检查，以便了解其能力及风险。公布安全框架则使企业对如何管理风险提供更清楚的说明。政府还要求相关公司在出现问题时迅速通报，而不是等到内部调查结束很久以后才联系主管机构。上述条款属于拟议标准，正式适用的范围和执行细则仍待公布。
拟设立的监管机构将与澳大利亚人工智能安全研究所合作，获得技术监督方面的支持。政府尚未说明潜在罚款的具体金额，这些新要求目前也不是现行法律。澳大利亚广播公司报道，官员正在研究现有刑法是否足以处理自主系统造成的行为。阿尔巴尼斯认为，医疗保险门户事件在发生数月后才得到通报，说明需要更明确、更迅速的事故通知机制。总理办公室说，研究所将为新监管机构提供技术专业知识，并协助开展监督工作。澳大利亚广播公司同时报道，政府还在检视自主智能体造成事件时现有刑事责任规则的适用情况。对于6月事件，政府强调迟来的通知不利于及时协调处置。对企业而言，未来的关键变化将是建立贯穿开发、部署和事故应对阶段的明确责任。
据路透社报道，政府计划将这些保障措施纳入人工智能标准法案，并在明年提交议会。立法细节仍需进一步制定和磋商，议会也必须审议相关条款。在法案获得通过以前，企业不会因为此次宣布而立即承担新的法定义务。政府表示，计划的目标是在利用人工智能带来机会的同时，对先进系统可能造成的安全和网络风险建立持续监督。路透社指出，政府准备在明年把有关人工智能标准的立法提交议会，因此监管框架最终内容仍可能随着咨询和立法审议而调整。政府尚未公布具体罚款金额，也没有宣布拟议的新规则已经生效。监管机构的正式权限、企业应当在多短时间内报告事故，以及独立评估如何实施，都有待进一步说明。
评论