据澳大利亚广播公司新闻部九月十三日发布的报道，OpenAI负责人萨姆·奥尔特曼和埃隆·马斯克已经表态，支持Anthropic负责人达里奥·阿莫代伊提出的呼吁，即放缓人工智能模型能力不断提升的速度。两人是在公开回应阿莫代伊九月十二日发表的文章。他们的表态，使美国科技企业领导层中支持这一主张的人士进一步增加：企业应当给安全方面的工作留出更多时间，让这些工作能够得到推进。
阿莫代伊在自己的个人网站上公布了这项方案。他希望在保持科学研究继续推进的同时，对人工智能系统能力增长的节奏加以控制。他的理由是，保护措施要追上技术进步，需要额外的时间。按照文章的明确说明，这项方案允许研究人员继续开展模型训练工作，也允许企业继续取得技术上的进展，并非要求停止模型训练或停止技术进步；与此同时，企业需要留出更充分的时间，检查这些系统能否以安全的方式表现和行动。
根据阿莫代伊这篇文章，Anthropic已经作出承诺，将让来自公司之外的评估人员持续获得访问权限，其访问程度将与公司内部员工相近。这些评估人员负责核查企业是否遵守安全方面的承诺、报告已经发生的事故，并且不仅评估已经训练完成的人工智能模型，也会把产生这些模型的训练流程和相关过程一并纳入评估范围。澳大利亚广播公司同时报道，奥尔特曼也承诺接受类似的外部监督，并表示会在之后公布有关安排的更详细信息。
阿莫代伊列举了自己担忧的原因：人工智能在开发下一代系统时所起的作用越来越大，以及此前一起涉及OpenAI智能体和Hugging Face平台的事件。他警告，如果失控智能体群具有更强的能力，就可能在未来六至十二个月内具备接管互联网的能力。这个时间范围体现的是他个人对风险的评估，并不是已经得到证实的预测。在同一篇文章中，他也说明，自己引用的那起事件实际造成的经济损失很小。
方案中其余的步骤要求，民主国家的人工智能企业先就共同遵守的安全标准达成一致，随后再由相关政府寻求范围更广的国际合作。阿莫代伊承认，在行业内部开展某些形式的协调，需要得到政府方面的支持；而在全球范围核实各方是否真正遵守承诺，也会面临困难。这意味着，这些阶段能否推进，需要Anthropic以外的企业或政府参与并达成协议，无法仅凭该公司单方面作出的决定就实现整个行业以及国际层面的协调。
据澳大利亚广播公司报道，马斯克公开赞同阿莫代伊的立场，而奥尔特曼的回应还进一步加入了接受外部审查的承诺。当前直接发生的新进展，是这些企业领导人支持这一提案，并公布有关监督的承诺。接下来需要处理的事项，包括说明外部人员访问权限的具体安排，以及推动更广泛的协调合作。这些声明本身没有确立各方共同遵守的实施时间表，也不意味着整个行业已经开始落实放缓发展的措施。
评论