联合国首届人工智能治理全球对话在日内瓦落下帷幕,会议发出严厉警告:科学目前尚无法保证先进人工智能系统不会造成灾难性危害。与此同时,一个汇聚科技领袖和国家元首的新全球委员会将于周三在这座瑞士城市召开首次会议。
这场为期两天的峰会于7月6日至7日举行,汇集了各国政府、科技企业、学者和民间社会团体,是联合国监督人工智能新架构的首次重大考验。会议以人工智能独立国际科学小组的工作为基础,该机构由来自世界各个地区的40名专家组成,已于7月1日发布了首份评估报告。
该小组联合主席、人工智能领域被引用最多的研究者之一约书亚·本吉奥向与会代表表示,随着人工智能能力不断提升,科学目前无法保证其不会造成灾难性危害,无论是其自身行为还是被恶意使用者利用。另一位联合主席、诺贝尔和平奖得主玛丽亚·雷萨警告称,人工智能驱动的信息操纵正威胁全球信息的真实性,她将这一风险描述为可能波及所有民主国家的信息灾难。
与会代表强调了多项结构性担忧,包括人工智能开发集中在美国和中国这两个国家,以及不断扩大的全球鸿沟使发展中国家无法分享这项技术的红利。此次对话由爱沙尼亚大使雷因·塔姆萨尔和萨尔瓦多大使埃格里塞尔达·洛佩斯共同主持,会议还审视了人工智能被用于胁迫目的的风险以及民主制度逐渐受到侵蚀的问题。
会谈旨在通过联合国协调,建立获得普遍认可的安全护栏和多边治理机制,而目前各国监管仍然各自为政。接下来的焦点转向人工智能向善全球委员会,这一与国际电信联盟共同发起的新机构将于周三在日内瓦举行首次会议,汇聚国家元首和科技行业高管。
观察人士提醒,具有约束力的国际规则仍然遥远,日内瓦进程的真正检验标准在于各国政府能否将其建议转化为国家政策。科学小组预计将继续定期发布评估报告,为决策者提供共同的证据基础,而人工智能能力的进步速度已让监管机构难以跟上。
评论