[智能应用]全球AI治理报告发布，强调着力应对四大关键问题 [复制链接]

人工智能在带来发展机遇的同时，也引发了跨领域、多层次的系统性治理挑战。全球人工智能安全谁来监管如何防范？
11月8日，《为人类共同福祉构建全球人工智能安全与治理体系》报告（以下简称《报告》）在2025年世界互联网大会乌镇峰会人工智能技术创新与治理论坛上正式发布。《报告》指出，人工智能技术发展迅猛，其安全与治理体系呈现出碎片化态势，国际社会亟需构建具有广泛共识的治理框架与标准。
世界互联网大会人工智能专委会主任委员及安全与治理推进计划联合牵头人、中国科学院自动化研究所人工智能伦理与治理中心主任、北京前瞻人工智能安全与治理研究院院长曾毅，专委会安全与治理推进计划联合牵头人、剑桥大学教授及智能未来中心人工智能未来与责任项目主任肖恩·欧·海格缇（Seán Ó hÉigeartaigh）共同介绍了此项联合研究成果的形成过程及主要内容。
《报告》系统性地证实了专家们的担忧。它指出，2019至2024年间，全球记录在案的人工智能风险事件由约400件跃升至7900余件，总量增长了近20倍。其中，涉及鲁棒性与数字安全、人权与隐私治理、透明度与问责制等问题的事件占比超过60%，显示技术安全性与伦理性议题已成为全球性挑战。
《报告》回顾了联合国、各国政府、区域组织及产业界在人工智能治理上的积极努力。联合国通过成立咨询机构、通过联大决议等方式，推动全球治理议程；欧盟颁布《人工智能法案》，建成全球首部全面监管法律框架；中国发布《全球人工智能治理倡议》等文件，倡导发展和安全并重的原则。产业界和学术界也在积极探索自律机制，如Anthropic的“负责任扩展政策”和OpenAI的“应对准备框架”，旨在确保人工智能系统的安全部署。
《报告》指出，当前在人工智能治理上仍存在结构性局限，如治理规则更新速度慢于技术迭代、工具上不完善，技术支撑有限、跨境协作机制薄弱、责任归属模糊等。
《报告》强调，构建全球人工智能安全与治理体系需着力应对四大关键问题。第一，针对技术快速迭代与不确定性风险，报告建议建立技术跟踪与风险预警协同机制，推动治理规则实现动态更新。第二，在平衡各国发展诉求方面，呼吁构建包容性多边平台，以保障各国平等发展和利用人工智能的权利。第三，为明确多利益相关方的权责边界，报告提出建立履约审查、风险监测与争端调解机制，从而形成协同有序的治理格局。第四，面对地缘政治障碍，报告倡导以联合国为中心践行多边主义，推动共建人类命运共同体。另外，《报告》还借鉴了核安全、气候变化等领域的全球治理经验，提出具体机制举措。
《报告》最后建议，形成应对人工智能技术失控风险共识，建立全球广泛参与的前沿人工智能模型检测与能力评估机制。此外呼吁国际社会凝聚“以人为本、智能向善”的共识，在联合国框架下整合资源，建立分级分类对话机制。联合国系统应发挥协调作用，推动价值共识、技术规范与风险治理的多维整合。
曾毅表示，当前人工智能安全与治理的国际合作已成为重要的全球公共议题。面对技术的快速演进和各国发展的不平衡，国际社会需凝聚共同的风险认知，建立一致的行动框架，并通过机制的设计与完善，确保人工智能技术在安全、可控、包容的轨道上发展。

根据2025年世界互联网大会乌镇峰会期间发布的《为人类共同福祉构建全球人工智能安全与治理体系》报告，针对当前全球人工智能治理面临的碎片化挑战与技术风险激增问题（2019-2024年全球AI风险事件增长近20倍），报告强调需优先解决以下四大关键问题：

一、动态应对技术迭代与不确定性风险
建立跨领域技术跟踪与风险预警协同机制，推动治理规则与快速演进的AI技术保持同步更新，确保对新兴安全威胁的及时响应能力。

二、平衡各国发展诉求与权利
构建包容性多边合作平台，保障所有国家（尤其是发展中国家）平等参与AI发展与应用的权利，避免技术鸿沟扩大，促进全球共享智能红利。

三、明确多利益相关方权责边界
建立履约审查、风险监测与争端调解机制，厘清政府、企业、研究机构等主体的责任分工，形成权责清晰、协同有序的治理格局，防止治理真空。

四、突破地缘政治障碍
倡导以联合国为核心践行多边主义，推动共建人类命运共同体，通过国际合作化解分歧，确保全球治理框架的权威性与执行力。

报告背景与意义
该报告由世界互联网大会人工智能专委会联合中国科学院、剑桥大学等机构发布，首次系统性整合了核安全、气候变化等领域的全球治理经验，提出可操作的国际协作路径。报告指出，当前AI治理面临规则滞后于技术迭代、跨境协作薄弱、责任归属模糊等结构性局限，亟需通过上述四大举措构建“安全可控、包容普惠”的全球体系。

《为人类共同福祉构建全球人工智能安全与治理体系》报告解读
在人工智能蓬勃发展，为各领域带来巨大发展机遇的同时，也引发了跨领域、多层次的系统性治理挑战。11月8日，在2025年世界互联网大会乌镇峰会人工智能技术创新与治理论坛上发布的《为人类共同福祉构建全球人工智能安全与治理体系》报告（以下简称《报告》），为我们深入剖析了全球人工智能安全与治理的现状、问题及应对策略。

一、报告发布背景与核心观点
人工智能技术发展迅猛，然而其安全与治理体系却呈现出碎片化态势。在此背景下，国际社会迫切需要构建具有广泛共识的治理框架与标准。这份《报告》正是在这样的需求下应运而生，它系统性地证实了专家们对于人工智能安全与治理问题的担忧。

二、人工智能风险现状
《报告》通过详实的数据揭示了人工智能风险的严峻性。2019至2024年间，全球记录在案的人工智能风险事件从约400件跃升至7900余件，总量增长了近20倍。其中，涉及鲁棒性与数字安全、人权与隐私治理、透明度与问责制等问题的事件占比超过60%。这充分表明，技术安全性与伦理性议题已经成为全球性的挑战，人工智能的发展并非一帆风顺，其带来的风险不容忽视。

三、各方治理努力与成果
面对人工智能治理的挑战，联合国、各国政府、区域组织及产业界都积极行动起来。联合国通过成立咨询机构、通过联大决议等方式，努力推动全球治理议程，在国际层面发挥着引领和协调的作用。欧盟颁布了《人工智能法案》，建成了全球首部全面监管法律框架，为人工智能的治理提供了法律保障。中国发布了《全球人工智能治理倡议》等文件，倡导发展和安全并重的原则，体现了大国在人工智能治理方面的责任与担当。产业界和学术界也在积极探索自律机制，例如Anthropic的“负责任扩展政策”和OpenAI的“应对准备框架”，旨在确保人工智能系统的安全部署，从实践层面为人工智能治理提供了有益的尝试。

四、当前治理存在的结构性局限
尽管各方做出了努力，但当前在人工智能治理上仍存在诸多结构性局限。治理规则更新速度慢于技术迭代，这使得治理规则往往滞后于技术的发展，无法及时应对新出现的问题。工具上不完善，技术支撑有限，导致在治理过程中缺乏有效的手段和依据。跨境协作机制薄弱，人工智能的发展是全球性的，但各国在治理上的协作却不够紧密，难以形成合力。责任归属模糊，当人工智能出现问题时，很难明确各方的责任，这给治理带来了很大的困难。

五、构建全球治理体系的关键问题与应对策略
（一）技术快速迭代与不确定性风险
针对技术快速迭代与不确定性风险，《报告》建议建立技术跟踪与风险预警协同机制，推动治理规则实现动态更新。通过实时跟踪技术的发展动态，及时发出风险预警，使治理规则能够根据技术的变化及时调整，从而更好地应对技术带来的不确定性风险。

（二）平衡各国发展诉求
在平衡各国发展诉求方面，呼吁构建包容性多边平台，以保障各国平等发展和利用人工智能的权利。不同国家在人工智能发展水平上存在差异，构建包容性多边平台可以让各国在平等的环境下交流和合作，共同推动人工智能的发展，避免因发展不平衡而引发的矛盾和冲突。

（三）明确多利益相关方的权责边界
为明确多利益相关方的权责边界，报告提出建立履约审查、风险监测与争端调解机制，从而形成协同有序的治理格局。通过履约审查，可以确保各方遵守治理规则；风险监测能够及时发现潜在的风险；争端调解机制则可以在出现矛盾时进行协调和解决，使各方在人工智能治理中能够明确自己的责任和权利，协同合作。

（四）面对地缘政治障碍
面对地缘政治障碍，报告倡导以联合国为中心践行多边主义，推动共建人类命运共同体。地缘政治因素往往会干扰人工智能的全球治理，以联合国为中心践行多边主义可以打破地缘政治的壁垒，促进各国在人工智能治理上的合作，共同应对全球性的挑战。

此外，《报告》还借鉴了核安全、气候变化等领域的全球治理经验，提出具体机制举措，为人工智能治理提供了新的思路和方法。

六、报告的最后建议与呼吁
《报告》最后提出了一系列具有针对性的建议和呼吁。形成应对人工智能技术失控风险共识，建立全球广泛参与的前沿人工智能模型检测与能力评估机制。通过全球范围内的参与和合作，共同检测和评估前沿人工智能模型的风险和能力，提前预防技术失控带来的危害。呼吁国际社会凝聚“以人为本、智能向善”的共识，在联合国框架下整合资源，建立分级分类对话机制。强调人工智能的发展要以人的利益为出发点，朝着有利于人类的方向发展。联合国系统应发挥协调作用，推动价值共识、技术规范与风险治理的多维整合，使人工智能治理更加全面和有效。

七、未来展望
曾毅表示，当前人工智能安全与治理的国际合作已成为重要的全球公共议题。面对技术的快速演进和各国发展的不平衡，国际社会需凝聚共同的风险认知，建立一致的行动框架，并通过机制的设计与完善，确保人工智能技术在安全、可控、包容的轨道上发展。只有各国携手合作，共同应对人工智能治理的挑战，才能让人工智能更好地造福人类，实现人类社会的可持续发展。