2024年7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议-全体会议在上海世博中心举办。联合国以及各国政府代表、专业国际组织代表，全球知名专家、企业家、投资家1000余人参加了本次会议，围绕“以共商促共享，以善治促善智”的大会主题展开深入交流研讨。

清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜以“以善治促善智——让人工智能治理为人工智能发展护航”为题发表了主旨演讲。薛澜教授从人工智能带来的收益和风险、促进人工智能健康发展的政策与规制、人工智能的国际发展与治理三个方面进行了论述。

图片来源：https://m.yicai.com/news/102177994.html

首先，在“人工智能带来的收益和风险”部分，薛澜指出，2015年全世界193个国家共同签署了联合国可持续发展目标（SustainableDevelopmentGoals）。该目标包含社会、经济和环境三个维度，共包含17个目标以及169个具体指标。有研究表明，人工智能对134个（79%）具体目标产生积极的促进作用，也有可能对59个具体目标（35%）产生不利影响。

                           

图片来源：VinuesaR, AzizpourH, etal. TheroleofartificialintelligenceinachievingtheSustainableDevelopmentGoals[J].NatureCommunications,2020(1).

根据风险源，人工智能的潜在风险包括三类：一是基于技术本身的风险，它包括幻觉、自主人工智能系统失控等风险，特别是从长远来讲，自主的人工智能失控有可能危及到人类社会；二是基于技术开发的风险，包括数据或隐私的泄露、算法歧视和偏见、侵犯知识产权、产生能源及环境为问题；三是基于技术应用或滥用的风险，包括社会就业问题、因深度伪造带来的诈骗，并威胁国家安全，危害社会秩序等，这些问题都是不可忽视的。

                           

图片来源：https://www.sohu.com/a/365135211_384187

其次，在“促进人工智能健康发展的政策与规制”部分，薛澜指出，中国在过去这些年已经建立了比较完整的体系。一方面，我国不仅从数据、算力、算法等底层出台了一系列法律法规，构建了人工智能产业生态，而且从多场景应用角度出台了鼓励人工智能应用的政策，譬如自动驾驶、医疗服务、传媒广告等领域，推动了人工智能的健康发展。另一方面，针对人工智能的风险隐患，我国制定了相应的规则，这既包括《新一代人工智能治理原则——发展负责任的人工智能》、《国家新一代人工智能标准体系建设指南》、《网络安全法》、《个人信息保护法》、《数据安全法》等一系列底层的法规；也包括一系列专项规则、场景或行业规则，如《生成式人工智能服务管理暂行办法》、《规范和加强人工智能司法应用的意见》、《人工智能算法金融应用评价规范》等，从而构建了多维度、多层次、多领域、多举措的整体治理体系。

                           

图片来源：作者自制

薛澜强调，人工智能发展和风险防控，还需要普及社会对人工智能的认知，鼓励公众参与规则制定与监督。我国社会对人工智能发展总体持积极态度，但也存在认识不足的地方。2024年2月，中央网信办等四部门印发了《2024年提升全民数字素养与技能工作要点》，对此作了专门部署。

                           

图片来源：https://www.cac.gov.cn/2024-02/21/c_1710183257270007.htm

最后，在“人工智能国际发展与治理”部分，薛澜提出，当前国际社会存在巨大的“智能鸿沟”。全球人工智能技术飞速发展，但大多数国家特别是发展中国家尚未能真正接触、使用人工智能并从中受益，全球“智能鸿沟”有扩大之势。“智能鸿沟”表现在以下四个方面，一是智能基础设施鸿沟。联合国的统计数据显示，截至2023年，全球仍有约三分之一人口，即26亿人处于未接入互联网的状态；到2030年，全球仍将有约6.6亿人缺少稳定的电力供应。二是公民数字素养鸿沟。到2030年，全球估计仍约3亿学生缺乏在生活中获得基本的计算和识字技能。三是人工智能发展鸿沟。人工智能的技术创新和产业应用集中在中、美、欧等科技大国，世界地图上存在大量人工智能发展的“空白区域”。四是人工智能治理鸿沟。各国人工智能在发展水平、应用场景、价值观念、文化历史上存在差别，这导致治理政策和措施上有很大不同。“智能鸿沟”不仅加剧了“发展鸿沟”，阻碍了可持续发展，而且加剧了安全风险，并且一个国家带来的风险就是全球风险，国际社会必须共同努力解决这些问题。

                                                       

图片来源：作者自制数据来源：斯坦福大学《2024年人工智能指数报告》

面对以上挑战，薛澜对人工智能国际发展与治理提出了三个方面的建议。
第一，国际人工智能政策讨论要兼顾风险防控与创新发展。一方面，发展与安全是治理的一体两翼，应综合平衡风险防控和创新发展。全球风险防控，需要各国尤其人工智能技术落后的国家也能参与全球风险防范的讨论和规则制定。全球创新发展，需要确保发展中国家在人工智能发展带来巨大经济社会利益的过程中也能分享红利。另一方面，应致力于在联合国框架内团结全球更多元力量参与治理，既要参与人工智能风险防控进程，也要推动技术开源开放、人才交流互通；要让市场在算力、数据、算法的全球配置中发挥基础作用，让算力、模型、应用的飞轮演化出缩小全球智能鸿沟的自然力量，以产业均衡促进治理协同，以共同发展、共同繁荣维护共同安全、共生利益，确保人工智能可持续发展。
                           

图片来源：Bengio, Y. etal. ManagingextremeAIrisksamidrapidprogress[J]. Science,2024,384(6698), 842-845.

第二，要加强沟通，建立合理风险防控体系。一是要多途径建立国际交流及防控体系。人工智能技术，将多类技术特性结合起来，迭代速度很快、技术风险存在不确定性、不可预期性、扩散便捷性，这导致人工智能智能风险无上限、无国界、不可逆，因而需要通过多途径国际交流建立防控体系。二是要加强政府间多双边对话机制。要在联合国框架下建立不同利益相关方都能有效参与的开方性对话平台和包容性治理机制，推动各国形成共识，确保各国开发和使用人工智能须符合《联合国宪章》的宗旨和原则，特别是2023年12月联合国人工智能高级别咨询机构《为人类治理人工智能》提出的“加强世界各地新出现的治理工作的互操作性”。三是要以科学共同体力量助力国际治理机制完善。建议成立类似联合国政府间气候变化专门委员会（IPCC）的专门委员会和工作组，定期召开会议，开展专门研究，发布相关报告，以为国际治理提供科学可靠、具体可实施的智力支撑。

                           

图片来源：https://www.un.org/en/ai-advisory-body

第三，国际社会要建立落实机制，推动AI应用和发展。一是要加强各国特别是发展中国家的人工智能能力建设机制。2024年7月1日，第78届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议。该决议作为联合国首份关于人工智能能力建设国际合作的决议，充分反映了《全球人工智能治理倡议》和全球发展倡议的核心要义。二是要加强人工智能应用案例的全球分享机制。在长期实践中，产业界普遍通过提出准则指引、成立治理机构、开发治理工具等方式，践行负责任的人工智能。应致力于构建更加包容、开放的技术开源社区，鼓励行业从业者相互分享并借鉴各国在人工智能不同领域的应用实践，共同探寻企业在人工智能发展与安全平衡过程中应有的角色和作用，为人工智能国际治理注入鲜活动力。三是要加强人工智能领域的国际学术交流机制。要打破学术壁垒，加强国际学术交流与合作，特别是推动开展人工智能基础研究领域的合作，在理论上更好地解释人工智能风险根源、预测人工智能发展潜力和制定人工智能发展规划。

                           

图片来源：http://un.china-mission.gov.cn/chn/hyyfy/202407/t20240702_11445457.htm