尊敬的主持人，各位论坛嘉宾，大家上午好

感谢主持人的介绍，上午听了大家的发言很有触动，我今天讲的主题和我们最近的项目密切相关，那就是“人工智能与国际安全治理”。因为时间有限，我的讲话只能舍弃很多有意思的细节。不过在本次论坛开始前，我们已经发布了详细介绍研究成果的中英文文章，并且今天晚上我们研究团队的李彬老师还会作详细的介绍，欢迎大家去旁听。

一、人工智能的安全挑战

过去几年来，不断有专家学者对人工智能可能带来的风险进行“吹哨”，引起了国际社会的关注。人类具有强大的技术研发和应用潜能，但是激活这种潜能的动力往往来自人类对军事技术的研发革新，因此人工智能将不可避免地深度参与各国的军事发展和应用。这将带来一系列的合规、道德和风险问题。过去1年多的时间里，我们清华大学战略与安全研究中心与几家国际机构开展合作，邀请了数十位中美专家学者围绕“中美人工智能与安全”议题开展了系列研究。我们研究的重点是结合国际军控经验，如何管控人工智能武器风险和探讨国际安全治理路径。

我们梳理了人工智能会带来的三个主要的风险。第一个与人工智能技术的不完善性相关，可能导致更大的连带伤害和更负责的国际法规适用性问题。第二个与数据安全相关，包括避免数据受到污染、形成偏见等问题。第三个，也是最需要管控的风险是规避人工智能对战争决策的负面影响，防止出现国家之间的“冲突螺旋”，最终酿成大国间的战争悲剧。

二、人工智能安全治理路径探讨

既然人工智能军事化不可避免，我们的方向就是为人工智能寻找合适的治理路径。

这条路径的出发点是世界各国应该明确人工智能军事应用的治理原则，如果通俗话来说，就是要“先端正态度”：各国需要采取军事克制态度，限制损害范围。各国应该禁止研发和部署能自主攻击人类目标的智能武器。中方学者还提出，各国要主动建构关于人工智能军事行动的国际规范，尊重人类指挥官的主观能动性。

这条路径必须经过大量的法规酝酿和政策试验，也就是所谓的“迈出脚步”，我们专家也提了很多具体建议：比如，要重视人工智能数据训练的安全问题；应该对数据使用和监管进行规范和限制，在数据模型中排除平民和基础设施等内容；诸如一些难以预测的算法不应当纳入系统当中。

三、中美共同开展人工智能全球治理合作

对照刚才的治理路径，我先谈谈中国的情况。“端正态度”方面，中国高度重视和积极推进人工智能相关的治理建设。我们领导人的认识非常有预见性。2017-2018年，政治局分别围绕大数据和人工智能进行了两次集体学习，习近平总书记指出：“要加强人工智能发展的潜在风险研判和防范，……，确保人工智能安全、可靠、可控。”2019年，习总书记还提出要围绕人工智能等技术“加快科技安全预警监测体系建设”。

而在“迈出脚步”方面，中国也提早开展了相关的规范建设。2018年中国发布《人工智能标准化白皮书》，列出了四条伦理原则。2019年，国家新一代人工智能治理委员会发布了8条治理原则，中国政府颁布了《儿童个人信息网络保护规定》以加强对未成年人的信息保护。全国人大颁布的《电子商务法》第二十五条和《民法典》第六章的内容都对保护个人隐私做出不同程度规定，要求不得泄露、出售或非法向他人提供个人信息等。

在全球化时代，人工智能治理的难题是人类共同的，需要世界各国的通力合作。现阶段是构建人工智能国际安全规范的关键窗口期，传统的国际军控经验可以作为参考。从美苏核竞赛开始，经年累月积蓄起来的军控工具箱和政策经验对当前的人工智能国际安全治理具有非常重要的借鉴价值。

我们研究发现，目前中美两国是在人工智能领域发展最快的国家，因此两国先期探讨和达成共识对推动构建国际规范至关重要。其实两国间已有类似的成功先例，比如中美曾经建立了核安全对话机制，并在中美两国的紧密合作下，建立了中国国家核安全示范中心。

中国也在积极释放合作信号：2020年11月，习近平主席在二十国集团领导人第十五次峰会上强调，中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展。2020年9月，王毅国务委员兼外长提出具有先导意义的《全球数据安全倡议》，提出有效应对数据安全风险挑战应遵循三项原则，希望为制定数字安全国际规则提供一个蓝本，开启全球进程。

中美的人工智能技术发展有很强的互补性，在实际应用中存在务实合作的潜力。我相信这不会是一场“零和游戏”，人工智能最终应使得全人类受益。