【摘要】人工智能技术正在形塑未来世界，在助力实现联合国可持续发展目标的同时，其自身的可持续性发展问题日益凸显。当前，世界主要力量密切关注人工智能国际治理议题，在不同程度上提出各自的治理原则、模型和框架，但也存在全球代表性不足、碎片化构建与解读、技术逻辑与权力目的相冲突等问题。本文在可持续发展视域下，关注人工智能自身及衍生的可持续发展问题，在人工智能系统三层架构及可持续发展5P维度中建构可持续的人工智能发展矩阵，并在此基础上梳理治理目标、治理客体、治理主体、治理手段等，探索性地提出人工智能可持续发展全球治理范式。本范式有助于夯实更广泛的人工智能国际合作基础，促进更有效的全球治理，保障更健康的人工智能发展。
【关键词】人工智能；全球治理；可持续发展
【DOI】10.13580/j.cnki.fstc.2022.09.011
0 引言
当前，以人工智能为代表的新一代信息技术正在成为未来世界的技术支撑与发展动能。人工智能以其独特的技术能力助力落实《2030议程》及实现可持续发展目标，同时其自身的不可持续性发展问题日益凸显。世界主要国家、国际组织、高校、企业、社会组织和技术社群都在密切关注人工智能治理问题，在不同程度上提出各自的人工智能治理建议、原则和框架。这些内容为人工智能国际治理提供基础认识的同时，也存在包容性与全球代表性不足、利益群体碎片化构建与解读、技术逻辑与权力目标相冲突、笼统而不具指导性、普遍而不考虑特殊性、与具体实践相矛盾等局限【1】，进而不符合充分治理的标准、不具备全球治理的属性。本文以可持续发展的理念，在全球可持续发展视域下看待人工智能发展及国际合作与治理问题，提出需要实现“可持续的人工智能发展”（Sustainable Artificial Intelligence Develop-ment，SAID），尝试在《2030议程》及SDGs体系中梳理人工智能面临的不可持续性发展挑战，建构全球沟通基础更好的人工智能SAID治理范式，为实现广泛的人工智能国际合作奠定理论基础，为人工智能国际治理规则制定提供整合方案选择。
1 文献综述
国内外在人工智能国际治理、人工智能与联合国可持续发展目标的结合研究上开展了一定程度的探索。
1.1 人工智能国际治理
迄今为止，人工智能治理研究主要集中在国家和次国家层面，对人工智能国际治理的研究仍处于初始阶段。国际学术界普遍认为人工智能的治理难度很大，有观点【2】认为由于技术领域对人工智能尚且没有明确定义，因而很难限定人工智能治理的可管理范围；还有观点【3】认为人工智能是不同技术的集合，在不同应用程序和行业中具有不同的风险特征，因而不能被统一监管。Gasser【4】认为人工智能治理至少面临三大挑战∶技术人员与政策制定者之间存在的信息不对称；在不同利益相关者之间寻求规范共识的难度大；传统治理经验及政策工具与数字时代不匹配。人工智能系统的异质性、复杂性和技术自治程度都要求对现有政策、法律和法规进行新的思考。
在人工智能国际治理的机制、模型和框架研究与设计方面，研究者主要从主动矩阵、多中心治理、机制复合体、混合监管和网格监管理论中汲取经验【5】。麻省理工媒体实验室的学者们认为治理的基础是首先要理解技术逻辑下的“机器行为”【6】，并在动态静态、近观远观下构建了四个维度的机器行为，进而又开展了“道德机器”【7】实验，发现了跨文化背景下的全球伦理偏好，揭示了三种不同价值偏好的集群国家。
人工智能国际治理中存在一种突出的“人权范式”【8】，即明确引用主要的欧洲和国际人权文书作为人工智能技术的规范标准，在《世界人权宣言》《公民权利和政治权利国际公约》《经济、社会、文化权利国际盟约》、联合国《企业与人权指导原则》和《欧洲人权公约》等人权法框架下开展人工智能国际治理。对人工智能国际治理“人权范式”的批评也普遍存在，认为其过于西方化、过于个人主义，范围过于狭窄、过于抽象【9】，没有考虑文化差异【10】，无法构成健全的人工智能国际治理基础。
中国学者积极参与并深入研究人工智能国际治理，傅莹【11】认为各国应从构建人类命运共同体的视角，从共同安全的理念出发讨论人工智能的国际规范；贾开等【12】提出人工智能治理的技术逻辑问题、传统治理适配性问题以及公共政策选择问题；陈伟光等【13】、俞晗之等【14】从治理主体、结构和机制、实践进展等方面对人工智能全球治理情况做了梳理鲁传颖等【15】探讨了多方治理模式与多边治理模式在不同人工智能治理对象中的适用；高奇琦【16】从霸权逻辑与冲突逻辑出发，提出人工智能全球治理应在人机、多国和多行为体合智等方面形成全球善智和全球合智；卢迪等【17】关注人工智能教育的全球治理问题。在国内该领域的研究中，期待未来更多融合中国传统文化优势，为人工智能国际合作与治理提供中国智慧与中国方案。
1.2 人工智能与可持续发展
在《2030议程》与SDGs语境下，诸多研究关注人工智能作为促进实现SDGs的关键推动因素，且在SDG1到SDG17中均有涉及【18】；也有不少研究关注人工智能对可持续发展的反作用，如有观点【19】认为人工智能利用率的提高将加剧全球经济不平等并带来人类生存危机，从而阻碍可持续发展进程。Ricardo等【20】分析了人工智能对可持续发展目标或积极或消极的影响，从而发现人工智能可以支持所有可持续发展目标的134个子目标的实现，但也可能抑制59个子目标；Goralski等【21】通过三个人工智能项目的案例研究，从商业战略和公共政策角度分析人工智能对可持续发展的影响，并认为在人工智能时代，推动全球可持续发展需要与时俱进地更新管理能力和提升领导力水平。
Truby【22】认为，人工智能治理框架必须有利于全球可持续发展目标。Djeffal【23】认为，人工智能不仅在应用端要用于实现可持续发展目标，还应在前端对其进行可持续发展研发，即便当前人工智能面临诸多不可持续性发展的问题，但令人惊讶的是，迄今为止还没有从可持续发展的角度全面考察人工智能发展问题的研究，因此他提出应当以“可持续发展”作为治理理念与目标来建构人工智能治理框架，并提出"可持续的人工智能发展"的技术层、社会层和治理层。技术层的核心理念是Mulder等【24】提出的“可持续的技术”，社会层关注人工智能应用带来的社会影响，治理层则以实现SDGS为目的。
人工智能国际治理的当前研究、人工智能与可持续发展的结合研究、可持续的技术概念以及已有的可持续发展理念下的人工智能治理探索，都为本研究提供了丰富的养分，奠定了扎实的理论文献基础。
２ SAID 框架
在前人研究的基础上，本文探索性地在《2030 议程》下建构可持续的人工智能发展模型，搭建人工智能可持续发展全球治理框架（SAID框架）。
2.1 人工智能系统层
中国信息通信研究院将人工智能产业链分为基础支撑层、软件算法层与行业应用层前瞻产业研究院也将人工智能产业链分成基础层、技术层与应用层。德勤（Deloitte）将人工智能系统分为五个层次技术支持层、算法层、研究方法流派层、技术领域层及应用领域层。国际标准化组织《人工智能系统生命周期过程》工作草案（ISO/IEC WD5338）将人工智能系统全生命周期概括为初始、设计研发、检验验证、部署、运行监控、持续验证、重新评估、废弃八个阶段。
2.2 可持续发展维度
在过去的20年中，有关可持续发展的研究文献激增，以至于人们经常将可持续发展科学视为一个独立领域【25】。关于可持续发展的认识也演化出可持续发展是关于经济增长、社会包容及环境保护的三个相互关联的支柱等。《2030议程》认为可持续发展有五个关键维度，即人类（People）、地球（Planet）、繁荣（Prosperity）、和平（Peace）和伙伴关系（Partnership），合称为5P维度。
2.3 SAID框架搭建
在人工智能三层架构和可持续发展5P维度上，本文建构了可持续的人工智能发展矩阵模型（见表1）。在可持续的人工智能发展模型基础上，结合治理目标、治理主体、治理客体、治理手段等，本文建构了人工智能可持续发展的国际治理范式（见表2），并重点梳理了不同维度上的治理客体（见表3）。
3 SAID范式的比较优势
SAID人工智能国际治理范式建立在可持续发展理念、《2030议程》与SDGs的体制机制等的基础之上，与上文提到的几个人工智能国际治理范式相比，具有一些更能构成有效的全球治理优势。
3.1 人工智能伦理与治理问题的全面系统性梳理
可持续发展理念的包容性，使得运用SAID框架来系统梳理人工智能发展进程中的伦理与治理问题成为可能。与大多数研究只关注人工智能系统本身的安全问题或只看到人工智能技术应用带来的社会问题不同，SAID框架分类法的相对互斥性和穷尽性，系统整合了人工智能技术在各层各类中的本身问题及衍生问题。特别是在人工智能基础层可持续发展和人工智能生态可持续发展问题上，以往研究鲜有提及，但在实践中却是非常显性的问题。可持续发展的目标－结果导向决定其所考量的需求不限于地域或利益群体，这使得可持续发展范式能够提供比人权范式等更为完整的全球画面。
3.2 人工智能研发、评估与治理的指导性框架工具
SAID矩阵框架可用于梳理不断出现的新的人工智能治理客体，还可对人工智能系统各层面的研发、评估与治理进行规范和指导。在研发全流程中，可使产品经理、算法工程师等重视技术可持续性及预想产品可能造成的可持续发展问题；在自我评估或第三方评估中，框架可用来考察各阶段是否符合整体可持续及具体环节可持续的标准。本文还设想了一种“项目立项勾选机制”，在人工智能项目申请立项时就需要申请人回答并勾选该项目符合或促进SDG1-SDG17中哪个或哪些SDGs的实现。
3.3 人工智能治理原则、目标与实践案例的耦合
对诸多人工智能伦理和治理原则的普遍评论之一是笼统而不具指导性，治理目标不清且没有用于诠释原则的具体案例。将人工智能国际治理与《2030 议程》相结合，则能够实现治理原则、治理目标与现实案例的结合。一方面，联合国可持续发展目标范围广泛，几乎涵盖所有人工智能涉及的产业及应用场景，治理目标明晰另一方面，多个国际组织和智库机构收集全球人工智能应用案例，建立“人工智能技术助力实现SDG”数据库，如国际电信联盟的人工智能案例库、牛津大学人工智能项目平台、北京智源人工智能研究院面向可持续发展的人工智能智库平台等，这些案例阐释了在现实世界中如何贯彻伦理原则，聚集可持续的应用，因此使抽象的价值更加具象化，也更具指导性。
3.4 人工智能国际治理的全球代表性与嵌入式优势
人工智能国际合作与治理必须解决如何使治理话语权更具包容性和多边性的问题。现有的人工智能倡议许多都缺乏来自发展中国家的代表和参与，特别是当考虑到人工智能有潜力对发展中国家产生重大影响并使其受益，或有关他们的数据的缺失或滥用。《2030议程》是经过权力博弈和艰苦谈判达成的全球共识，获得了联合国会员国的一致认可。因此，人工智能国际治理与《2030议程》的融合，将至少获得两点嵌入性优势∶一方面，将扩大治理的全球代表性，为最广泛的国际合作奠定基础，确保人工智能决策为全球造福另一方面，使联合国能够发挥重要作用，使有关的政府部门、私营部门、民间组织、学术界和科技界共同协作。现有联合国系
统、各国的落实可持续发展的国别方案、全球可持续发展的体制机制与现有努力等都能够为人工智能国际治理所用，避免了动员成本高、机构冗余等平地起高楼带来的问题。
3.5 各级各类组织人工智能转型与治理的普遍适配
人工智能作为使能技术正在赋能和推动各级各类组织的转型升级，也随之带来内外部的治理问题，无论这一组织是否在人工智能产业链上。可持续发展范式能够普遍适用在国际组织、国家、高校、企业、社会组织和技术社群的人工智能治理活动中。如联合国系统的各个组织和专门机构，都能够找到其对应的人工智能治理维度，并努力引导和运用人工智能技术来实现其主攻的可持续发展目标，如高校的人工智能转型、人工智能治理研究中的可持续发展侧重，以及加速高校实施“以可持续发展目标为导向的教育”等；人工智能基础层、技术层、应用层的产业链上都涉及诸多主体，仅就技术层上的企业实践而言，我们已经看到旷视的人工智能可持续发展治理，商汤的人工智能可持续发展观等。
3.6 人工智能治理的全球话语体系及积极叙事方式
人工智能涉及的领域与学科众多，人们在讨论人工智能治理问题时往往缺乏沟通基础，在全球范围内更是如此。企业界及学术界等提出了多种人工智能概念，如负责任的人工智能（Responsible AI）、有益的人工智能（Beneficial AI）、以人为本的人工智能（Human-centered AI）等，多种概念在完善人工智能治理不同维度的同时也造成了概念碎片化的问题，亟待具有全球对话基础的及更具包容性的人工智能概念。可持续发展的人工智能是一个好的选择，不仅在于它降低了全球沟通成本，还在于它提供了一种新的积极叙事方式。它不是以歧视、侵犯、不公平、滥用等负面眼光来提出问题，而是正面的积极构想。因此，作为全球话语体系及积极叙事方式的可持续的人工智能发展，更有利于全球沟通对话，鼓舞和凝聚人心，实现治理目标。
3.7 人工智能治理与世界整体发展状况动态同行。
全球发展目标是在充分考量世界整体发展状态的基础上制定的，并且随着人们对发展的认知深化而逐步更新。例如，2000年9月通过的《联合国千年宣言》，其核心是8项千年发展目标，其中的重点是使极端贫穷人口比例减半，从遏止艾滋病的蔓延到普及小学教育，这是对当时世界情况的反映以及以15年为年限的愿景目标；2015年17 项可持续发展目标的制定是基于新的世界普遍状态，也反映出人们对发展理念和发展模式的改变。世界处在动态发展的过程当中，全球规划与技术发展同样如此。人工智能技术在不断发展，将会带来更多不确定性的风险，将其与《2030议程》及可能的2045年之后的全球议程相结合，可以使人工智能治理与世界整体发展状况动态同行。
4 结语与讨论
技术革命往往伴随着不可预知的挑战，人类曾经因为对颠覆性技术的全球治理认知不够深入而面临巨大的文明威胁。前事不忘，后事之师。人工智能国际治理已成为各国的共同关注，人们希望在以人工智能为代表技术所驱动的第四次工业革命初期能走在技术变革的前面，充分认识其风险，将危机关口前移，在全球范围内达成治理共识。可持续发展理念的包容性、《2030议程》的全球代表性以及对标SDGs的执行明确性，在一定程度上弥合了既有的一些框架设想的局限，但不可否认，也需要用发展的眼光来看待SAID范式。以下是本文展望的未来人工智能国际治理工作的可能方向。
4.1 在技术逻辑下实现治理目标
人工智能技术本身就是人工智能治理的重要参数和主要手段，关于人工智能的技术问题可以通过其自身的技术来解决。人工智能伦理与治理原则可以用算法来保障，如Stuart【26】探索了人工智能伦理的技术实现路径，提出指引人工智能演化的利他（人的利益凌驾机器利益）、谦卑（机器不能自以为是）、助人（机器能学懂人的偏好）三原则，并用严格的数学方法来实现这些原则。
4.2 借鉴以往新疆域全球治理经验
新疆域是一个相对的概念，曾经的核技术、外层空间、生物化学等都是以往的新疆域。对于它们的国际治理，人们曾走过很多弯路，也获得了许多宝贵的经验教训。例如，在核治理中，帕格沃什科学和世界事务会议（Pugwash Conferences on Science and World Affairs）在核裁军中发挥了重要作用；联合国外层空间事务厅（UNOOSA）协助发展中国家将空间技术应用于发展；“希波克拉底誓言”（Hippocratic Oath）奠定了医学的精神底色。人工智能国际治理应当扬长避短，借鉴过往经验。
4.3 加强全球共同价值的提取与确认
哈佛大学伯克曼互联网与社会中心收集了来自拉丁美洲、东亚和南亚、中东、北美和欧洲的政府、企业、高校或NGO公开发行的36份人工智能伦理原则文档，通过文本研究后发现，全球大致有八项伦理共识。其中，所有文本提及“公平公正”，97%提及“隐私保护”及“可追责”，94%提及“透明与可解释性”，81%提及“安全”，78%提及“专业研发责任”，69%提及“人类价值”与“在人的控制之下”，64%提及“人权”【27】。治理原则深受文化、语言、地缘和组织背景的影响，全球治理应在充分尊重差异的基础上形成共识。
4.4 培植科技向善的企业与社会文化
人工智能科技类企业在人工智能产、学、研、用中扮演着关键节点的角色，科技向善的企业文化将有助于人员自觉自发地把伦理原则融入产品研发与应用当中，实现可持续发展。同时也应培植相应的社会文化，将人工智能治理原则融入科学传播与科学教育中，推进人工智能传播、教育与治理的协同演进，实现标本兼治的根本治理。国际上越来越重视人工智能伦理教育【28】及以人类可持续发展为指向的科学教育【29】，以期培养技术能力与伦理素养兼备的下一代全球科技领导力。还可面向农民开展人工智能技术赋能农业农村发展的相关活动、面向老年人的数字银龄行动、面向产业工人的就业引导与绿色技能培训、面向公务员的科技治理培训等。
4.5 以人工智能治理促进全球治理变革
随着人工智能技术的发展及衍生出更多的治理问题，将会使固有的全球治理体系缺陷变得更加明晰。人工智能治理下的全球治理变革表明∶首先，相关的国际准则可能需要改变，以此来适应和引导人工智能技术的发展；其次，透过人工智能治理的视角观察全球治理体系，可以显明全球治理的痼疾，开启治理新思路最后，人工智能国际治理为促进全球治理变革提供新的机遇，可能使未来全球治理和国际秩序向着更加公平公正、有序有效的方向发展。
（参考文献略）
