北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

联系我们 留言板
EN

院内新闻

Institute News

院内新闻

AIIG专家参与《2020全球人工智能治理年度观察》编撰工作

2021.11.08
分享
分享到：

上海市科学学研究所于近日发布《2020全球人工智能治理年度观察》（中英文版本）。该系列报告是首份由全球业内权威专家共同参与撰写的人工智能治理报告。清华大学人工智能国际治理研究院名誉院长傅莹女士、清华大学人工智能国际治理研究院学术委员会委员龚克教授、清华大学人工智能国际治理研究院学术委员会委员苏竣教授、清华大学人工智能国际治理研究院学术委员会委员温德尔·瓦拉赫教授参与此次报告的编撰。


undefined    

傅莹

清华大学人工智能国际治理研究院名誉院长、清华大学战略与安全研究中心主任、第十三届全国人大外事委员会副主任委员、外交部前副部长

 
人工智能和国际安全：挑战与治理    
近年来，人工智能（AI）技术的快速发展带来了巨大的机遇。由于技术变革往往伴随着无法预料的安全挑战，我们必须特别关注AI武器化可能带来的道德和技术危害。如今，人类亟需思考如何有效平衡AI技术所带来的效益与其武器化的安全风险，以及如何探寻适当的AI治理方法。    
     

就目前来看，虽然基于AI的武器系统具有强大的军事效用，但却并不完全可靠，其应用存在大量的潜在挑战。AI固有的技术缺陷可能使攻击者难以控制攻击范围，从而给被攻击者带来过多的附带伤害，并造成平民意外伤亡。同时，基于大数据的算法和训练数据集会不可避免地将偏见带入AI系统的实际应用中，而训练数据集也可能被他国篡改，可能导致AI系统向决策者提出错误的建议，并误导军事指挥官进行错误的部署。此外，AI在可解释性、学习能力和常识认知方面的缺陷将加大人机合作期间发生战场冲突的风险，甚至致使国际危机螺旋式升级。


人类若想应对AI治理的全球共同挑战，就必须进行国际合作，因为任何一个国家都无法独立解决这一问题。各国需要在军事领域保持克制，并携手建立相应的国际治理机制。应禁止使用尚未明晰责任或风险的辅助决策系统。使用基于AI的武器时必须限制其攻击范围，以免造成附带伤害和冲突升级。开发和使用基于AI的武器时必须遵守现行的国际法律法规。应高度重视AI数据安全，对从数据挖掘和收集、数据标注和分类，到数据使用和监控的整个流程进行监管和限制，以防形成错误的模型，导致决策者在此基础上做出错误的判断。


现阶段，我们拥有建立AI安全国际规范的关键机会。中国和美国应在这方面展开对话与合作，因为双方或许有能力为AI治理全球合作献计献策。中国和美国应展开官方讨论，研究如何建立国际规范和制度、在各自的利益和关注点的基础上探索可以合作的领域、交换并翻译相关文件，以及进行政策对话和学术交流。这些措施同时也有助于降低双边关系与全球安全方面的潜在风险。


undefined    
   

龚克

清华大学人工智能国际治理研究院学术委员、世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长


   

从工程视角看人工智能的发展与治理

如今，人工智能（AI）已经从基于科学论文和技术实验室的研究，发展到工程应用阶段，进入了人们的日常生活。这无疑是AI历史发展的转折点。应用和工程师已经成为了影响AI应用进一步发展，以及AI治理的关键因素，对于确保AI能够造福地球和全人类而言至关重要。
   
AI是一种助力人类发展的新工具，AI发展和治理的最终目标是确保AI有利于可持续发展。    

人类区别于其他动物的重要特征是能够制造工具。从简单的石器和铁器，到杠杆、滑轮、各类机械和电力，再到计算机和现代信息网络，人类已经利用这些工具提高了自身的劳动能力、智能水平、生存能力以及幸福指     数。因此，人类历史通常是人造工具的进步史，人造工具则是时代的标志，例如石器时代、铁器时代、机器时代、信息时代等。从这个方面来看，AI也不过是一个推动人类发展的新工具，正将人类带往智能时代。    

必须要指出的是，人类发明和使用工具的目的在于解决生存和发展问题。目前，可持续发展是人类面临的最大问题。因此，AI应该成为一种能推动人类可持续发展的有力工具。这同时也是AI发展和治理的最终目标。2020年，AI领域的主要进展在于，研究人员分析了AI在实现可持续发展目标方面的作用，而这种作用也已经引起了许多国际组织的关注。为了引导和支持AI发展与治理，我们亟须通过更加全面和富有见地的研究来探索AI和可持续发展目标之间的关系。    
   
工程界应担起责任，成为多利益相关者共同发展和治理AI的重要参与者。    

世界工程组织联合会（WFEO）意识到了其有责任推动AI造福人类和环境，并通过其下属的创新技术委员会常务技术委员会成立了一个由产业界和学术界专家组成的跨学科工作小组。2020年3月4日，WFEO在首个促进持续发展世界工程日上发布了一份题为《促进大数据和AI创新与应用在工程中的责任管理方式》(Promoting Responsible Conduct of Big Data and AI Innovation and Application in Engineering)的立场声明。该声明中提出了七项原则，分别是：    

  • 造福人类和人类的生存环境

  • 确保包容性、公平性、公众意识和自主权

  • 在尊重隐私和数据完整性的基础上实现开放共享

  • 透明性

  • 可问责性

  • 和平、安全和保障性

  • 合作


许多政府、非政府组织和公司等都已声明了AI应用原则。虽然这些原则在很大程度上是相同的，但我们仍需要通过大量努力达成全球共识。总体而言，工程尚未在AI治理中发挥重要作用，而不同行业和社会团体之间的交流也有所欠缺。为此，我们亟须开展涵盖多个利益相关者的全球对话。     
  
AI的绿色发展应成为AI发展和治理的重点。    
  
AI在提高各类工程项目的生产力、质量、安全性和效率方面潜力惊人，因此可以说AI正在从各个方面增强和改变工程应用。    

我们惊喜地看到，许多AI应用能够有效提高各类产品和家用电器的能源效率。然而，AI产品的功率效率要远低于人类员工也是众所周知的事实。但是，绿色和低碳发展尚未在AI研发和应用中得到重视。因此，必须呼吁业界充分了解AI开发的严格限制，并更加重视AI的绿色发展和应用，而这也应该成为AI治理的重点之一。    

此外，还需要注意的是，虽然许多针对AI安全和保障性的研发工作已经展开，但是与大约20年前家用电脑在开始被大规模应用时所出现的与之配套的杀毒软件和服务市场相比，用于保障AI安全的产品和服务仍然缺乏。     


undefined    

苏竣

清华大学人工智能国际治理研究院学术委员、教育部特聘教授、清华大学智库中心主任


稳步起飞：中国人工智能社会实验全面展开    
当前，人工智能、大数据、物联网等新技术新应用新业态方兴未艾，特别是在当下全人类共同携手抗击新冠疫情、助力经济高水平高质量复苏的关键时期，人工智能显示出促进经济发展、推动社会重构的巨大威力，成为我们走向未来的最强大的动力之一。但同时，从“技术—社会”学理论的角度来看，从公共政策研究的角度来看，以及从社会公众的感受的角度来看，人工智能在赋能发展的同时也带来了诸多的挑战，引起了法律、隐私、伦理、道德、安全等诸多方面的治理问题。这些问题的规避与化解都需要基于循证方法的科学研究，探索和研判人工智能对人类社会产生的综合社会影响。    
     
自2019年中国的专家学者发出倡议以来，各方积极响应，采用社会实验的方法研究人工智能的综合影响，开始了一场基于循证研究的大规模调查。2020年，在中国克服新冠肺炎疫情影响，通过统筹规划、顶层设计、重点发展、示范推动，人工智能社会实验的学术研究、组织建设、队伍建设、人才培养、基地建设等已经在全国有序展开、稳步起飞，实现了公共政策研究“理论研究—政策建议—政治决策—行政执行—组织实施”的全循环。    

从“发出倡议”到“稳步起飞”，人工智能社会实验的开局起步离不开“建设具有人文温度的智能社会”的广泛共识。有人文温度的智能社会，是一种科学技术高度发达、智能技术广泛应用、技术理性和价值理性综合平衡、人—环境—技术和谐共生、社会开放包容、人文精神张扬的以人为本的社会。这种共识植根于中国发展新兴技术的人本宗旨，发端于人工智能社会实验的生动实践，面向人类未来共同的智能社会图景。    
 
在这种社会共识的推动下，中央部委统筹布局，成立人工智能社会实验专家组，编制人工智能社会实验工作规划。清华大学、浙江大学、北京大学、北京师范大学、中国人民大学等高校积极行动，制定人工智能社会实验的方法模式和操作流程，确立人工智能社会实验的伦理规范，并在城市治理、农村电子商务等领域开展先导性实验，综合运用自然实验、准实验、问卷调查等方法，研究人工智能应用过程中对个体和社会组织带来的影响。迄今为止，在中国学术界、产业界与政府部门的密切配合下，在科学抽样和伦理审查的前提下，围绕医疗、教育、养老、环境保护、城市治理、农业农村等领域，在北京、上海、浙江、广东、湖北等十余个省市，建设了上百个人工智能社会实验场景，形成了一批创新性强、亮点突出的案例，为开展长周期、宽领域、多学科人工智能社会实验打下了坚实的基础。    
  
智能社会是人类从未触及的蓝海，又是我们的未来。现在，人工智能社会实验已经平稳起飞，相关工作已经有序开展。在以人为本的价值引领下，基于科学循证的规范研究，人工智能社会实验将为人类社会从工业时代向智能时代的成功转型提供客观准确的事实依据和“有人文温度”的解决方案。    



1563    

温德尔·瓦拉赫

清华大学人工智能国际治理研究院学术委员、耶鲁大学生物伦理学跨学科中心科技与伦理学科主任


   
新冠疫情与人工智能发展的地缘政治    
除了惨痛的生命损失和筋疲力尽的医疗体系外，2020年的疫情还造成了地方、国家和国际性经济活动大范围停滞。然而，随着工作、教育和娱乐的网络化，数字经济的增长速度显著加快，这包括针对基础设施和人工智能研究的投资。微软等公司的领导们惊讶地发现，原本预计需要3-5年才能达成的目标在下半年就要超额完成了。    
 
在此期间，有关人工智能伦理和治理的工作已从阐明指导人工智能研究和系统设计的原则发展为部署基于人工智能技术的程序和政策。在中国，随着数字信用体系的不断推出，有关人工智能伦理的讨论也越来越广泛，而这些讨论主要集中在隐私问题和个人信息滥用方面。在欧洲和美国，公民自由倡导者带头努力限制人脸识别技术的使用。这些举措在很大程度上是成功的，因为人们越来越意识到，人脸识别系统中使用的算法很可能会产生不准确结果，因此不应该用于执法和其他关键活动。    
 
2020年，特朗普政府倡导的将数字经济划分为两个影响领域的举措进展缓慢，收效甚微。随着曾经初露端倪的独裁和反民主倾向融合成唐纳德·特朗普领导下的一股活跃的政治力量，美国的地缘政治影响力遭到了削弱。尽管美国在政治上存在严重分歧，但美国民众普遍不信任中国，他们曲解了中国的一些政策。实际上，拜登政府有机会重新调整美国的对华政策，但鉴于美国民众对中国的意图仍报以一种不信任的态度，改变目前的方针并非易事。    
  
中国的政治制度被证明能有效解决新冠肺炎造成的公共卫生危机。与此同时，在美国，新冠肺炎疫情的政治化带来了令人触目惊心的死亡人数，并让这个以全球领先的医学研究和医疗保健水平而著称的国家的医疗机构倍感压力。这反过来也暴露了美国民主制度的弱点。    
  
我早就指出了美国人对中国的不了解之处，以及中国人对美国的误解，而且，我也一直强调，我们迫切需要在发展新兴技术和制定气候政策方面展开国际合作，以避免造成严重损害今世后代的发展前景的灾难性后果。虽然在人工智能和其他新兴技术的发展方面表现出合作意愿和一定程度的协调配合的国家有所增加，但并未带来实质性的进展。西方国家越来越多地结成治理联盟，中国和俄罗斯要么被排除在外，要么只有在遵守既定规则的情况下才被邀请加入。许多西方国家正在就与中国共享标准和人工智能政策是否符合本国的最佳利益而展开积极的辩论。基础设施标准的竞争，特别是在5G推出之后，将再次把世界分成两派，并可能带来毁灭性的后果。    
 
拜登执政时代的到来还是提供了重新调整中美关系，并在网络安全、生物安全、人工智能武器和地球工程等重大问题上展开合作的机会。但要做到这一点，所有派别都必须在2021年为实现这一目标而积极采取措施。无论在何种情况下，在短期和长期国家利益与地缘政治稳定之间进行有意识的权衡总是很困难的。然而，面对如此情形，我认为未来的国际安全工作必须确保疫情后的恢复，促进各国对全球变暖做出集体反应，以及减轻数字转型加速所带来的不良社会影响。    





上一篇：人工智能治理研究中心获批北京人文社会科学研究中心立项建设

下一篇：人工智能国际治理框架闭门研讨会成功举办

【关闭】

相关文章

读取内容中,请等待...
北京市海淀区清华大学 01062794781 i-aiig@tsinghua.edu.cn

Copyright © 2021 清华大学人工智能国际治理研究院 All Rights Reserved.