北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results

年度

20

21

盘点

全球人工智能治理趋势

作为第四次工业革命基石的人工智能技术在2021年度继续蓬勃发展且广泛应用到了社会生活中的多个方面,进一步推动经济社会各领域从数字化、网络化向智能化加速跃升。因人工智能技术的应用而产生的伦理风险、隐私泄露、数据安全等各方面问题在全球范围内引发了诸多争议,因此如何更好地治理人工智能已成为全球范围内重点关注的一大议题。一方面,全球各国依然竞相抢占人工智能技术的应用带来的广泛机遇,另一方面,世界各国政府也纷纷将人工智能治理作为一项国家重要战略。人工智能治理竞赛已成为各国在新兴技术领域竞争的一个新的角斗场。2021年,关于人工智能治理的标志性事件在全球范围内已屡见不鲜,各国和地区不仅积极起草、出台规范人工智能技术的法律法规,还竞相出台与人工智能技术向善发展相关的政策指南等举措。对人工智能治理举措展开研究,有助于清晰了解各国和地区在推动人工智能技术可靠、向善、可信发展方面采取的举措和取得的进展,识别各种治理模式的不同侧重点,从而有助于展开深层次的比较,进而推动建设一个完善的,获得全球共识的人工智能全球治理体系。此外,还有助于把握人工智能技术应用产生的各类型风险,研判应对这些挑战的最佳方式,进而对人工智能未来发展趋势有更加清醒的认识。清华大学人工智能国际治理研究院一直致力于研究人工智能国际治理重大问题,追踪和分析人工智能治理前沿动态。研究院综合收集到的各方面资料和专家观点,以及基于研究院推出的《人工智能国际治理观察》系列刊物,总结归纳出人工智能国际治理在2021年度的五大发展趋势和五大倍受各方关注的人工智能治理重点事件


undefined  

趋势一

全球范围内的人工智能技术规制竞赛已然开始

自2017年以来,加拿大、美国、中国、英国、新加坡、韩国、加拿大、欧盟、经合组织等国家或地区已陆续发布人工智能发展原则和治理准则。在2021年度,全球范围内关于人工智能治理的准则和战略进一步深化和具体,各国和地区不再仅局限于制定宏观层面的指导战略,而是日益细化至各个具体层面。美国为了确保其在人工智能领域的全球领导地位,在2021年度出台的与人工智能相关的立法和研究政策显著增加。不仅通过了国家层面的人工智能战略——2021年国家人工智能倡议法案,还正式成立了国家人工智能倡议办公室,该办公室旨在负责实施美国的人工智能国家战略,并监督和协调联邦政府与私营部门之间的研究工作。美国国家人工智能安全委员会(NSCAI)还发布了《人工智能国家安全委员会最终报告》,该报告是NSCAI为美国赢得人工智能时代的竞争而提出的战略。此外,于2021年6月8日投票《美国创新与竞争法》明确指出要通过投资来提高美国在技术领域应对中国带来的竞争的能力,并且将人工智能、机器学习等列为重点关注的关键技术。在白宫科学技术政策办公室(OSTP)国家科学基金会 (NSF)牵头之下,美国还宣布成立了国家人工智能研究资源工作组,该小组将帮助创建一个共享的国家人工智能研究基础设施,提供可访问的计算资源、高质量数据、教育工具和用户支持。而针对具体的治理领域,美国也陆续推出了一系列举措。例如,在算法治理方面,美国政府问责局(GAO)在2021年6月发布了一份确保联邦机构和其他参与人工智能系统设计、开发、部署和持续监控的实体可以负责任地使用人工智能的报告。OSTP则在2021年11月10日表示,将举办一系列活动让美国公众参与到制定与算法治理有关的法案的过程。美国国家人工智能倡议办公室主任 Lynne Parker表示,美国在人工智能算法监管方面的愿景以欧盟的《通用数据保护条例》(GDPR)为蓝本。为了解决算法透明度和公平性方面的问题,美国联邦贸易委员会(FTC)在2021年4月发布了指南,该指南强调了FTC计划在影响消费者的算法决策方面执行透明度和公平原则的决心。在国家安全方面,美国国防部国防创新部门于2021年11月14日发布了“负责任的 AI 指南”,为第三方开发人员构建军用 AI提供了指导。在保障劳动力就业方面,美国平等就业机会委员会(EEOC)表示该机构计划审查人工智能工具和技术如何应用于就业决策,以及旨在指导雇主公平使用人工智能技术,遵守联邦平等就业机会法。在面部识别和个人隐私方面,部分民主党参议员在2021年6月提出了暂停面部识别和生物识别技术的法案。在技术发展方面,美国国土安全部科学技术局发布了《人工智能与机器学习战略计划》,该计划提出了未来三大战略目标,即推动用于跨领域国土安全能力的下一代人工智能和机器学习技术发展;促进在国土安全任务中使用经过验证的人工智能与机器学习能力;以及建立经人工智能与机器学习技术培训的跨学科员工队伍。

与此同时,全球参与制定人工智能治理准则的国家和地区也进一步扩大。土耳其于2021年8月24日发布该国首个《国家人工智能战略》。土耳其总统埃尔多安亲自为该战略撰写序言,并表示,土耳其在人工智能领域取得突破的时机已经到来,土耳其也有机会通过设计人工智能系统,使新的技术经济突破与其根深蒂固的文明经验相融合,为整个人类增加价值。该战略主要围绕培训人工智能专家和增加该领域的就业,支持研究、创业和创新,获得高质量的数据和技术基础设施,作出安排以加快社会经济适应,加强国际合作和加快电力体制和企业转型这六个方面展开。2021年9月22日,英国数字化、文化、媒体和体育部(DCMS)正式发布《国家人工智能战略》,这是该国首次发布与人工智能相关的国家战略。该战略阐述了英国在人工智能领域的愿景,旨在使英国成为人工智能领域的全球超级大国。北约也于2021年10月21日发布了首个北约人工智能战略,该战略概述了如何以受保护和合乎道德的方式将人工智能应用于国防和安全,该战略还根据国际法和北约的价值观制定了负责任地使用人工智能技术的标准,以及提供了如何应对对手使用人工智能所带来的威胁,和如何与人工智能创新社区建立信任合作。

毫无疑问,全球各国和地区的监管机构已将发展和规制人工智能技术作为了首要战略。由于各监管机构也纷纷寻求将其自己的治理方法发展为全球共识,从而引发了一场关于人工智能治理的全球竞争。尽管这种规制竞赛会导致在处理一些问题时存在衡量基准不一致,以致导致网络空间碎片化的风险,但是这种竞争也有助于推动全球形成一个完善的、基于普遍共识的人工智能治理框架。


趋势二

人工智能治理法治化程度提高

全球各国和地区普遍提高对人工智能领域立法的重视程度,以人工智能重点问题为出发点,从中央到地方,各层级不断扩大“有法可依”的人工智能治理领域,为人工智能技术可靠、可信、可持续发展奠定了良好的法治基础。

以我国为例,我国各层级政府一直高度重视通过利用“硬法”来规范人工智能技术的应用,解决因应用人工智能技术而产生的相关问题。尽管目前我国在国家层面还没有关于人工智能治理的综合立法,但已相继出台和实施了多个与人工智能相关的专门立法,秉持具体问题具体分析的方法,针对不同领域和问题“量体裁衣”式地打造对应的治理与监管机制。以人工智能技术应用导致的个人隐私信息泄露等问题为例,不仅出台且施行了《中华人民共和国个人信息保护法》,法案围绕个人信息的处理,从处理规则、跨境提供、个人权力、处理者义务、保护职责部门以及法律责任等不同角度确立了相应规则,并且针对敏感个人信息和国家机关处理强调了特别规则。明确了个人信息处理者通过自动化决策方式向个人进行信息推送、商业营销,应提供不针对其个人特征的选项或提供便捷的拒绝方式;处理生物识别、医疗健康、金融账户、行踪轨迹等敏感个人信息,应取得个人的单独同意;对违法处理个人信息的应用程序,责令暂停或者终止提供服务。国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局四部门还于2021年3月联合发布《常见类型移动互联网应用程序必要个人信息范围规定》,该规定旨在落实《中华人民共和国网络安全法》关于个人信息收集合法、正当、必要的原则,规范移动互联网应用程序(APP)个人信息收集行为,保障公民个人信息安全。最高人民法院通过的《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》也于2021年8月1日正式施行。《规定》从侵权责任、合同规则以及诉讼程序等方面,对使用人脸识别技术中涉嫌侵犯信息主体人格权的情形以及相应的民事权益救济进行了全面的规定。该规定明确表明,处理人脸信息必须征得自然人同意,不得强迫、变相强迫同意处理其人脸信息。在地方层面,《深圳经济特区人工智能产业促进条例(草案)》(《深圳经济特区数据条例》)、《上海市数据条例(草案)》等地方性综合法规相继出台,不仅提出了促进当地人工智能、数字化发展的举措,还明确了相关治理原则和措施,有助于为制定国家层面的法律法规提供借鉴。

国外来看,欧洲是全球范围内率先开展人工智能立法的地区。以欧盟为例,从《通用数据保护条例》(GDPR)开始,欧盟陆续在数据治理、算法治理等特定领域出台相关法律法规,并且一直致力于研究和制定一套关于人工智能技术的规范方针或立法。欧盟委员会于2021年4月21日通过了《人工智能法》提案,旨在通过此举将欧洲打造为值得信赖的全球人工智能中心,建立关于人工智能技术的统一规则,以及增强欧盟对于人工智能技术的吸收、投资和创新能力。此法律框架将与欧盟各成员国实施的协调计划积极结合,以保障公众和企业的隐私安全和基本权利为主要出发点,并且基于人工智能发展趋势,将风险进行高低分类。该提案还明确了人工智能技术在不断更新和发展的同时,应当满足于当前世界范围内对于符合社会基本价值观与发展新兴技术两者间的平衡要求,从而使欧洲公众能够加强对人工智能技术所提供的产品和服务的信任。


在2022年伊始,欧洲议会还通过了《数字服务法》(Digital Services Act),该法律随后将提交至欧盟各成员国议会进行审议,在获得各国批准后将正式生效并实施。目前欧盟期待各成员国可以在2022年上半年就该法案达成共识。《数字服务法》旨在进一步加强对大型互联网公司经营活动的监管,包括限制大型互联网公司利用数据优势未经允许向用户定向发送广告,限制对同类型公司的绞杀性兼并,以及要求这些公司加强对平台上非法内容的自查等。该法律同时授权欧盟委员会对违反相关规定的公司最高处以该公司上一财年全球销售额6%的处罚。而此前根据GDPR,欧盟数据监管机构是可以对最严重的违规行为处以高达该公司年营收4%的罚款。基于此,西方舆论界普遍认为,《数字服务法》剑指近几年频繁被欧洲国家监管的Meta、苹果、谷歌、亚马逊等美国科技巨头。这些科技巨头因市场垄断、用户隐私安全等问题在2021年多次被欧洲监管机构处罚。根据全球性律师事务所欧华律师事务所发布的最新报告,欧盟在2021年度对亚马逊和Meta旗下WhatsApp的处罚金额(共接近10亿欧元)占据了欧盟数据监管机构在当年开出的所有罚款金额中的很大一部分,甚至将欧盟数据保护罚款金额推高至创纪录水平。据该报告显示,欧盟在2021年基于GDPR的罚款总额为11亿欧元,同比2020年增长了近7倍。这都表明,欧盟严格的隐私规定已开始发挥作用。

undefined



趋势三

伦理规范引导人工智能可信向善发展

因人工智能技术的发展和应用而导致的伦理问题一直是社会各界颇为重视的一个领域,引发了全球范围内的广泛讨论,相关机构纷纷参与制定与伦理问题相关的规范标准。确保人工智能技术的发展与应用坚持“以人为本”与打造“可信人工智能”系统也已成为全球重要共识。

国内方面,国家新一代人工智能治理专业委员会在2021年9月25日发布了《新一代人工智能伦理规范》,规范考虑了当前社会各界有关隐私、偏见、歧视、公平等伦理关切,针对人工智能管理、研发、供应、使用等活动提出了六项基本伦理要求和四方面特定伦理规范,旨在将伦理道德融入人工智能全生命周期,为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引,促进人工智能健康发展。此外,中国信息通信研究院还联合京东探索研究院于2021年7月发布了《可信人工智能白皮书》,白皮书从如何落实全球人工智能治理共识的角度出发,聚焦于可信人工智能技术、产业和行业实践等层面,分析了实现可控可靠、透明可释、隐私保护、明确责任及多元包容的可信人工智能路径,并对可信人工智能的未来发展提出了建议。

在国际方面,如何塑造可信人工智能,如何促进AI向善等人工智能伦理问题一直受到美国和欧盟国家的高度关注。美国总统拜登上台后一直试图通过外交手段,与其伙伴、盟友解决此类问题。在2021年新成立的美国-欧盟贸易和技术委员会(TTC)旨在协调全球解决关键技术、经济和贸易问题,深化跨大西洋伙伴关系,并且以两地区共同的价值观为基础来制定相关政策和共识。TTC在2021年9月29日举行首次会议,美欧双方在会后发表联合声明,明确指出,不负责任地开发或滥用人工智能将威胁到双方的共同价值观和基本自由,因此美国和欧盟将开发和实施具有创新性和可信赖性、尊重普世人权和共享民主价值观的人工智能系统。此外,全球各政府、组织还进一步扩大其涉及人工智能伦理问题的具体领域,例如,在近两年引起广泛讨论的卫生健康领域。人工智能技术越来越被广泛应用于医疗健康领域,不论是检测还是治疗相关疾病都已达到了媲美人类的水准,但是目前人工智能技术在医疗临床方面运用的可信度极低,开发可靠、令医护人员信赖的人工智能技术已十分必要。美国卫生与公众服务部(HHS)于2021年1月25日发布了旨在促进该机构更好地采用AI技术,引领卫生和公共服务的AI创新,并在卫生生态系统内合作AI驱动的人工智能战略,该战略明确指出要促进合乎道德、可信赖的人工智能的发展与应用。世界卫生组织(WHO)在2021年6月28日正式发布了“世界卫生组织卫生健康领域人工智能伦理与治理指南”,旨在为不同国家最大化人工智能的益处和最小化其风险提供指引。专业组织方面,美国人工智能协会(AAAI)在2021年2月举办了一场如何塑造医疗保健行业可信人工智能的研讨会,旨在研究如何提高临床人工智能技术运用的稳健性、提高临床运用的隐私安全、人工智能在医疗保健方面的伦理与公平性等问题。

相关国际组织在推动全球人工智能伦理规范的建立方面也发挥了关键作用,尤其是联合国教科文组织。教科文组织此前在193个会员国中遴选出了24名专注于研究人工智能治理相关问题的专家,并成立了一个专家组,该专家组旨在撰写能够被全球普遍接受的人工智能伦理规范,并于2021年11月正式发布了全球首个针对人工智能伦理制定的规范框架——《人工智能伦理建议书》。建议书确定了共同的价值观和原则,用以指导建立必需的法律框架来确保人工智能的健康发展,并且呼吁国际社会共同行动促进人工智能伦理治理的发展。

尽管关于人工智能伦理治理的全球共识正在慢慢形成,自2015年以来,各政府、私营企业、政府间组织、研究机构以及专业组织一直在致力于编制人工智能伦理相关的规范性文件,产出了一些具有代表性的规范性成果。但是斯坦福大学发布的《人工智能指数2021年度报告》指出,该团队的研究发现,关于人工智能伦理的数据十分少,目前仍缺乏广泛的可用于衡量或评估伦理规范的基准。就像联合国教文科组织总干事阿祖莱说的那样,“世界需要为人工智能制定规则以造福人类”,全球各国和地区还需要进一步规范人工智能伦理与治理,从而促进人工智能技术健康发展与可信应用。


趋势四

厘清人工智能治理重点领域

敏捷应对人工智能治理问题

undefined

人工智能技术的广泛应用意味着治理人工智能需要“专”“精”结合,需要根据不同的问题制定其相对应的规制措施。2021年度,世界各国和地区的人工智能治理战略主要集中和倾向于五大重点领域:算法问题、数据问题、隐私问题、自动驾驶以及卫生健康

01

算法问题

近几年来,人工智能技术一直保持高速发展,不断突破,积极创新的态势,与此同时,脑科学、传感网、先进计算等一批新理论、新技术也竞相涌现。然而人工智能技术在规制方面遇到的挑战仍然日益加剧,尤其是在算法治理方面,例如,算法推荐导致消费者利益受损,算法选择导致劳动力就业竞争不公现象,算法安全导致应用风险。与算法治理相关的事件在2021年度饱受国内外各界人士关注。国内层面,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》并于2021年11月16日正式通过,该规定旨在规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。该规定还明确了算法治理的对象和算法治理的主要制度工具,指出要以提高算法透明度和可解释性为基本要求。规定确立了算法治理的基本原则,并且鼓励行业自律以及强调了要以人为本促进算法应用向上向善。国际层面,英国在2021年11月29日发布了算法透明度标准,目前该标准正处于试点阶段,计划在2022年寻求该国数据标准局的正式认可。该标准的出台也使得英国成为最早制定算法透明度标准的国家之一。美国也提出了一系列致力于规范算法问题的举措,美国参议员艾德·马基(Edward Markey)等议员在2021年5月提出了2021 年算法正义和在线平台透明度法案,以禁止有害算法,提高网站的透明度,并对整个国民经济中的歧视性算法过程进行跨政府调查。美国众议员Ken Buck、David Cicilline等人则在11月9日提出了一项针对互联网平台算法的提案,要求在线平台让用户选择是否使用个人数据驱动算法调整网页内容。美国联邦贸易委员会(FTC)一直专注于提高算法的透明度和公平性。FTC不仅发表声明明确指出销售或使用具有偏见性的算法属于不公平或欺骗性商业行为,并且提供了如何公平、诚实、平等地使用人工智能的具体指导。为了进一步加强对算法的监管,FTC主席莉娜·可汗(Lina Khan)在11月宣布该机构的政策规划办公室引进了三名专门从事各类人工智能治理问题研究的专家,包括算法问责制方面的专家。FTC还旨在通过一系列“硬法”举措来加快该机构对算法问题的监管。

02

数据问题

数据是大数据分析、人工智能、区块链、物联网、云计算和其他基于互联网的服务等所有快速发展的数字技术的核心。数据存储、数据跨境流动、数据安全、数据的合理使用等一系列关于数据的问题是确保人工智能技术可以健康发展的关键所在。我国一直致力于保障数据安全,2021年正式通过并实施《数据安全法》,该法明确了数据安全与发展,数据安全制度,数据安全保护义务,政务数据安全与开放以及违反数据安全需要承担的法律责任。国家网信办还在2021年11月发布了《网络数据安全管理条例(征求意见稿)》,该条例增强了网络安全与数据合规系列法律法规的可执行性。中国信通院在2021年12月发布的《2021数据安全行业调研报告》指出,我国数据安全政策先行已经初见成效。从数据安全需求侧来看,数据安全治理组织架构逐渐清晰,关键技术逐步补足。从数据安全供应侧来看,数据安全产品与服务竞争愈加激烈,优势能力构建势在必行。当前我国数据安全已经到了发展的关键期,未来对于数据安全的需求将会越来越大,同时对于服务能力和产品能力的要求也会越来越高。以推动各国数字经济发展和国际合作的数据跨境流动问题为例,该问题目前已得到了全球各界的广泛关注。我国也高度重视数字经济方面的合作,已决定申请加入《数字经济伙伴关系协定》(DEPA),以期同各方合力推动数字经济健康有序发展。国家互联网信息办公室还发布了《数据出境安全评估办法(征求意见稿)》并向社会公开征求意见。联合国贸易和发展会议(UNCTAD)在2021年9月29日发布了《2021年数字经济报告》,该报告的主题为跨境数据的流动与发展,呼吁采用创新方法治理跨境数据流动,采取措施缩小数字鸿沟,帮助发展中国家提高其在应对该问题中的参与度。

03

隐私问题

在充分享受数字时代便利的同时,个人信息保护也成为当前社会公众最为关心和其利益最切实受到影响的问题之一。如何确保个人隐私在数据时代不被泄露和滥用是人工智能发展与应用中的又一重要命题。除此之外,加强对公众个人信息的保护还有助于提高公众对人工智能技术应用的信任。为此,我国于2021年11月1日起正式施行《个人信息保护法》,旨在健全个人信息保护工作机制,将广大人民群众的网络空间合法权益维护好、保障好、发展好,使人民群众在数字经济发展中享受更多的获得感、幸福感、安全感。该法确立了个人信息保护原则,规范个人信息处理活动以保障个人信息权益,规范个人信息跨境流动。该法还明确了要严格保护敏感个人信息,将生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息列为敏感个人信息。以及明确了个人信息处理者是个人信息保护的第一责任人,指出互联网平台是个人信息保护的关键环节,需要承担起相应的义务。国外方面,欧盟一直十分重视公民的隐私权保护,欧盟理事会于2021年2月10日提出了新的电子隐私法规。欧洲数据保护委员会 (EDPB) 欧洲数据保护监督局 (EDPS)在6月联合呼吁全面禁止“任何使用人工智能自动识别可公开访问的人类特征的行为”的空间,例如在任何情况下识别面部、步态、指纹、DNA、语音和其他生物特征或行为信号。欧盟还在10月6日通过了禁止警方在公共场所使用面部识别技术的决议,并对其使用AI进行预测性警务活动实施严格限制措施。英国则在2021年度明确了使用实时面部识别需要遵守英国的《通用数据保护条例》2018年数据保护法。在美国,民主党参议员陆天娜(Kirsten Gillibrand)在2021年6月提出了2021年数据保护法案,旨在创建一个独立的机构来保护消费者的数据和隐私。弗吉尼亚州则是直接通过了一项禁止执法部门使用面部识别技术的禁令,规定执法部门以及校园警察部门如若需要购买或使用面部识别技术必须得到州立法机构的明确授权,该禁令于2021年7月1日生效。美国联邦贸易委员会(FTC)也正在考虑制定有关消费者数据隐私的法规,FTC主席莉娜·可汗(Lina Khan)在12月17日表示,FTC正在考虑制定规则,打击侵犯数据隐私、网络安全性差以及使用可能导致歧视的算法的行为,重点关注在线隐私安全以及潜在的侵犯公民权利行为。俄罗斯总统普京也在第十三届“Russia Calling!”全体会议上表示,尽管数字化转型过程应该对国家经济发展产生重大影响,但需要确保对个人数据的保护。普京还指出正确的大数据工作模式应该根据确保个人数据无条件安全的需要来确定,且应该有更广泛的覆盖面,包括人们的权利和自由。

04

自动驾驶

2021年4月,英国政府表示,自动驾驶将于2021年晚些时候在该国合法化。英国交通部长Rachel Maclean认为,这一举措是英国在安全使用自动驾驶车辆方面的一大进步,自动驾驶使未来的出行更加绿色、便捷和可靠。俄罗斯卫星系统公司还在2021年年末成功开发出了一种使用GLONASS 导航卫星的无人驾驶列车控制系统,进一步拓展自动驾驶技术的应用领域。的确,人工智能技术在智慧交通和智慧出行的发展中发挥了显著作用。但是随着自动驾驶汽车行业的高速发展,如何规范人工智能技术在自动驾驶领域的运用也愈发受到各界关注。自动驾驶是否合法以及自动驾驶汽车发生事故后的主体责任划分问题也一直是各界热议的话题。为了应对因自动驾驶而导致的一系列问题,美国国会议员鲍勃·拉塔(Bob Latta)在2021年6月再次重提美国于2017年通过的首部自动驾驶法案,该法案将创建一个联邦框架来协助机构和行业在全国范围内部署自动驾驶汽车,并在美国国家公路交通安全管理局(NHTSA)内建立一个高度自动化的车辆咨询委员会。同月,美国交通部还建议NHTSA建立严格的自动驾驶测试标准,以及建设一个记录全国自动驾驶事故的数据库。

05

卫生健康

2021年度,人工智能技术在医疗健康、公共卫生领域的运用给全球社会带来了许多惊喜。人工智能和大数据不仅被运用于防范新冠疫情蔓延的流调之中,越南一家医院的最新研究结果显示,人工智能有助于减少诊断成像中的错误,还有助于及早发现肺结核疾病并提高患者的治疗效果。中国第25批赴刚果(金)维和医疗分队还通过利用我国最新研发的人工智能诊断疟原虫系统,为疑似疟疾患者实施了快速检测诊断,并及时提供有效治疗。日本富士胶片则在11月宣布,该公司与名古屋大学共同开发出一项利用人工智能以及依据诊疗数据来高精度地预测肺炎患者的病程的技术。除此之外,谷歌的母公司Alphabet也在2021年表示,该公司计划在人工智能实验室DeepMind的最新研究的基础上,成立一家专门利用最新的人工智能技术进行药物研发的公司。毫无疑问,如何利用人工智能技术来提高人类健康福祉愈发得到各界的重视。国内方面,国家卫健委于12月28日明确表示,要推动人工智能、工业互联网、5G、大数据、云计算等新技术嵌入医疗装备,提升CT、MR等传统医疗装备的诊疗水平,推动医疗装备智能化、精准化、网络化发展。与我国卫健委提出的计划类似,美国食品和药物管理局(FDA)在2021年1月提出了一项旨在将基于人工智能和机器学习的医疗软件作为医疗设备,从而提高为患者提供的医疗服务的质量。新加坡在2021年度完善了该国此前于2019年提出的国家人工智能战略,明确提出要增加1.33亿美元用于国家级别的研究和创新项目以帮助解决人工智能带来的挑战,以及将帮助推动人工智能技术在医疗保健、教育等关键领域的采用。智库方面,美国智库布鲁金斯学会副主席兼政治治理研究项目主任达雷尔 • 韦斯特曾在其撰文中指出,此前针对美国科洛尼尔输油管道公司(Colonial Pipeline)和美国软件提供商SolarWinds的网络安全攻击激发了美国政府出台多项相关的网络安全举措,不过政策制定者依然相对较少关注医疗保健行业潜存的巨大网络安全风险,然而自新冠疫情暴发以来,医疗行业遭受的勒索软件攻击的次数迅速飙升。据美国医疗保健信息和管理系统协会(HIMSS)在2020年做的网络安全调查显示,70%的受访医院在过去的12个月内经历了重大安全事件,从而导致了数据泄露、业务中断和财务损失等。韦斯特指出,在新冠疫情仍在蔓延的情况下,重视对医疗网络安全的投资将是支撑医疗行业和保障国家关键基础设施的关键。

undefined  

undefined

趋势五

国际合作既是应对技术竞争之方法,

也是共塑人工智能治理平衡包容发展之良策

尽管人工智能技术竞争、监管竞争已成为全球科技竞争领域中的一个既定事实,但是全球各方在疫情应对、气候变化等方面的成功合作已经让各界意识到了只有通过广泛的国际合作,从全球层面来讨论关于人工智能的治理问题,才能够彻底解决人工智能技术的发展和应用带来的相关问题。中共十九届中央委员、十三届全国政协副主席、党组成员汪永清在2021年12月出席清华大学主办、研究院承办的2021年人工智能合作与治理国际合作论坛时指出,“面对人工智能发展带来的风险挑战,国际社会必须携起手来、共同应对,推动开放包容、协商互鉴、共治共享,不断提升人工智能全球治理水平”。因此,只有通过构建一个平衡包容的人工智能治理体系,才会有助于让人工智能技术进一步释放其潜能,更好地造福于人类福祉,也更好地确保其自身运用的安全性和可靠性。


目前,全球各层面已经就相关问题展开了合作,例如,为了促进数字贸易的发展,英国大力推动七国集团(G7)于10月22日在伦敦就管理跨境数据使用和数字贸易的原则达成协议。英国政府贸易委员会还计划在此基础之上,能够进一步推动全球社会在数字规则、规范和标准方面达成更广泛的国际共识。在亚太地区,我国与东盟国家一直在人工智能领域保持密切合作与联系,在2021年度与东盟国家、日本以及韩国举办了数字经济创新论坛,旨在构建中国—东盟—日韩数字产业合作新格局。韩国与新加坡也计划签署两国之间的首个数字商贸协定,通过紧密合作应对全球数字经济转型。此外,我国还与法国积极拓展在人工智能领域的合作,共同应对全球性挑战,为两国经济社会发展提供科技支撑。

然而,以美国为主的部分西方民主国家同样认为国际合作是帮助其应对不断崛起的中国所带来的竞争的最佳方法。美国学者多次在布鲁金斯学会、兰德公司等智库平台上发文,呼吁拜登政府积极与所谓“民主国家”伙伴和盟友展开合作,共同应对中国在人工智能领域带来的威胁,确保美国在该领域的领导地位以及维护民主国家的基本共识。美国不仅计划与欧盟在跨大西洋合作方面积极展开关于人工智能技术发展、规制的讨论与合作,例如关于数据跨大西洋流动的问题,以及个人信息数据的访问问题,还在与韩国来往时多次强调希望促进韩美两国在人工智能等新兴技术方面的合作。美国新兴技术治理研究机构乔治城大学安全与新兴技术研究中心的研究员还曾在日经新闻上发文强调,四国集团(美国、澳大利亚、日本、印度)应在新兴技术方面展开合作,从而加强每个国家作为全球技术领导者的地位。

2021年研究院专家相关观点

研究院名誉院长傅莹指出,我国目前已经初步建立起算法治理的“法治之网”,特别是在2021年,各部门相继出台了针对不同问题的指导意见与管理规定等文件,这些规章起到互益互补的作用,共同推进我国算法治理进一步规范发展,走向综合治理的发展格局。


研究院学术委员会主席姚期智指出,不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”的人工智能治理体系建构,将进一步释放人工智能的潜能,更大程度保证人工智能的安全性。


研究院学术委员张钹指出,发展第三代人工智能关键在于发展可解释的、鲁棒的人工智能理论和方法,开发安全、可信、可靠、可扩展的人工智能技术,以“数据驱动+知识驱动”构建支持可解释的人工智能算法的深度学习平台,赋能人工智能安全与防御优化。


研究院学术委员龚克表示,人工智能是一种新兴生产力,任何东西都无法阻挡新兴生产力的发展。因此,人工智能治理应该促进其创新以造福人类和地球,而不是通过将其限制在现有体系中来遏制其发展。


研究院院长薛澜表示,未来人工智能治理需建构多主体参与,以“底线思维、人本思维、发展思维、全球思维”为价值导向,以“算法、数据、算力、外部环境、场景”为治理对象,应用多维治理工具的人工智能综合治理框架体系。


研究院副院长梁正认为,人工智能治理已经成为全球共识,且已从理念层面进入到建章立制、落地实施的阶段。除了自上而下的建章立制,自下而上的基于应用主体和用户选择的参与,也成为人工智能治理的一个重要特点。


研究院首席专家曾毅认为,没有任何一个国家可以真正主导未来人工智能的发展,对于中国、美国、欧洲的任何一个国家都是这样的。因为人工智能的未来仍然是根植于不同的文化在发展,所以每个国家的愿景都会有自己的一席之地。


研究院学术委员约兰达·吉尔(Yolanda Gil)认为,理解人工智能机理需要构架”感知-思考-行动”的智能模型,并需要建立在人类经验、社会习俗、专业技能的基础上,通过社会公众参与,推动知识在全球层面共享。


研究院学术委员温德尔·瓦拉赫(Wendell Wallach)认为,21世纪,我们需要一个新的国际合作方式来治理人工智能。人工智能国际治理机制应该具有敏捷性、适应性、预见性、响应性和包容性,中美两国参与制定人工智能国际治理方案,将使其更具有可行性。每个国家需要处理好对国家安全和国际合作双重需求之间的关系,接受国际标准的同时,积极开展旨在应对新挑战的前瞻性对话。

上一篇:《人工智能国际治理观察》第35期

下一篇:《人工智能国际治理观察》第34期

关闭

相关文章

读取内容中,请等待...