北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


undefined      

海外智库观察

「卡内基国际和平基金会:中国关于人工智能治理的新举措不应被忽视」

2022年1月4日,卡内基国际和平基金会(Carnegie Endowment for International Peace)发表其研究员马特·希恩(Matt Sheehan)撰写《中国关于人工智能治理的新举措不应被忽视(China’s New AI Governance Initiatives Shouldn’t Be Ignored)》。作者指出,中国政府在过去的半年内推出了一系列政策文件和公开声明,为中国的人工智能治理制度框架填充了“干货”(putting meat on the bone)。作者表示,任何想与中国的人工智能生态系统进行竞争、合作或仅仅想了解它的人都必须仔细研究这些举措,从而可以更好地了解中国的人工智能治理的发展方向。作者根据分析发现,中国人工智能治理出现了三种不同的方法,分别由不同部委主导,并且每一种方法的发展程度、支持者也都有所不同。


第一种方法是由中国国家互联网信息办公室(国家网信办)主导的,作者认为国家网信办在人工智能治理方面采取了最有力和最直接的影响,并且国家网信办采取的治理方法也是最成熟和最基于规则的。作者认为国家网信办的治理重点在于算法规则的监管和人工智能在信息传播方面的作用。例如,作者举例国家网信办于2021年8月发布的《互联网信息服务算法推荐管理规定(征求意见稿)》,指出该法案中的一些规则规定算法推荐要充分发挥算法服务正能量传播作用(vigorously disseminate positive energy)。此外,作者还表示,国家网信部提出的此管理规定如果付诸实施,这些类型的规定可能会刺激中国公司尝试新型的信息披露和算法可解释性方法,但这是机器学习研究中的一个新兴但非常不成熟的领域。但是,若国家网信办彻底贯彻了对算法透明度和可解释性的某些要求,中国将在欧洲监管机构长期争论的话题上进行一些世界上最大的监管实验。而中国公司是否能够满足这些新要求,可以为欧洲关于可解释权的类似辩论提供参考。


第二种方法是由中国信息通信研究院(中国信通院)主导的。作者表示,信通院是工信部下属的一个有影响力的智囊团,活跃于政策制定和技术测试与认证的许多方面,其方法的特点是专注于创造衡量和测试人工智能系统的工具。但作者指出,尽管无论从技术还是监管的角度来看,这项工作都仍处于起步阶段。不过一旦如果成功的话,它可以为中国更大的人工智能治理制度奠定基础,确保部署的系统是稳健、可靠和可控的。但是,作者认为,中国信通院目前在认证人工智能系统方面的实验可能还没有为人工智能武器等高风险的部署决策做好准备。此外,中国信通院还专注于建设可信人工智能系统。2021年7月,中国信通院与京东的一个研究实验室合作发布了中国第一份关于 "可信人工智能 "的白皮书。作者表示,关于可信AI的讨论已经在美欧流行,但倾向于讨论更偏技术性的方面,例如测试系统的稳健性、偏见和可解释性。中国信通院在其核心原则中对可信AI的定义看起来与美国和欧洲机构对该概念的定义非常相似。但作者认为,该文件值得关注的地方是这些倡议原则转化为实际行动的速度能够有多快。鉴于工信部尚未发布其自己的可信人工智能政策文件,因此,作者提出“信通院是否是了解工信部观点的一个有力指标”的疑问。

最后一种方法是科技部对人工智能的治理,这也是三种方法中最“软法”的一种。科技部侧重于制定道德准则,依靠公司和研究人员自我督促。2021年7月,科技部发布指导方针(《关于加强科技伦理治理的指导意见(征求意见稿)》),呼吁大学、实验室和公司建立内部审查委员会,以监督和裁定技术伦理问题。同年9月,科技部下属的主要人工智能专家委员会发还布了《新一代人工智能道德规范》,特别关注将道德规范纳入开发的整个生命周期。此后,科技部一直在鼓励领先的科技公司建立自己的道德审查委员会,并对自己的产品进行审核。作者认为,科技部的做法类似于联合国教科文组织和经济合作与发展组织等国际组织的做法。鉴于中国在技术治理方面越来越亲力亲为的倾向,作者担心科技部这种“软法”是否会与其他指导政策产生脱节,甚至破坏科技部在这方面的努力及其产生的影响。


作者指出,目前关于中国的人工智能治理有一个悬而未决的问题,即如何将这三种方法结合在一起。作者认为,中国各部委和行政机构之间存在激烈竞争,每个机构都希望自己提出的倡议能成为中央领导的首选政策。尽管国家网信办在这场竞争中似乎更占上风,但是国家网信办要想成功治理人工智能还需要依靠其他部门的共同力量,例如,国家网信办要求公司能够解释他们的算法推荐是如何运作的,而构成可解释的人工智能的工具或认证可能来自中国信通院。而可信人工智能的实际运用可能将首先出现在受科技部启发而成立的各个公司的道德委员会之中。作者指出,国家网信办此前提出的《关于加强互联网信息服务算法综合治理的指导意见》人看到了各部委间展开合作的迹象。尽管国家网信办显然是撰写该指导意见的主要作者,但该文件中提及的算法安全可信,以及企业应建立算法安全责任制度和科技伦理审查制度,健全算法安全管理组织机构,可能是另外两个机构要求添加进去的。此外,作者还认为,尽管国家网信办传统上是以互联网为监管重点,但随着人工智能治理的范围扩大到人工智能应用涉及的多个工业和社会领域,国家网信办未来或将会像工信部一样建立一个部门来监管自动驾驶、人工智能医疗等领域。作者最后表示,2022年是中国政治日历中的重要一年,中国人工智能治理的建设者和相关部委可能会继续在此领域展开竞争,这种竞争的结果值得人工智能专家和中国观察家的密切关注。因为,如果中国控制算法的尝试被证明是成功的,它们可能会给这些方法注入一种技术和监管的软实力,影响全球的人工智能治理制度。

马特·希恩(Matt Sheehan):卡内基国际和平基金会研究员,曾以World Post驻华记者的身份在中国工作和生活6年,专注于研究与中国相关的全球技术问题、中国的人工智能生态系统、中国技术政策的未来以及技术在中国政治经济中的作用,著有《跨太平洋实验:中国和加州如何为我们的未来合作和竞争》(The Transpacific Experiment: How China and California Collaborate and Compete for our Future)一书。

原文链接:

https://carnegieendowment.org/2022/01/04/china-s-new-ai-governance-initiatives-shouldn-t-be-ignored-pub-86127


行业舆情追踪

国内动态

政策指导

「习近平:不断做强做优做大我国数字经济」

1月16日,《求是》杂志发表了中共中央总书记、国家主席、中央军委主席习近平的重要文章《不断做强做优做大我国数字经济》。文章强调,近年来,数字经济发展速度之快、辐射范围之广、影响程度之深前所未有,正在成为重组全球要素资源、重塑全球经济结构、改变全球竞争格局的关键力量。文章指出,党中央自党的十八大以来一直高度重视发展数字经济,将其上升为国家战略,从国家层面部署推动数字经济发展。发展数字经济意义重大,是把握新一轮科技革命和产业变革新机遇的战略选择,数字经济事关国家发展大局。面向未来,我们要站在统筹中华民族伟大复兴战略全局和世界百年未有之大变局的高度,统筹国内国际两个大局、发展安全两件大事,充分发挥海量数据和丰富应用场景优势,促进数字技术和实体经济深度融合,赋能传统产业转型升级,催生新产业新业态新模式,不断做强做优做大我国数字经济。要加强关键核心技术攻关,加快新型基础设施建设,推动数字经济和实体经济融合发展,推进重点领域数字产业发展,规范数字经济发展,完善数字经济治理体系,以及积极参与数字经济国际合作。

来源:新华社


「上海一体化示范区将建“数字三体” ,打造一流新型基础设施数字创新发展带」

1月16日,上海市青浦区政府长三角数字干线建设启动会上发布了《长三角数字干线发展规划纲要》和《长三角数字干线青浦区行动方案(2022年—2023年)》。长三角数字干线是指发端于上海市青浦区,以数字经济为本源,依托G50主干廊道与沿线城市形成紧密合作,协同打造一流新型基础设施的数字创新发展带。未来,长三角数字干线要打造经济数字化的“引力场”、生活数字化的“全息场”、治理数字化的“网络场”、生态数字化的“试验场”,从中心到外围分为“数字天元”“数字三体”“数字星座”“数字星云”四层,打造要素调配、基础支撑、服务交易、趋势导向和制度创新五大功能。在长三角数字干线建设过程中,还将分别在平台层、应用层、基础层三个层面开展12项专项计划,例如,计划到2027年打造100家智能工厂的“灯塔100计划”。

来源:上海市人民政府


「上海将制定《上海市智能网联汽车终端产业发展行动计划》」

1月17日消息,2022年上海将从以下领域推动智能网联汽车发展:一是聚焦传统车企、新势力、科技公司,发挥整车“大终端”“大平台”的引领作用,打造智己成为高端豪华纯电动品牌、飞凡成为科技时尚的主流品牌,支持特斯拉、蔚来、威马、华人运通等打响“上海制造”品牌,推动华为智能汽车解决方案总部实体化,推动上汽探索试点OEM模式;二是推动“三智”终端突破(智能驾驶、智能网联、智能座舱),支持重点攻关环境感知、决策算法、控制执行、车载交互终端、高精度地图、路侧设备、信息安全等。三是加快商业化落地应用,支持上汽赛可、百度、AutoX(联合高德)等在上海市嘉定区加快robotaxi(自动驾驶出租车)规模化试点,支持上汽洋山港智能重卡示范运营实现“减人化”,在特定试点区域内,开展智能公交、无人环卫、无人配送等新业态探索。四是推动政策、标准、品牌等协同发展,制定《上海市智能网联汽车终端产业发展行动计划》,支持浦东无安全员驾驶立法,用好国际汽车城、上检、智能汽车创新平台等行业组织和第三方机构。

来源:TechWeb、上海证券报


技术运用

「雄安城市计算(超算云)中心主体结构封顶」

1月16日,雄安城市计算(超算云)中心工程项目提前完成主体结构封顶。据悉,雄安城市计算(超算云)中心是建设“智慧雄安”的重要支撑,也是雄安新区数字孪生城市“之脑”“之眼”“之芯”,是雄安新区数字孪生城市运行服务系统的重要载体,其承载的边缘计算、超级计算、云计算设施将为整个数字孪生城市的大数据、区块链、物联网、AI、VR/AR提供网络、计算、存储服务。

来源:中国新闻网


「北京移动:2021年累积开通27000个5G基站,超额完成全年建设任务」

1月17日,北京移动宣布,2021年度5G建设工作已经圆满收官,超额完成全年建设任务。目前北京地区共累积建设并开通5G基站逾27000座,已经实现城区和县城区域的连续覆盖,乡镇和农村地区也已基本实现连续覆盖;机场、车站等重要交通枢纽、重要道路以及全部冬奥场馆实现5G全覆盖;一批工信部和北京市重点项目如5G 700M网络建设、“二四一工程”、“首都资源池”等均在平稳有序推进中。

来源:新浪科技


科技公司

「阿里云与海外游戏公司JP GAMES达成合作,将基于云开发元宇宙方案」

1月17日消息,阿里云与海外知名游戏工作室JP GAMES达成合作,双方将在阿里云上开发元宇宙游戏引擎PEGASUS WORLD KIT,让更多企业能够更快速、方便地搭建元宇宙平台。据悉,JP GAMES总部位于日本东京,由《最终幻想15》的导演田畑端(Hajime Tabata)创立。JP GAMES此前曾于2021年6月推出残奥会授权游戏作品《天马梦想之旅》,让玩家可以在虚拟空间“天马市”中体验残奥会的多种运动项目。在与阿里云达成合作后,JP GAMES将提炼出《天马梦想之旅》中的虚拟空间技术,并基于阿里云,将其升级为元宇宙游戏引擎PEGASUS WORLD KIT。基于这款元宇宙游戏引擎,企业、机构等用户可以快速创建属于自己的元宇宙空间,在其中设立购物、音乐会、展览等场景,并进行角色扮演游戏(Role-playing game,RPG)。

来源:凤凰网科技


「百度宣布与美团、携程等十余家企业互联互通,春节将开放百亿流量」

1月17日,百度联合美团、小红书、顺丰、携程、知乎、同程、猫眼、58同城等十余家企业宣布开启互联互通深度合作,将以春节为起点,在流量、技术、服务生态三大层面展开互联互通合作。目前上述十余家企业已在百度App内上线智能小程序,百度将在今年的“好运中国年”活动期间开放百亿流量给互联互通合作伙伴,共同为用户打造一站式春节服务。百度集团执行副总裁沈抖表示,互联互通是中国互联网的下一波红利,将让中国互联网重启活力引擎,百度愿与各方一起努力拆掉互联网的围墙花园,重建开放的互联网,给用户创造更好的体验,推动行业的高质量发展。

来源:新浪科技


「广州联通携手华为5G超级上行实现“跨站”规模首商用」

1月14日消息,广州联通携手华为在业界首次采用5G超级上行“跨站”灵活配对技术实现全网规模商用,累计开通5G超级上行站点近3000个,5G超级上行生效用户相比传统方式增加近一倍,有效提升用户体验。这标志着双方推进5G网络联合创新,提升用户体验的战略合作进入新的阶段,同时也有力促进了5G超级上行产业的发展。据悉, 通过5G超级上行“跨站”灵活配对技术,可以实现TDD(时分双工,Time Division Duplex)小区与附近FDD(频分双工,Frequency Division Duplex)小区的超级上行最佳配对,能有效提升5G超级上行用户的生效比例,以及提升5G网络覆盖与用户体验。

来源:华为官网

国际动态

乌克兰遭网络攻击事件

「乌克兰政府网站遭大规模网络攻击」

1月14日,包括乌克兰外交部、教育部、内政部、能源部等在内的70余个政府机构网站遭到大规模黑客攻击,致使部分网站临时瘫痪数小时,是乌克兰近4年来遭受的最强大的网络攻击。攻击者干扰了乌克兰政府网站,并在网站主页上发布挑衅信息。乌克兰国家安全部门以及网络警察部队正就此展开调查,但初步调查显示未发生个人数据泄露的情况。相关专家也已经开始修复信息技术系统,截至14日13时,大部分被攻击的网站已经恢复。

来源:CCTV 4、路透社


「欧盟、北约对乌克兰受到网络攻击表示谴责,计划向乌方提供帮助和签署增强网络合作的协议」

1月14日,针对乌克兰多个主要政府机构网站遭遇大规模网络攻击一事,欧盟发表声明对此事件表示谴责,认为网络攻击行为破坏乌克兰局势稳定,导致不实信息扩散,引发本已紧张的形势升级。欧盟及成员国已与乌克兰进行联系,准备好进一步提供技术帮助,做好被攻击后的修复工作,并积极应对未来可能存在的破坏行为,提升抵挡网络威胁的能力。欧盟外交与安全政策高级代表博雷利也表示,欧盟已召开紧急会议商讨对策,并将动用“所有资源”来帮助乌克兰。北约秘书长斯托尔滕贝格也发表谴责声明称,北约和乌克兰合作多年,推动乌方网络防御能力提升。双方网络专家已就此次恶意攻击事件交换了信息,相关专业人士正在提供协助,近期双方将签署增强网络合作的协议。

来源:CCTV4


「美国就乌克兰政府遭遇网络攻击一事与乌方进行沟通,并表示愿向乌方提供帮助」

1月14日,在白宫召开的网络安全主题记者电话会上,一位美国政府高级官员透露,尽管目前没有确认攻击者的身份,但美方也已经与乌克兰方面进行了沟通,并将在乌方调查和修复期间提供帮助,美国总统拜登也已经知晓此事。该官员还表示,美方将继续衡量此次事件对乌克兰人民的影响,但目前看来影响是有限的,大量网站正在恢复上线。16日,美国国家安全顾问沙利文在接受CBS新闻采访时表示,美方在过去的数月以来一直在公私场合警告,俄罗斯可能会利用网络攻击来升级乌克兰问题的事态。沙利文表示,美国已经与乌克兰密切合作,以加强它们的网络攻击防御能力。

来源:CBS News、路透社


「乌克兰暗示遭网络攻击与俄罗斯和白俄罗斯有关,遭到俄方驳斥」

1月15日,乌克兰执法人员正在决定就乌克兰国家机构网站遭大规模黑客攻击事件启动刑事诉讼。虽然目前尚无任何组织或个人声称对此事负责。但乌克兰国家安全与国防事务委员会副部长谢尔盖·杰梅久克(Serhiy Demedyuk)初步认为,一个与白俄罗斯情报机关有关联的网络间谍组织UNC1151可能参与了此次袭击,该组织此前曾针对立陶宛、拉脱维亚和波兰,并散布批评北约的言论。他还表示,乌克兰遭受的网络攻击是为了掩护更多的秘密破坏行动。杰梅久克还声称,此次袭击中,攻击者使用了与俄罗斯情报机构有关联的黑客组织所使用的类似恶意软件。乌克兰数字化转型部16日发表声明称,迄今为止的数据都表明俄罗斯是此次网络攻击的幕后黑手。白俄罗斯总统亚历山大·卢卡申科的办公室没有就乌方的观点立即置评。此外,俄罗斯总统新闻秘书德米特里·佩斯科夫16日在接受美国有线电视新闻网采访时也驳斥了所谓俄罗斯与乌克兰多个政府机构网站近期遭黑客袭击有关的说法。佩斯科夫称,这是对俄罗斯又一次无凭无据的指责。

来源:路透社、俄新社、华盛顿邮报


「微软:在乌克兰政府系统中发现“破坏性恶意软件”」

1月15日,微软发布声明称,在乌克兰政府机构以及与当局合作组织的系统中发现了“破坏性恶意软件”。微软指出,该恶意软件被伪装成勒索软件,软件一旦被攻击方激活,将使受感染的计算机系统无法运行。微软称,1月13日首次检测到该软件,到目前为止,还未发现这些软件的攻击利用微软产品服务中的任何漏洞,也还未确定这些攻击背后的团体,但公司表示将继续与网络安全团体合作进行分析。

来源:路透社、彭博社


「多个乌克兰政府部门的数据库资料在网络攻击中被清除」

1月19日,消息人士表示,多个乌克兰政府的数据资料在一次网络攻击中被抹去,此次攻击与政府机构网站受到的攻击同步发生。乌克兰国家特别通信和信息保护局18日表示,被微软称为“WhisperGate”的恶意软件已攻击多个该国政府机构。该机构还认为,政府机构网站受到的攻击和被擦除清除的数据可能源自同一场网络攻击,该网络攻击旨在尽可能地破坏乌克兰的国家电子资源基础设施。乌克兰国家特别通信和信息保护局局长 Yurii Shchyhol表示,他预计这些受到攻击的机构可以从备份中恢复相关数据,乌克兰的网络应急响应小组已在第一时间采取行动,并且已经与美国国土安全部的网络安全与基础设施安全局进行了沟通。

来源:华盛顿邮报

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:2021年度全球人工智能治理趋势盘点 (完整版)

下一篇:《人工智能国际治理观察》第33期

关闭

相关文章

读取内容中,请等待...