北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results



海外智库观察

「战略与国际问题研究中心:北约将推动人工智能治理政策进一步发展」

2022年11月8日,战略与国际研究中心(Center for Strategic and International Studies,CSIS)发布其国际安全项目非常驻高级顾问Daniel Fata撰写的文章《北约在制定人工智能政策方面的作用(NATO’s Evolving Role in Developing AI Policy)》。文章从北约为自身及其成员国在人工智能治理方面政策制定的努力出发,进一步讨论了未来如何帮助北约及其成员国在技术治理和应用方面制定一套共同的有效标准和原则,以供成员国在人工智能使用方面使用。作者指出,北约总部一直在为自身发挥的作用奠定基础,不仅制定了负责任的政策,还为成员国所依赖的重要的、关键的新兴和颠覆性技术(Emergent Disruptive Technologies, EDTs)提供资金。去年年底,北约发布的人工智能战略指出,鉴于人工智能技术的迅速发展,北约需要为成员国负责任地使用人工智能提供基础,推动将这些技术应用到能力发展中,并防止恶意使用人工智能。北约还为此制定了配套的《数据开发框架政策》(Data Exploitation Framework Policy)。自该政策发布以来,北约领导人正式批准建立“北大西洋国防创新加速器”(Defence Innovation Accelerator of the North Atlantic, DIANA)及其相关的北约创新基金(NATO Innovation Fund,NIF),来帮助各国及其产业建立更紧密的伙伴关系,从而资助、研发以及部署包括人工智能在内的两用EDTs。类似于美国的国防创新小组(Defense Innovation Unit,DIU)和美国国防部高级研究计划局(Defense Advanced Research Projects Agency,DARPA),这里的目标是推动最优秀的商业头脑与政府和军方同行,进而创造可用于联盟目的且可商业化的解决方案。就在上个月,北约召集民用总部、盟军转型司令部(Allied Command Transformation,ACT)、北约通信和信息局的联盟领导人以及各国政府和行业代表参会,并就EDTs如何在商业和政府部门之间以协作的方式加快发展提出了广泛的见解、愿望和预测。同月,北约国防部长批准建立北约数据和审查委员会(Data and Review Board,DARB),该委员会旨在建立北约负责任使用人工智能的原则,从而帮助用户之间建立信任,并指导负责任的人工智能投入实践。这一过程中产生的关键期望成果之一,是规定负责任的人工智能(artificial intelligence,AI)标准认证过程,从而确认技术系统是否符合DARB确定的AI原则。尽管北约可以根据其成员国的投入来制定标准,但它不是一个监管机构。因此,北约制定的标准将由个别国家或潜在的第三方来监督和确保执行。


作者表示,技术正在快速发展和进步,其知识的扩散赋予了个人、非国家行为者、恐怖分子、金融犯罪分子和其他人对公共产品、系统和生活前所未有的权力和影响力,共同制定一套具有标准认证流程的原则可以尽可能保护世界各地的合作伙伴“互不伤害”,确保北约成员国之间的通用性和一定程度的互操作性,会使人工智能技术的使用更加透明、有效和可预测。作者还指出,尽管制定一套普适的原则前景可观,但其中仍有挑战。当DARB开发这个负责任使用策略的关键组件时,它需要检查跨越多个领域的各种用例,以测试该策略在现实世界中的工作情况。为了实现这一目标,北约总部的工作人员将与ACT、中央情报局(National Intelligence Authority,NCIA)以及其他经验丰富的主管部门合作,对用例进行真正的现场测试。这项倡议的关键是各个成员国分享国家实验数据并让国家代表参与用例演练,这就需要采取一种让其他主管部门和机构参与的泛北约办法。但是,一些民族国家表示其认为北约不应该投资和资助EDTs,因为这应该是一个国家的能力而非北约的能力。因此,在30个北约成员国中,只有22个国家加入了NIF。作者认为,制定一套北约范围内的人工智能原则应该是已经或正在制定的任何国家政策的补充,这符合每个北约成员国的利益。同时,这一努力可能可以帮助那些尚未制定出人工智能原则的国家,以更快地实现与其他联盟伙伴的沟通合作。


作者进一步表示,要制定一套全联盟范围的、负责任使用的人工智能原则,并完成标准认证要取得真正的进展,首先需要北约领导人和成员国共同努力,并对北约内部和各国团队进行文化变革,改变旧的官僚规范。如果旧的官僚规范得不到改善,那么盟国领导人在马德里或布鲁塞尔做出的承诺将永远无法充分发挥其潜力。其次,成员国需要参与其中,分享各国内部运作的情况,实现数据共享以确保数据和知识的差距不会妨碍北约为共同利益制定一个框架的能力,进而制定负责任使用的政策的最佳基准。工业界也要抓住这个与北约及其成员国成为真正合作伙伴的机会,塑造一套协作的、数据驱动的、用例测试的、可执行的原则和标准。按照设计,业界将是DIANA和NIF的主要受益者,他们所能做的是将包括工程师、数据科学家、兵棋推演人员等在内的优秀人才,带到这个与北约协调的企业。最后,这也是北约充分利用ACT推动与成员国讨论用例的机会。ACT成立近20年以来,都在协助联盟进行能力开发、试验、培训和演习。对于ACT来说,这是一个可以证明自己在核心能力和吸收俄乌战争教训方面的相关性和实用性的时刻。其还可以与美国合作,将最近公布的美国国防战略(National Defense Strategy, NDS)中发现的各种目标纳入其中。ACT由此将能够为EDTs纳入北约2030年计划提供一个有意义的途径,同时也向联盟成员展示ACT在能力发展和战争整合方面应该发挥的作用。作者最后指出,该倡议的最终的理想状态将主要体现在三个方面:第一,北约将落实一套负责任使用人工智能的原则;第二,北约将加强与传统行业合作伙伴的关系,并将为如何向非传统行业参与者学习奠定基础;第三,其将为北约和成员国提供一条途径,通过从用例测试中学到的实际经验,加速实验和采用之间的差距。 


Daniel Fata:战略与国际研究中心国际安全项目的非常驻高级顾问,曾担任负责欧洲和北约事务的美国国防部副助理部长,专注于研究网络安全与技术,国防工业,国防与安全,地缘政治与国际安全等。


原文链接:

https://www.csis.org/analysis/natos-evolving-role-developing-ai-policy

行业舆情追踪

国内动态

政府监管

「河南发布关于数字藏品投资的风险提示」

11月10日,河南省地方金融监督管理局发布《关于数字藏品投资的风险提示》。《提示》称,近期监测发现,多家数字藏品交易平台打着“金融创新”的名号,以数字藏品交易为噱头实施新型金融诈骗。《提示》提醒消费者,要高度警惕以数字藏品为代表的NFT(非同质化通证)投资风险,包括投资流动性风险、数字藏品质量风险、数据信息安全风险以及数字藏品金融化风险。

来源:中新经纬


政府规划

「工信部:推动虚拟现实产业高质量发展,培育骨干企业和专精特新中小企业」

11月12日,在2022世界VR产业大会上,工信部副部长王江平在致辞中表示,工信部将把握虚拟现实产业发展机遇期,促进虚拟现实与实体经济深度融合,推动虚拟现实产业高质量发展。加快技术产品创新,鼓励产学研用各方加强创新合作,加快基础理论、关键技术与应用技术研发,构建覆盖全产业链的虚拟现实综合标准体系,建设关键共性技术公共服务平台,促进产业链各环节整体提升。打造优势产业集群,充分发挥国家虚拟现实制造业创新中心作用,带动上下游企业集聚,培育骨干企业和专精特新中小企业,促进大中小企业融通发展。

来源:36氪


「四川:加快发展数字经济,深入推进数字四川建设」

11月11日消息,《关于加快发展数字经济深入推进数字四川建设的意见(公开征求意见稿)》日前发布。《征求意见稿》提出,在夯实基础设施方面,加快全国一体化算力网络成渝国家枢纽节点和天府数据中心集群起步区建设,构建数据中心集群和城市内部数据中心两级协同的一体化大数据中心协同创新体系,同时全面推进5G网络建设。在促进数据流通方面,加快建设西部数字资产交易中心,制定数据确权、数据定价、数据交易和市场运行监管等机制;支持成都、德阳等有条件地区率先开展数据交易试点,鼓励企业针对脱敏后数据进行市场交易;开展跨境数据流动试点和标准化建设,在成都等地探索数据跨境流动服务模式。在完善数字科创体系方面,实施国家级创新平台攻坚行动,聚焦信息安全、工业云制造、无人机、工业软件、人工智能等领域,支持更多企业创建国家企业技术中心。在打造数字产业集群方面,深入推进国家新一代人工智能创新发展试验区和国家人工智能创新应用先导区建设,加快建设成渝地区大数据产业基地。

来源:红星新闻


「科技部印发《“十四五”国家高新技术产业开发区发展规划》」

11月9日,科技部印发《“十四五”国家高新技术产业开发区发展规划》,明确九项重点任务,包括增强科技创新策源能力、汇聚国家战略人才力量、建设世界级产业集群、壮大创新型企业群体、推动高水平创新创业、促进绿色化智能化融合发展、强化区域协同与辐射带动、深化园区开放合作、提升创新治理水平等。《规划》提出,要推进互联网、大数据、人工智能同实体经济深度融合,促进产业向智能化、高端化、绿色化发展,加快迈向价值链中高端,提升产业链供应链现代化水平。同时鼓励园区积极培育人工智能、大数据、云计算、区块链、工业互联网等新兴数字产业,打造优势数字产业集群。支持园区探索场景创新,完善场景促进机制,探索推出首发首创式应用场景,释放数字经济新活力。

来源:科技部


「三部门印发《“十四五”全民健康信息化规划》」

11月9日消息,国家卫生健康委、国家中医药局、国家疾控局近日印发《“十四五”全民健康信息化规划》,提出到2025年,初步建设形成统一权威、互联互通的全民健康信息平台支撑保障体系,基本实现公立医疗卫生机构与全民健康信息平台联通全覆盖。《规划》明确,加速推进高速泛在、云网融合、智能敏捷、集约共享、安全可控的全民健康信息化基础设施建设。依托国家电子政务外网、互联网、光纤宽带、虚拟专线和5G等网络建设完善卫生健康行业网。同时,全民健康信息化统筹管理能力明显增强,全国医疗卫生机构互通共享取得标志性进展,二级以上医院基本实现院内医疗服务信息互通共享,三级医院实现核心信息全国互通共享。

来源:中国新闻网


「工信部印发《中小企业数字化转型指南》」

11月3日,工业和信息化部印发《中小企业数字化转型指南》,主要面向中小企业、数字化转型服务供给方和地方各级主管部门,旨在助力中小企业科学高效推进数字化转型,提升为中小企业提供数字化产品和服务的能力,为有关负责部门推进中小企业数字化转型工作提供指引。据悉,《指南》从增强企业转型能力、提升转型供给水平、加大转型政策支持等三方面提出了14条具体举措,包括开展数字化评估、推进管理数字化、开展业务数字化、融入数字化生态、优化数字化实践、增强供需匹配度、开展全流程服务、研制轻量化应用、深化生态级协作等。《指南》还指出,要加大工业互联网、人工智能、5G、大数据等新型基础设施建设力度,优化中小企业数字化转型外部环境。

来源:工业和信息化部


政-产-学研合作

「国家虚拟现实创新中心(青岛)正式揭牌」

11月12日,国家虚拟现实创新中心(青岛)揭牌。据悉,此次工信部批复组建的国家虚拟现实创新中心(青岛),由南昌虚拟现实研究院联合青岛虚拟现实研究院共同组建,是目前中国虚拟现实领域唯一一个国家级创新中心。未来,该中心将深度聚焦虚拟现实关键共性技术,打造全球领先的产业创新生态系统,赋能数字经济产业发展;基于终端技术优势,支持中国虚拟现实终端出货量继续保持全球第一,综合性能、轻量化、舒适性等核心指标达到全球领先;力争建成全球首个虚拟现实全产业链综合检测平台,利用检测平台加快申报国家及国际标准,增强中国在全球虚拟现实领域的话语权。

来源:中国新闻网


「香港科技大学(广州)与深圳湾实验室签署合作协议,聚焦生命信息、人工智能等前沿领域」

11月9日,香港科技大学(广州)与深圳湾实验室线上签署战略合作框架协议。据悉,双方将聚焦生命信息、生物医药、医疗器械、人工智能等前沿创新领域,同时充分发挥深圳改革开放排头兵和科技创新先锋的独特优势,和广州南沙立足湾区、协同港澳、面向世界的重大战略性平台的政策优势,共同为粤港澳大湾区建设成为国际科技创新中心贡献力量。

来源:中国新闻网


「科大讯飞国家新一代人工智能开放创新平台沈阳站启动」

11月7日,辽宁省政府分别与中国铁塔、科大讯飞签署战略合作协议,科大讯飞分别与东北大学、沈鼓集团签署战略合作协议。科大讯飞国家新一代人工智能开放创新平台沈阳站正式启动。据悉,科大讯飞将与东北大学合作,共同为人工智能产业发展培养应用型人才,并成立联合实验室,共同推进人工智能技术在工业智能领域的应用研究。同时,科大讯飞还将与沈鼓集团共同提炼基于工业互联网、智能制造场景的人工智能应用需求,联合打造智能语音共性技术研发平台和公共服务平台。

来源:科技日报


科技公司

「华为推出原生科学智能基础软硬件平台,倡议成立科学智能创新联合体」

11月9日,华为宣布基于鲲鹏和昇腾AI,通过创新的融合计算架构,打造原生科学智能基础软硬件平台,助力科学智能发展,目前已在新材料研发、大飞机设计、蛋白质结构预测等领域中应用。同时,华为倡议成立科学智能创新联合体,加速科研创新到产业落地进程,加强交叉学科建设和人才培养。

来源:36氪


「华为发布10大数据通信技术创新和10大全新产品」

11月8日,华为面向未来网络发展趋势,推出10大数据通信技术创新并发布10大全新产品,持续打造领先的网络基础设施,引领行业数字化创新。在技术方面,华为围绕网络自动驾驶、安全可靠和极致体验,从网元层、网络层和应用层重新诠释了技术架构,面向政务、证券、电力、矿山、校园、医疗、制造、网络安全等场景推出10大技术创新。在产品方面,华为围绕园区网络、数据中心网络、广域网络和网络安全,发布10款新品,进一步助力行业数字化创新发展。

来源:集微网


「如祺开放式Robotaxi运营监管平台上线」

11月8日消息,如祺出行自主研发的开放式Robotaxi(无人驾驶出租车)运营监管平台正式上线。据悉,该平台从远程监督、远程管理、远程控制、远程评估四大维度实现对车辆状态、道路信息监控,保障用户行程安全的同时,还能通过智能优化派单逻辑,提升有人驾驶网约车和Robotaxi混行调度效率,目前已与多家自动驾驶公司完成系统与数据对接。

来源:36氪

国际动态

政府监管

「法国宣布建立“儿童在线保护实验室”」

11月10日,法国总统马克龙宣布成立“儿童在线保护实验室”,以保护世界各地未成年人网上安全。该倡议旨在吸引活动人士、研究人员和科技巨头共同探索保护未成年人隐私、提高其数字素养的最佳做法。据悉,法国总统马克龙在竞选连任期间,把保护网络儿童作为他的首要任务之一。去年,马克龙在巴黎和平论坛(Paris Peace Forum)上与联合国儿童基金会共同发起了一项呼吁,希望采取行动在网上捍卫儿童权利。该非约束性倡议在2022年巴黎和平论坛上正式签署。包括Meta、谷歌、YouTube、微软、亚马逊、TikTok和法国平台 Dailymotion等在内的数字平台,以及克罗地亚、马耳他、斯洛文尼亚、新西兰、冰岛、希腊等国同意签署该倡议。该倡议以2019年由17个国家和8家大型科技公司共同签署的,旨在阻止暴力、恐怖主义和极端主义内容在互联网上的传播的“克赖斯特彻奇呼吁(Christchurch Call)”为蓝本。该倡议的参与者将致力于开发一个可信的第三方系统来验证互联网用户的年龄;利用人工智能技术来检测性侵犯者冒充未成年人的对话;以及在平台之间创建共享数据库,以识别和删除在线共享的未经同意的亲密图像。

来源:法国总统府、法国回声报、Politico、半岛电视台


政府规划

「英国国防部宣布与Immersive Labs合作推进“数字技能防御”计划」

11月11日,英国国防部宣布将与网络安全技能平台Immersive Labs合作,支持国防部新的“数字技能防御”(Digital Skills for Defence)计划,以建立更强大的数字防御能力。来自陆军、皇家海军、皇家空军、战略司令部和公务员部门的人员将参与这项合作。参与者将通过1800个包含真实模拟和实际操作的网络安全实验室来评估个人和团队在应对最新威胁的决策过程中的表现,从而提高国防人员应对网络威胁的能力。英国国防采购部长Alex Chalk表示,利用数字能力和数据是英国在现代军事行动中取得成功和有效管理国防的根本。与Immersive Labs的合作也将有助于填补英国网络安全人才的短缺,并扩大英国网络专家的队伍。

来源:英国政府


「欧盟委员会提议建立网络防御领域协调中心」

11月10日,欧盟委员会建议加强击退网络空间攻击的公共准备。欧盟委员会在一份声明中表示,网络空间没有国界。最近对能源网络、交通基础设施、太空物体的网络攻击对民用以及军事部门都构成了威胁,这表明需要采取额外的行动来保护公民、武装力量以及欧盟的民事和军事任务,尤其需要加强这方面的军民两用协调。此外,欧盟委员会提议欧盟国家推行一项政策,避免在网络空间关键技术方面依赖第三国以及在该领域进行联合培训的专业人员。

来源:俄罗斯卫星通讯社


国际合作

「美国与欧盟将在即将召开的TTC部长级会议上公布新人工智能发展路线图」

11月10日,美国商务部副部长玛丽莎·拉戈(Marisa Lago)表示,美国和欧盟计划在即将于12月召开的美国-欧盟贸易和技术委员会(Trade and Technology Council, TTC)部长级会议上公布一份新的人工智能发展路线图。该路线图将会把安全和风险管理列为优先事项。拉戈表示,随着新的人工智能应用程序上线,以及对安全和风险管理问题应对方法的多样化,人工智能相关问题范围将会扩大。拉戈还指出,双方官员均认为该路线图不仅是确保新技术的部署符合美欧共同的民主价值观和自由市场原则的关键,还有助于确保美国和欧盟的中小型企业不会被排除在新的数字市场之外。据悉,美国商务部长吉娜·雷蒙多9日与欧盟委员会执行副主席玛格丽特·维斯塔格进行了虚拟会晤,讨论了TTC的工作,特别是与人工智能、半导体和信息通信技术服务相关的问题。

来源:路透社


「英国和瑞士签署谅解备忘录以加深创新研究合作」

11月10日,英国和瑞士签署一项重要协议,以深化两国在世界领先的研究和创新团体间的联系。该备忘录鼓励“深度科学”(deep science)和“深度科技”(deep tech,包括生命科学、能源技术、人工智能和太空探索)方面的合作,通过创新实现商业化,加强两国科学和创新领域的政策和外交联系。英国国务大臣乔治·弗里曼 (George Freeman )表示,英瑞双方希望研究奖学金、工业创新和新技术领域的监管标准方面推动更深入的实际合作。此次协作将是实现英国深化与世界领先的实验室、国家和行业的研发伙伴关系的关键步骤。

来源:英国政府


「敏捷国家工作组发表关于联网产品网络安全联合意向声明」

11月10日,英国、加拿大和新加坡达成一致意见,拟共同推动与支持联网产品的网络安全措施建设。英国、加拿大和新加坡政府一致表示,互联网产品提供了巨大的经济和社会效益,但是必须从设计阶段开始就要求这些产品符合网络安全要求,不能让消费者承担风险。三国共同表示,要保护全球的消费者,需要政府、学术界和民间社会共同协调努力。三国政府正在共同努力,促进和支持国际标准和行业指南的制定,促进创新,鼓励采取国际公认的安全要求且避免碎片化的方法,并促进全球实施统一的计划与标准。三国政府一致认为,国际标准可以促进强有力的安全实践,可以减轻网络风险,以及减少对贸易和工业的不必要的障碍。据悉,2020年12月,加拿大、丹麦、意大利、日本、新加坡、阿联酋和英国在经合组织和世界经济论坛小组会议上签署了世界上首个“敏捷国家”(Agile Nations)协议,旨在释放各国间新兴技术的潜力。

来源:英国政府


「中国与南非企业签署合作备忘录助推非洲数字化升级」

11月10日消息,在非洲科技节期间,中国移动国际有限公司与南非迈斯特派尔科技有限公司签署合作备忘录。根据备忘录,双方将协作为电信、金融服务等企业构建互联网数据中心,提供解决方案,共同驱动非洲数字化转型升级。据悉,本次非洲科技节的主题为“结合商业与科技创造一个更加美好、更具包容性的数字世界”,展示工业4.0、云数据服务、互联网安全、数据安全等领域的最新发展成果。

来源:新华网


科技公司

「思科将在巴塞罗那开设新的芯片设计中心」

11月10日,西班牙首相佩德罗 · 桑切斯(Pedro Sanchez)办公室表示,美国科技巨头思科系统公司(Cisco Systems)将在西班牙巴塞罗那开设一家新的半导体芯片设计中心。该项目是西班牙经济战略投资计划——PERTE计划(该计划旨在促进西班牙经济的复苏和转型,并创造高质量和稳定就业的领域)的一部分,将利用欧盟疫情援助资金为半导体研发提供政府补贴,拨款高达120亿欧元(合121.7亿美元) 。桑切斯表示,欧盟希望在2030 年生产全球20%的芯片,西班牙正在成为实现该目标的关键参与者。

来源:路透社


「Partners Group 斥资12亿美元收购数据中心平台 EdgeCore Digital」

11月11日,瑞士私募股权公司Partners Group Holding AG向美国数据中心运营商EdgeCore Digital Infrastructure投资12亿美元,用于收购EdgeCore的多数股权,帮助其在美国各地建立新的数据中心,推动云计算、机器学习、人工智能、5G发展。

来源:路透社


加密货币

「俄罗斯外贸银行将数字卢布整合到银行应用程序」

11月12日,俄罗斯外贸银行(Vneshtorgbank,VTB)成为首家将数字卢布添加到其移动应用程序中的俄罗斯银行。目前正在为法律实体建立账户进行测试,特定客户将在未来几个月获准进入参加试验。VTB将允许其银行应用程序用户开立账户,使用数字版国家法定货币进行转账,到2023年,银行将允许一些客户使用数字卢布进行交易测试。该银行还准备推出兑换功能,到 2024 年,银行将允许数字卢布和普通电子货币之间进行兑换。

来源:Bitcoin.com


前沿研究

「约克大学研究发现AI会使用潜在危险"捷径"以解决复杂的识别任务」

11月10日消息,英国约克大学研究人员表示,深度卷积神经网络(DCNN)看待事物的方式与人类不同(通过配置形状感知),这在现实世界的人工智能(AI)应用中可能是有害的。为了研究人脑和DCNN如何感知整体的、配置性的物体属性,该研究使用了被称为"Frankensteins"的视觉刺激方法,即被拆开并以错误的方式装回去的物体。虽然Frankensteins不会被DCNN的视觉系统判断出异样,但这显示了AI对配置物体属性的不敏感性,并显示AI在解决复杂的识别任务时倾向于走“捷径”。研究人员指出,此类深度模型,如果在用于交通安全监测的AI系统时只能单独感知碎片,将无法完成这一任务,并可能会增加道路使用者风险。

来源:cnBeta

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》116期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...