北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


         



undefined      


海外智库观察

「新美国安全中心:中美两国应共建信任,共商人工智能风险规避之策」

2022年4月27日,《外交政策》(Foreign Policy)发表新美国安全中心技术和国家安全项目研究员Ryan Fedasiuk撰写的《中美应就人工智能危险制定基本规则(The U.S. and China Need Ground Rules for AI Danger)》。文章指出,和2014年相比,中美两国在论述人工智能相关风险问题这一领域的互信水平更低。在大约十分之九的美国成年人将中国视为竞争对手或敌人时,要求华盛顿和北京就关键问题进行合作的呼声常常被置若罔闻。但是,随着人工智能技术和系统的不断迭代,两国之间展开协作以减轻人工智能带来的威胁与风险的必要性也愈发明显。


文章指出,在技术层面,人工智能就算置于完美的信息和操作环境下,其系统也很容易触及崩溃并以与预期相反的方式运行。自2017年以来,全球人工智能合作伙伴关系(Global Partnership on AI,GPAI)已记录了1200多份有关智能系统导致安全、公平或其它问题的报告,例如自动驾驶事故、受种族偏见影响的招聘结果。作者尤其指出,在高压、低信息化的军事环境下,人工智能事故的概率及后果必然会更加严重。例如,处于高度警戒状态的武器系统可能会将常规事件误认为是攻击,甚至自动做出反应。在过去的六个月里,作者曾多次与已退役的中国军方领导人谈论人工智能系统所涉及的风险。他们认为,美国国防部的人工智能伦理原则和“负责任的人工智能(Responsible AI)”准则,是为了回避旨在限制自主武器发展的多边谈判的恶意努力。与此同时,鉴于中国对致命自主武器系统的定义,美国的观察家也各执一词。就现在来说,两国军队都在开发基于人工智能的自动化武器,而联合国政府专家组就此问题开展的会谈计划于2022年年中结束。作者表示,华盛顿的恐惧主要来自于中国人工智能军事系统的测试及评估的不确定性。作者认为,较大多数国家而言,美国在软件测试和开发流程管控方面都极为严格,例如,美国国防部的3000.09指令,要求人工智能系统严格配备安全装置和防篡改机制。但是中国军方领导人未能提供关于人工智能系统的公开记录和检查信息,此举与美国相悖。


文章指出,为了规避人工智能可产生的技术及操作等重大风险,中美应就至少三项措施达成一致,分别为:对各自的军事人工智能系统实施严格测试和管控流程、建立危机沟通渠道以及不将人工智能与核指挥控制系统相结合。首先,中方应理解美国采用严格的测试和评估协议旨在防止技术故障的发生,此举目的并非取代谈判方式。对此,美方应加强沟通并澄清这一点,并公开承诺能就人工智能武器系统达成某种国际行为准则。作者认为,鉴于中国雄心勃勃的人工智能发展目标和非透明的人工智能测试机制,中国军方应根据中国的新一代人工智能治理原则,明确人工智能系统必须完成哪些流程,以确保其是安全、可信及可靠的。其次,中美必须正式建立危机沟通机制。中美联合参谋部负责人之间的定期对话是确定中美关系稳定的关键之一。这种“中美热线”应为白宫和中南海的中国领导层以及五角大楼和中央军委间建立沟通渠道。同时双方还应制定标准程序来进行书面通信。此外,两国防长应联合承诺不将核武器的发射权限委托给人工智能系统。美国和中国都承认对方可能会采用基于人工智能的监视和预警系统。但在任何情况下,发射核武器的决定都不应由人工智能系统自主学习作出。作者最后表示,这些措施仅代表了中美两国之间为减少人工智能风险可以采取的最基本的三个举措,两国之间应采取广泛措施建立彼此之间的信任。


Ryan Fedasiuk:新美国安全中心(Center for a New American Security)技术和国家安全项目的兼职研究员,乔治城大学安全与新兴技术中心(Center for Security and Emerging Technology, CSET)的研究分析师,专注于研究人工智能的军事应用、美国在东亚的技术联盟以及中国在技术领域的影响力等。

原文链接:https://foreignpolicy.com/2022/04/27/us-china-artificial-intelligence-dangers/


行业舆情追踪

国内动态


政府监管

「工信部公布第五批网络关键设备安全名单,华为、思科等上榜」

5月2日消息,按照《网络关键设备安全通用要求》(GB40050-2021)强制性国家标准,工信部对经安全检测符合要求的网络关键设备(第5批)予以公布。其中,华为(2 款)、思科(8 款)、诺基亚贝尔(1 款)、锐捷(4 款)、新华三(1 款)、西门子(5 款)等厂商 21 款设备上榜。

来源:IT之家


政府规划

「贵州省出实招支持工业领域数字化转型」

4月28日消息,贵州省工业和信息化厅等五部门近日联合印发《支持工业领域数字化转型的若干政策措施》),明确将支持龙头企业打造智能工厂、灯塔工厂,支持中小企业普及应用数字技术,支持工业企业上云用云,支持数字基础设施建设。

来源:中国发展网


「重庆推动5G新型基础设施协同建设促进数字经济发展」

4月27日消息,重庆市通信管理局联合市发改委等部门近日发布《关于推进5G新型信息基础设施与传统基础设施项目协同建设的通知》,并指出,5G新型信息基础设施与传统基础设施项目协同建设具有重要意义,要在项目实施过程中积极推动两种基础设施同步设计、同步施工、同步验收,并针对规划管理、核准备案、竣工验收阶段提出三点要求,旨在为社会各领域的数字化转型、智能升级、融合创新提供重要支撑。

来源:人民资讯、人民邮电报


「中国(重庆)元宇宙产业联盟正式成立,打造“政产学研金”综合服务平台」

4月26日,中国(重庆)元宇宙产业联盟正式成立。据悉,该联盟由重庆市大数据应用发展管理局、重庆市渝北区人民政府指导,国家信息中心、清华大学信息技术研究院、电信、移动、联通、腾讯、华为等60余家单位共同发起。下一步,联盟将重点围绕VR、AR、MR、人工智能、区块链、物联网等智能技术研究,推进元宇宙产业生态构建、创新应用、标准制定、政策支撑等多方面发展,打造集聚“政产学研金”多方资源的综合服务平台,加快推动元宇宙技术在各领域融合应用,助推元宇宙产业高质量发展。

来源:上游新闻


「北京数字经济将全产业链开放」

4月24日消息,北京市经济和信息化局近日对《北京市数字经济全产业链开放行动方案(征求意见稿)》公开征求意见。该方案提出6个方面、22条改革措施,努力打造数据驱动的数字经济全产业链发展高地,推动北京数字经济全产业链开放。对于备受关注的数据开放共享方面,北京将积极推动供水、供电、供气、公共交通等公共服务运营单位数据开放。

来源:北京市人民政府、北京日报


「武汉市数字经济发展研究院揭牌,政府企业高校携手打造数字经济智库」

4月24日,武汉市数字经济发展研究院揭牌。该院由武汉市政府和中国信通院联合建设,将立足武汉,瞄准国家需求,对标国际先进水平建设高端智库,聚焦数字基建、数字产业化、产业数字化、数据价值化、数字化治理等重大方向开展研究,着力支撑市委市政府决策和产业发展。

来源:武汉市人民政府、长江日报


行业自治

「豆瓣上线防水军控评功能」

4月29日消息,豆瓣已于近日上线了防水军控评功能,旨在更好地保证豆瓣评分的中立性,避免水军通过在短评区“控评”来引导舆论和评分。据悉,当影视条目的短评区集中出现大量具有争议或明显具有水军特征的短评内容且这些短评尚未被处理完毕时,此项功能就会开启。功能开启后,短评区将采用特定的点赞策略与排序算法,随机展示部分短评,使得水军无法通过集中点赞的方式引导短评区舆论。同时,该影视条目的短评区域顶部会出现警示标识提醒异常。

来源:IT之家


「华为发布《绿色发展2030》报告,推动ICT使能绿色发展」

4月27日,华为发布《绿色发展2030》报告,阐述ICT如何使能绿色发展。据悉,该报告对数字化和低碳化如何协同促进绿色发展进行了深入阐述,对关键行业面向2030年的绿色发展愿景进行了展望,同时围绕ICT技术使能绿色发展的三大创新方向,包括提升数字基础设施能效、加大可再生能源占比和使能行业绿色发展,给全球绿色发展提供重要参考。

来源:TechWeb


科技公司

「菜鸟与浙江电力在数字供应链领域达成合作」

4月29日消息,菜鸟与国网浙江省电力公司近日达成合作,双方将在电网物资供应链的数据治理和供应链管理等方面展开合作。据悉,菜鸟将通过数据治理和数据中台建设,在不对现有各类操作系统进行大量改变、升级的情况下,用更加柔性的方式将数据进行打通,帮助浙江电力完善电网物资的供应链管理系统,解决业务痛点,推动业务发展。

来源:TechWeb


「中国电信与旷视达成合作,共建数字生活新生态」

4月28日,旷视和中国电信数字生活公司签署战略合作协议。此次合作将充分发挥中国电信在FTTH、5G、云计算、物联网等新型基础设施领域的优势,并叠加旷视在智能AI终端、规模化的AI算法供给、丰富的算法定义软硬产品族等方面的优势,共同助力“家庭-社区-乡村-城市”全场景数字化应用融通,全面布局数字生活领域,共同为用户创造更加智能、舒适、安全的数字生活体验,积极探索与创新“云网资源+终端硬件+应用服务”模式,协同共建与共享社会服务生态。

来源:新浪证券


「天翼爱音乐发布AI视频彩铃,加速进入5G+AI数字化时代」

4月28日,天翼爱音乐举行AI视频彩铃发布仪式,该产品系列的首个主题正式启动。据悉,天翼爱音乐此前推出“元素”实验室,主要运用AI技术,基于未来的元宇宙体验,通过视频影像处理技术促进用户玩法升级,高效提升DIY视频彩铃应用解决能力,积极以5G+云+AI等前沿科技赋能视频彩铃,打造人工智能+5G应用创新新范式。

来源:凤凰科技


「中兴通讯与中集集团将在物流、企业数字化、智能制造等领域深入合作」

4月27日,中兴通讯与中国国际海运集装箱(集团)股份有限公司签署战略合作框架协议。根据协议,双方将充分发挥各自的综合资源优势,强化物流领域合作,并进一步开展在企业数字化、智能制造、数据中心、园区运营及智能化、绿色可循环载具和模块化建筑等领域的深入合作。

来源:羊城晚报


「中国电信和中国联通实现5G新通话互联互通」

4月26日,中国联通、中国电信全球率先在深圳、杭州、郑州、天津等城市开通基于双方共建共享5G网络并实现互联互通的5G新通话超清视频语音通话服务(VoNR)。据悉,以5G VoNR为基础,通过引入AI能力和专用数据通道,结合5G消息、视频彩铃、AR等新业务应用,5G新通话可在通话过程中共享手机屏幕内容,发送图片、视频和文件,还可随通话实时实现多语种和方言的转写、互译、同声传译等,极大程度提升沟通效率,有效解决外语、方言造成的沟通障碍等。

来源:澎湃新闻


「阿里人工智能打开高精度电网负荷预测“算法黑箱”」

4月26日消息,阿里巴巴日前将人工智能应用于电力调度,联合电网研发出高精度电网负荷预测模型。该模型已落地山东德州。据悉,该模型的母线负荷预测准确率达98%,展现出比人工更高的准确率,特别是在负荷波动较大的情况下。该模型可以有效应对大规模光伏并网带来的冲击,促进了电网安全稳定运行。

来源:中国电力报


「京东云发布数字仓库解决方案,依托AI等技术」

4月25日消息,京东云近日发布大宗商品数字仓库解决方案,通过对覆盖产业全流程的10大业务场景进行数字化升级,从而实现仓内货物异常实时预警、产业链仓储及流通信息实时在线分级共享,有望全面推动产业效能提升。据悉,该方案依托京东云IoT、AI技术以及数字孪生技术等,实现了数字仓库系统与产业平台的互联互通,可分级分权共享现货信息并保障大宗集散地安全可控运营。

来源:TechWeb


「深国预联手腾讯打造青少年人工智能教育平台」

4月25日消息,“深国预·腾讯教育人工智能创新实验室”于近日揭牌。该实验室是深圳国际预科学院与腾讯教育合作打造的青少年人工智能教育教学探索平台与创新基地。通过引入包括人工智能、大数据、区块链、虚拟现实等新一代信息技术,双方将依托各自资源、技术、人才优势,推进人工智能教育项目制学习。

来源:深圳新闻网


「大疆发布AI人工智能教育套件」

4月21日,大疆创新正式发布AI人工智能教育套件。据悉,该套件首次将完整的AI开发流程从企业级工程环境简化应用于中小学教育中,让学生参与全流程AI开发步骤,透彻理解AI技术原理,并鼓励学生运用AI技术创新解决问题,培养学生的人工智能思维。此外还有专为AI教学打造的软件平台,一站式集成,减轻备课负担,助老师轻松开展教学。

来源:中国经济新闻网


技术运用

「AI赋能智力运动有道纵横棋院APP全新升级」

4月29日消息,首个面向棋类爱好者的AI对弈平台“有道纵横棋院”APP近日进行全新升级,推出了功能更强大的AI超高速复盘功能,以独创的语音复盘等新功能,提升用户体验。据悉,升级后的APP可实现AI棋力的精确分级控制,为棋类爱好者精准匹配合适段位的对手。

来源:深圳新闻网


「广州互联网法院上线“5G智审卡片”系统,融合人工智能等技术」

4月28日,广州互联网法院正式上线“5G智审卡片”系统。该系统以5G消息为载体、智能手机短信为入口,当事人直接通过手机短信,即可完成案件的非同步审理。据介绍,这一系统借助5G消息主动送达、即点即用、智能交互的特点,融合了区块链、人工智能等前沿技术,构建起非同步审理新机制。

来源:南方都市报


「长沙运用人工智能打造高素质教师队伍」

4月27日消息,长沙市教育局近日印发《长沙市人工智能助推教师队伍建设试点工作实施方案(2022—2024)》,深入推进人工智能等新技术与教师队伍建设的融合,培养高素质专业化创新型教师队伍。《方案》指出,要建设和运用教师大数据,优化教师管理和评价;构建人工智能技术在教育教学中的应用场景,提升教师智能教育素养,推动教育信息化融合创新发展,同时为在全国层面推进人工智能助推教师队伍建设行动积累经验。

来源:红网



国际动态

政府监管

「美国证券交易委员会将扩充其加密货币监管团队」

5月3日,美国证券交易委员会(Securities and Exchange Commission, SEC)在一份声明中表示,该机构计划为其加密执法部门增加 20 名工作人员,以提高该机构在加密市场中监管不法行为及识别网络安全问题的能力。SEC称,自2017年启动以来,该机构已采取了80多项执法行动,获取超20亿美元的罚款。SEC主席加里·根斯勒(Gary Gensler)自上任以来一直对加密货币行业采取强硬态度,其此前于上月宣布将扩大其加密货币监管计划,并寻求与美国商品期货交易委员会合作监督加密货币商品和平台。

来源:路透社


「欧盟监管机构指责苹果滥用其在移动支付方面的市场支配地位」

5月2日,欧盟监管机构指控苹果违反欧盟竞争法,滥用其在移动支付领域的主导地位,限制第三方获取在苹果设备上开发竞争对手移动钱包解决方案所需的关键技术,从而使自己的Apple Pay受益。根据欧盟的竞争规则,这种行为将是非法的,如果指控成立,苹果可能面临高达全球营业额 10% 的罚款。

来源:华尔街日报


「英外交部:俄网军散播乌克兰危机不实信息」

5月1日,英国外交部指控俄罗斯利用网军在社交媒体散播有关乌克兰危机的不实信息。英国专家的研究揭露了俄罗斯如何利用散播不实信息来影响国际对乌克兰危机的看法,并增加人们对俄罗斯的支持。英国外长特拉斯表示,不能允许克里姆林宫及其网军入侵其网络空间,散播有关普京非法战争的谎言,英国政府已提醒国际伙伴,并会继续和盟国及媒体平台密切合作,瓦解俄罗斯的信息战。

来源:联合早报


「美国ITC对特定移动电子设备启动337调查,联想、摩托罗拉成列名被告」

4月28日,美国国际贸易委员会(International Trade Commission,ITC)投票决定对特定移动电子设备启动337调查,联想集团、美国Lenovo (United States) Inc.、美国摩托罗拉移动技术公司为列名被告,将于立案后45天内确定调查结束期。此前,3月30日,日本Maxell公司向美国ITC提出337立案调查申请,主张对美出口、在美进口和在美销售的某些产品侵犯了其专利权,请求美国ITC发布有限排除令、禁止令。

来源:中华人民共和国商务部中国贸易救济信息网


「美国法官下令优步提交2016年数据泄露事件相关记录,以确定是否存在隐瞒」

4月28日,美国加州北区地方法院法官William Orrick下令优步(Uber)移交2016年一起数据泄露事件的未经编辑的文件,这些文件可能透露该公司高层如何应对这起事件的更多细节。William Orrick表示,优步前首席安全官Joseph Sullivan被指试图就这一事件误导美国官员,因此这些内部通信文件对于该案辩护可能是必要的。Sullivan被指控试图隐瞒这一事件,据称优步在这起事件中向黑客支付价值10万美元的比特币,以销毁被窃取的5700万乘客和司机的数据。

来源:华尔街日报


政府规划

「日本与欧盟委员会就联合强化网络安全、活用人工智能技术等达成一致」

5月2日,日本总务相金子恭之与欧盟委员会执行副主席、竞争事务专员维斯塔格举行会谈,就日本与欧盟在数字领域强化合作达成一致。双方将面向下一代通信规格的第六代(6G)移动通信系统的实用化,实施联合研究等,还将在强化网络安全、活用人工智能方面统一步调,共享应对网络攻击的有效之策,并讨论避免恶意利用AI的方略。同时,日本与欧盟将进行产官学合作,讨论6G所需的性能和使用场合等,鉴于日本在5G的技术层面、商用服务启动时间上落后于海外,日本考虑在6G方面通过与欧盟合作,掌握国际性讨论的主导权,力图重振旗鼓。

来源:共同社


「日英就合作构建安全通信网达成共识」

4月29日,日本总务相金子恭之在伦敦与英国主管数字化事务的国务大臣Julia Lopez举行会谈,就日英两国政府为构建安全且信赖度高的第五代(5G)移动通信系统而合作达成了共识。两国将携手推进对手机等使用的无线电设备规格进行标准化的“Open RAN”通信网,并一起开展实证试验,还将与美国、澳大利亚合作向全球推广。金子恭之表示,在近来的国际局势之中,确保数字空间的安全性和信赖性变得更加重要,日方希望与英国深化数字领域的多方面合作关系。

来源:共同社


行业自治

「谷歌使用AI检测用户“歧视性”词汇”」

4月24日消息,谷歌正在使用一款新的人工智能语言助手来检测用户语言中的“歧视性”词汇,并建议用户用更“正确”的词语替换它们。谷歌发言人表示,目前还没能找到一个完美的解决方案,使人工智能识别尽可能减少不必要的单词联想和偏见,人工智能技术仍在进步,并不断从人类输入中学习,希望最终可以消除英语语言中所有的偏见和歧视。

来源:澎湃新闻


科技公司

「欧姆龙发售可识别戴口罩人脸的AI软件」

4月30日,欧姆龙公司发售了戴着口罩也可以识别人脸的人工智能软件。该软件会识别露在口罩外面的眼部周围的特征,实现了与不戴口罩时同等水平的认证准确度,将用于办公楼等的进出管理、以及在需要严格管理的工作设备等上登录的情况。

来源:共同社


「日本车企利用人工智能开发自动避撞系统,以应对复杂路况」

4月25日,日产汽车公司表示,该公司正在开发自动紧急避险的驾驶辅助技术,该系统不仅可以切换车道以避免碰撞到车辆,还能应对行人突然冲出等复杂路况。本田公司也正在利用人工智能来开发可以根据驾驶员能力及状态事先告知危险、提醒注意的驾驶辅助技术,并力争在2020年代后半期投入使用。

来源:共同社


前沿研究

「南洋理工大学设立失智症研究中心,运用人工智能寻找治疗失智症策略」

4月25日,南洋理工大学在李光前医学院内开设新加坡失智症研究中心,主要专注于早期失智症,希望通过人工智能和数码科技来寻找预防与治疗失智症的新策略。研究中心将与本地医院合作招募1500名患有轻度认知障碍的公众,以捕捉失智症发作前的大脑变化。

来源:联合早报


「日团队开发出自动辨别赌博依赖症的AI系统」

4月15日,东京医科齿科大学、京都大学等研究团队宣布,开发出通过人工智能技术辨别赌博障碍症患者特有脑图像回路的系统。东京医科齿科大学教授高桥英彦表示,由于赌博障碍症患者不承认或隐瞒事实的情况较多,该系统将通过根据脑部回路作出客观诊断,推动展开妥当治疗。该研究成果已汇总成论文,发表在日本精神神经学会的英文杂志《Psychiatry and Clinical Neurosciences》上。

来源:共同社



     
   

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点



上一篇:《人工智能国际治理观察》第62期

下一篇:《人工智能国际治理观察》第60期

关闭

相关文章

读取内容中,请等待...