北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results



海外智库观察

「兰德公司兼职高级信息科学家:治理元宇宙应以对社交媒体平台的规制为鉴,避免重蹈覆辙」

2022年8月22日,兰德公司发布其兼职高级信息科学家 Rand Waltzman 撰写的《Facebook 的错误信息已经够糟糕了,元宇宙会更糟(Facebook Misinformation Is Bad Enough. The Metaverse Will Be Worse)》。文章指出,随着在线虚拟现实环境的快速发展,可能很快会出现这样一个场景:当一位政治候选人向数百万人发表演讲时,尽管每个观看者都认为他们看到的是相同版本的候选人,但在虚拟现实中,他们实际上看到的是略有不同的版本。对于每一位观看者而言,候选人的脸都被巧妙地修改为与观看者相似。这是通过将每个观看者的面部特征与候选人的面部相融合来实现的。通过这种图像操作,可以令观看者增加对候选人的好感。作者指出,这不是猜测,人们早已知道,模仿可以作为一种强大的影响工具并加以利用。斯坦福大学传播学教授、虚拟人际交互实验室的创始人杰里米·贝伦(Jeremy Bailenson)等研究人员于2009年发布的《选民和候选人之间的脸部相似性造成影响(Facial Similarity Between Voters and Candidates Causes Influence)》研究论文就指出,通过一系列的实验表明,稍微改变一个不熟悉的政治人物的特征,使其与每个选民相似,就能使人们对政治家的评价更加有利。这些实验拍摄了研究参与者和真实候选人在模拟选举活动中的照片。每个候选人的照片都被修改为与每个参与者相似。研究发现,即使40% 的参与者的特征被混合到候选人的脸上,参与者也完全没有意识到图像被篡改了。基于此,作者指出,在元宇宙中,很容易想象这种大规模的模仿行为。并且在虚拟现实环境中,恶意行为者对用户心理和情感的操纵与欺骗将达到当前无法想象的程度。然而,当前我们并不能保护用户免受这种即将到来的新媒体带来的威胁。


作者指出,当谈到情绪操纵时,元宇宙中的两个特征特别重要——存在和体现。“存在”是指人们感觉他们正在彼此直接交流,而无需任何类型的计算机界面。“体现”是指用户感觉到他们的化身或虚拟身体就是他们的真实身体。这两种感觉不仅是让虚拟现实如此强大的原因,也是令虚拟现实中的情绪操纵如此危险的原因。在虚拟现实中,肢体语言和非语言信号(例如眼睛注视、手势或面部表情)可用于传达意图和情绪。与口头语言不同,我们经常下意识地产生和感知肢体语言。虚拟现实环境充分利用人类进行交流的载体来令人们之间进行互动。在传统的社交媒体环境中,这种强度和规模的人与人之间的互动是不可能的。这既有利也有弊。尽管它将允许更好的沟通,但它将使用户接触到在物理世界中使用的各种欺骗性影响技术,甚至可能是更强烈的虚拟版本。


作者表示,元宇宙将迎来一个大规模定制影响力和操纵的新时代。它将提供一套强大的工具来有效地操纵我们。并且是能够以前所未有的方式将量身定制的个人操纵和大规模操纵结合起来。用户作为化身的虚拟体验预计将与其在物理世界的经验、记忆和理解无缝融合。这几乎肯定会改变一个人看待世界、理解世界和在其中行事的方式。作者认为不能等到这些技术完全实现后才考虑为它们设置适当的“护栏”。应该在从元宇宙中获益的同时,最大限度地减少其潜在的巨大危害。作者指出,设计这些“护栏”的第一步是对现有的关于虚拟现实使用和影响的广泛心理学文献进行全面研究和评估,并考虑如何将其用于恶意的、操纵性的目的。这项研究应该描述当今可能的情绪操纵技术类型,但也应该研究在更复杂的元宇宙版本中可能出现的技术。不过目前还无法做到这一点。并且我们无法防范我们不完全理解的东西。第二步是开发技术来检测何时会应用这些技术。作者最后表示,当Facebook、Twitter 等传统社交媒体对社会的负面影响完全失控时,社会才对它们施以真正的关注。因此,治理元宇宙应以此为鉴,避免重蹈覆辙。


Rand Waltzman:兰德公司的兼职高级信息科学家,专注于研究信息环境中的社交媒体、认知安全等领域。

原文链接:

https://www.rand.org/blog/2022/08/facebook-misinformation-is-bad-enough-the-metaverse.html

行业舆情追踪

国内动态

政府规划

「《哈尔滨市建设国家新一代人工智能创新发展试验区若干政策》发布」

8月31日消息,《哈尔滨市建设国家新一代人工智能创新发展试验区若干政策》近日发布。《政策》主要围绕人工智能关键技术攻关、创新平台建设运营、培育载体发展、应用场景建设、国际合作、招引人工智能重大投资项目和头部企业、培育引进人工智能高端人才、金融支撑、生态体系建设、数据资源开放应用十方面,切实支持人工智能产业发展。在关键技术攻关方面,支持科技型企业、高校、科研机构等,针对制约哈市人工智能发展和应用的“卡脖子”技术,采取“揭榜挂帅”、产学研联合攻关、自主攻关等方式,开展关键核心技术攻关。对通过评审的项目,给予最高不超过1000万元资金支持。

来源:黑龙江日报


「广东省数字政府粤基座联创中心揭牌,发布两项全国首创成果」

8月31日,广东省数字政府粤基座联创中心揭牌,启动第一批研究课题,并发布“粤基座”和“基于超级SIM国密技术与零信任技术的5G专网鉴权系统应用研究”两项成果。据悉,联创中心在广东省政务服务数据管理局的指导下,由中国电子、数字广东、华为、腾讯等9家单位共同组织筹建,旨在加大新型基础设施建设成果在数字政府领域的应用力度,提升数字政府新型基础设施供给能力,发挥新型基础设施在数字政府改革工作的重要基础支撑作用,满足数字政府深化建设的需要。发布成果中,粤基座平台是全国首个省级数字政府新型基础设施智能管理平台,集成了多个基础设施管理平台,包括云应用服务、网络运营服务和新型认证服务等多项业务,实现了业务全流程在线管理;5G专网二次鉴权则是全国首个在5G政务专网场景下实现身份动态管控的落地成果,将“超级SIM+5G政务专网+国产密码”相融合,实现了在5G政务专网场景下的CT+IT网络二次鉴权准入管控、基于云网协同与大数据分析的访问权限动态精准管控、基于号卡实名认证实现跨域安全隔离与终端用户权限管控和基于SM9国密算法的端到端数据全程加密传输等功能。

来源:南方网


「四川省拟发文推进新型数字基建和新型信息消费,优化新一代存算设施布局」

8月31日消息,四川省经信厅组织编制《四川省关于加快新型数字基础设施建设扩大升级信息消费的若干政策措施(征求意见稿)》并公开征求社会各界意见。《措施》提出,优化新一代存算设施布局,加快建设全国一体化算力网络成渝国家枢纽节点,打造天府数据中心集群。同时,发挥国家超算成都中心、成都智算中心等作用,推动CPU、GPU等异构算力提升,逐步提高自主研发算力的部署比例。《措施》还明确,聚焦云存储、分布式存储等业务,推进云计算基础设施建设布局,支持各企业灵活部署边缘数据中心,积极构建全省重点城市内的边缘算力供给体系。

来源:中国证券网


「国内首条中心城区自动驾驶开放测试道路在上海浦东启用」

8月31日,上海市浦东新区金桥智能网联汽车测试示范区启动。据悉,示范区内第一批开放测试道路12条共计29.3公里,有57个信控路口,涵盖国内首条中心城区自动驾驶开放测试道路,也是目前上海风险等级最高的开放测试道路(总体被评为3级,最高4级)。未来,示范区将发挥浦东新区引领区智能网联汽车立法优势,在相关部门支持下全力推进更大区域开放测试道路、地下空间自动驾驶微循环路线、园区无人配送、以及地面道路与地下车库联动的自主泊车等高级别自动驾驶应用场景发展,推动无人驾驶商业模式落地,先行先试,此外,还将着力建设面向未来城市立体空间的自动驾驶云控平台,倾力培育未来车全新的产业生态体系。

来源:澎湃新闻


「长沙将建国内首个智能网联汽车创新应用示范区」

8月31日,在2022互联网岳麓峰会上,中国工程院院士、湖南工商大学党委书记陈晓红表示,长沙将以湖南湘江新区为核心,构建国内首个智能网联汽车创新应用示范区。近日,《湖南湘江新区智能网联汽车创新应用示范区行动方案(2022-2025)》正式发布,将允许自动驾驶出租车进行全无人应用示范、全天候运行,长沙也将成为全国测试道路里程最长、区域最大的城市。根据规划,湘江新区将支持深入开展智能网联汽车道路测试、鼓励智能网联汽车规模化应用及商业运营、加快智慧城市基础设施与智能网联协同发展、完善示范应用及运营管理配套制度体系等四个方面内容。

来源:中国新闻网


行业自治

「淘宝推出青少年网购保护功能,避免未成年人过早接触不适宜商品和生命健康」

8月31日消息,阿里巴巴在淘宝推出青少年网购保护功能,经实名认证的未成年人账号在搜索购买游戏充值、直播币充值、成人用品、农兽药等商品时,淘宝将进行分级引导,针对性地开启不主动推荐、搜索不可见、不可买等分层保护机制。如果未成年用户搜索不适宜其年龄段展示的商品,甚至会直接跳转至“绿网计划”公益页面进行科普引导和消费提醒,并对部分涉未成年人不适宜商品订单进行拦截和风险告知,避免未成年人过早接触不适宜商品。当触发守护生命健康机制,智能预警用户存在自杀风险时,平台则会联动商家、客服与警方等多方,采取及时必要的线上、线下干预。

来源:36氪


科技公司

「百度灵医智惠获全国首张多病种AI医疗三类证」

8月31日消息, 百度灵医智惠(北京康夫子健康技术有限公司)眼底病变眼底图像辅助诊断软件正式获批国家三类医疗器械注册证。据悉,该证是全国首张多病种AI三类证,也是全国首张青光眼AI三类证。临床试验报告显示,灵医智惠眼底AI系统对青光眼的灵敏度和特异度分别达到89.1%和99.3%,对糖网则为94.8%和95.5%。为了更符合真实需求,该系统不仅适配主流眼底相机品牌和型号,同时行业首创边缘计算平台,以应对偏远地区网络基础薄弱、以及数据安全等问题。

来源:中国青年网


「阿里云发布飞天智算平台,可将人工智能训练效率提升11倍」

8月30日消息,阿里云宣布正式推出全栈智能计算解决方案“飞天智算平台”,并启动两座超大规模智算中心,以公共云和专有云两种模式,为各类科研、公共服务和企业机构提供强大的智能计算服务,可将计算资源利用率提高3倍以上,人工智能训练效率提升11倍,推理效率提升6倍。

来源:TechWeb


「网龙公司任命国内首位虚拟人CEO」

8月30日消息,网龙公司旗下子公司福建网龙计算机网络信息技术有限公司近日任命首位虚拟数字人高管唐钰出任轮值CEO,这在国内还是首次。据悉,唐钰将主要承担两方面的职责,一是为元宇宙组织发声,披露公司战略和成果;二是继续帮助公司推行“AI+管理”,提升组织效率。作为实时大数据中心和分析系统,唐钰将支持日常运营中的合理决策,同时实现更有效的风险管理。

来源:快科技


前沿研究

「《2022年浙江省人工智能产业发展报告》发布」

8月31日,《2022年浙江省人工智能产业发展报告》正式发布,介绍了2021-2022年人工智能产业的全球趋势动向,并对浙江省人工智能产业图谱进行了详细梳理。据悉,报告对浙江人工智能总体情况、行业发展、区域分布、技术创新、企业培育、场景应用以及发展趋势等7个方面进行了深入研究分析,重点阐述最近一年来浙江人工智能产业发展的阶段性成果。报告显示,2021年,浙江人工智能企业实现总营业收入3887.42亿元,同比增长30.96%,实现利润总额446.32亿元;研发投入达244.42亿元,占营业收入比重的8.2%,规模效益保持较快增长。

来源:杭州网


「多家机构发起“促进生物多样性保护的人工智能原则”倡议」

8月25日,中国科学院自动化研究所、世界动物保护协会北京代表处、清华大学人工智能国际治理研究院等机构在北京共同发起“促进生物多样性保护的人工智能原则”倡议,并在倡议发布仪式结束后举办了“人工智能与生物多样性保护”研讨会。发布会上,促进生物多样性保护的人工智能的九项原则正式发布,包括促进生态繁荣、人道可持续开发、避免伤害、监管与保护、安全与可控、负责任、遵守法律、教育与培训、合作。原则倡议,人工智能应用于探索生命、理解生命和保护生命,可以通过多种方式促进生物多样性的保护和监管,包括生物监测、状况评估、科学干预、教育普及,促进动物保护;在人工智能的发展与应用中,应遵守伦理、道德和公序良俗,避免对生物带来不必要的伤害,贡献替代方案的研发和推广;相关的人工智能应用与服务需遵循国际法、国家和地区对生物多样性保护相关的法律法规以及相关国际共识,并确保足够的安全性;人工智能应促进全球共享生物多样性带来的价值。

来源:中国青年报

国际动态

政府监管

「英国要求加密交易所发现违反制裁相关行为必须上报」

8月30日,英国官方指南进行更新并指出,加密货币交易所需根据英国财政部金融制裁实施办公室最新出台的法规,在发现违反制裁相关行为之后必须要向英国监管机构报告,明确将“加密资产”包括在对个人或公司实施制裁时必须冻结的资产中。这意味着一旦加密货币交易所在发现可疑行为而不上报,将会构成刑事犯罪。除了比特币、以太币和 Tether 等数字货币外,加密资产还可以包括其他名义上有价值的数字资产,例如非同质化代币(NFT)。据悉,该法规的出台是为了避免在俄乌冲突中有人通过加密货币的方式绕过西方国家对俄罗斯的制裁。

来源:新浪财经


「中非共和国最高法院禁止使用政府推出的加密货币进行公民身份等交易」

8月29日,中非共和国最高法院裁定,使用政府推出的数字货币购买公民身份、电子居留权以及土地是违宪的。法院指出,公民身份没有市场价值,而居住权则需要在中非共和国境内实际逗留。据悉,中非共和国于今年4月成为第一个采用比特币作为官方货币的非洲国家,并于7月25日推出了名为“Sango Coin”的国家数字货币,且允许外国投资者以价值 60000 美元的加密货币购买公民身份及电子居留权。该数字货币计划还将一块250平方米的土地列为10000 美元,其中等值的Sango硬币将被锁定十年。

来源:路透社


政府规划

「马来西亚在全国推行5G的计划因运营商”变卦“打乱部署」

8月31日,知情人士透露马来西亚最大的两家移动运营商Maxis Bhd和U Mobile不打算入股国有5G机构,这一举动扰乱了政府与其他运营商签署协议的计划,并有可能使该国的5G部署陷入进一步的混乱。据悉,马来西亚政府希望该国的六家移动运营商同意收购马来西亚国有网络批发商Digital Nasional Berhad(DNB)70%的股份,但是三位消息人士估算,政府的计划将这几家移动运营商的市值损失高达450亿林吉特(108亿美元)。并且根据政府计划,DNB将拥有所有5G频谱权,并建设和维护整个网络,而运营商将使用该基础设施提供移动服务。尽管Maxis和U Mobile无法看到成为DNB少数股东的好处,但都希望继续就此事宜进行谈判。Maxi还表示将继续专注于为马来西亚人民和企业提供服务的宗旨,并能够在支持国家的数字化雄心方面发挥关键作用。

来源:路透社


「到2025年中,新加坡港口水域多处将安装5G网络」

8月30日,新加坡交通部兼财政部高级政务部长徐芳达在国际海上安全研讨会致辞时表示,基于海事及港务管理局本月与资讯通信媒体发展局签署的谅解备忘录,电信业者第一通有限公司将获款,提供覆盖港口水域的独立5G网络。海事局和国防科技局联合开发的海港运作指挥、控制与通讯综合(Integrated Port Operations Command, Control and Communications,IPOC)系统,将在2023年至2026年逐步推出,协助快速检测侵权和异常情况。该新系统综合海事局船只交通资讯系统、视频中心,以及新加坡海事数据中心等29个现有数据来源,就无须人工结集数据,提高反应效率。此外,海事局也预计在2023年第三季启用锚地主动管理系统(Active Anchorage Management System),并通过人工智能优化锚地空间的分配,实施监控所有锚地,以确保安全。

来源:联合早报


「新加坡央行抨击加密货币交易但仍希望发展数字资产生态系统」

8月30日,新加坡最高金融监管机构表示,加密货币对许多投资者来说是“高度危险的”,但明确表示这个城市国家仍然希望发展数字资产生态系统。新加坡金融管理局局长孟文能(Ravi Menon)表示加密货币缺乏货币的基本品质,除了投机以外,在区块链网络之外没有提供任何用途。此外,加密货币唯一有用的功能是奖励那些帮助验证和维护区块链上的交易记录的人。新加坡此前已经邀请加密货币交易平台、经纪商和贷款机构在该国申请许可证,但总部设在新加坡的多个加密货币行业公司倒闭后,该国最近一直在努力解决如何保护其声誉的问题。

来源:华尔街日报


「卡塔尔央行发布首批数字支付许可证」

8月30日,卡塔尔中央银行表示已向移动电话运营商沃达丰卡塔尔公司的iPay和电信公司Ooredoo的Ooredoo Money颁发了首批数字支付服务许可证。2022 年国际足联世界杯将于今年年底在卡塔尔举行,该国央行表示,希望在世界杯期间让游客能够处理和完成他们的数字支付。

来源:路透社


网络安全

「密码管理公司LastPass遭到黑客攻击」

8月27日,总部位于美国波士顿的在线密码管理公司LastPass表示,其部分源代码和专有信息被盗,但没有顾客信息被窃取。该公司首席执行官Karim Toubba表示,一个未经授权的人通过LastPass的一个开发者账户访问了LastPass软件工程师的编码工作区。LastPass在两周前已注意到异常活动并进行了调查,且正在与一家网络安全和取证公司合作。此外,该公司也已经采取了额外的安全措施。

来源:华尔街日报


「DoorDash部分客户和司机信息被泄露」

8月27日,美国外卖平台DoorDash报告了一起影响该公司客户和配送员的数据泄露事件,该事件源于对一家第三方供应商的网络钓鱼攻击。该外卖平台表示,被读取的信息包括客户姓名、电子邮件地址、送货地址和电话号码、订单信息和部分支付卡信息。DoorDash工作人员的姓名、电话号码或电子邮件地址也被泄露。但该公司表示,受影响的人数只占该公司持有信息的很小一部分。该公司已调查了此次入侵事件,并认定未经授权的一方使用窃取的供应商员工身份验证信息获得了部分内部工具的权限导致数据泄露事件发生。

来源:华尔街日报


「北约成员国黑山的国家关键基础设施受到网络攻击 」

8月26日,黑山政府表示,黑山的政府数字基础设施受到“前所未有的”网络攻击的打击,但已及时采取措施减轻其影响,并立即向北约其他成员国报告了这次袭击。该国公共行政部长Maras Dukaj表示,出于安全原因,某些服务暂时关闭,但属于公民和公司的帐户及其数据的安全性并未受到威胁。该袭击始于25日晚上。美国驻黑山大使馆表示,该国正在遭受持续不断的网络攻击,攻击可能包括对公用事业、交通(包括边境口岸和机场)和电信部门的破坏。美国国家安全局随后向运营关键基础设施的组织发出警告。

来源:路透社


科技公司

「康宁宣布在美国亚利桑那州建立新光缆工厂」

8月30日,科技公司康宁(Corning)宣布将在美国亚利桑那州建设新的光缆制造厂,以响应美国政府420亿美元的宽带计划。康宁首席执行官Wendell Weeks表示,该工厂是康宁自2020年开始的5亿美元光纤和光缆生产扩张计划的一部分,该计划预计会把其光纤和光缆生产能力提高近一倍,推动5G无线网络、家庭光纤部署和云计算的部署。他还表示,康宁公司正在尽自己的一份力,确保每个美国人都能通过光纤连接到可靠、高速的网络。

来源:路透社


「美国人工智能公司SiMa.ai宣布将大规模生产机器学习芯片和系统」

8月30日,美国人工智能公司SiMa.ai表示将开始测试其准备向客户运送并大规模生产的芯片和系统。该公司产品主要使用机器学习在平台上进行视频和图像处理,并用于工业机器人、无人机、安全摄像头、卫星成像以及自动驾驶汽车。SiMa.ai的芯片由台积电制造,并使用芯片软件工具Snopsys来进行芯片设计,计划于明年第一季度进行量产。

来源:路透社


「马斯克发信表示将取消收购Twitter」

8月30日,根据Twitter向美国证券交易委员会提交的一份文件显示,马斯克再次致信该平台,正式通知终止双方之前达成的收购协议。在Twitter前安全主管Peiter Zatko作证Twitter的用户增长依靠垃圾账号之后,马斯克和其法律团队29日致信Twitter表示,如果指控属实,那么Twitter违反了原始合并协议中的一些条款,包括虚假和误导性陈述及未遵守人才管理方面的义务。

来源:路透社


「特斯拉车主因“幽灵刹车”问题向特斯拉提起诉讼」

8月29日,美国加州的特斯拉Model 3车主在一项拟议的集体诉讼中对特斯拉进行了起诉,原因是该公司车辆存在“幽灵刹车”问题,即自动驾驶辅助系统出现了刹车意外激活的情况。该车主在起诉书中称,特斯拉利用不安全的技术迅速将其自动驾驶汽车推向市场,包括被该公司称为Autopilot或Full driving的驾驶辅助系统,以及紧急刹车系统。该诉讼旨在为所有特斯拉在美国遭遇突然意外刹车缺陷的车主或租赁人寻求集体诉讼地位。

来源:路透社、新浪科技


技术运用

「瑞士团队利用人工智能算法观察月球永久阴影区」

8月31日,以瑞士苏黎世理工大学为首的一个国际研究小组利用人工智能算法观察到月球上的永久阴影区。该人工智能有望“照亮”永久的阴影区,尤其是那些尽管旋转但自然阳光仍无法到达的区域。这项近期刊载于《地球物理研究快报》上的研究也包含在美国国家航空航天局“阿尔忒弥斯1号”任务计划中,有助于为其将来的登月计划确定着陆点。

来源:新浪科技


「新加坡公共巴士将通过人工智能与机器学习减少意外发生」

8月31日,在新加坡大陆汽车(Continental Automotive Singapore)科技节活动中,大陆汽车与公共交通业者前进新加坡(Go-Ahead)和南洋理工大学签署备忘录,展开为期两年的合作伙伴关系,开发和加强本地公共巴士车队的驾驶安全管理系统,旨在通过人工智能与机器学习,减少意外的发生,让新加坡本地公共巴士将变得更安全。

来源:联合早报


「法国用人工智能技术发现大量未申报游泳池」

8月29日,法国使用人工智能技术发现超过两万个未申报的私人游泳池,税务部门已经获得了约1000万欧元的收入。游泳池可能意味着更高的财产税,会提高房产价值,而且根据法国法律必须进行申报。税务部门表示该软件最终可能被用于寻找未申报的房屋扩建、露台或凉亭,这些也将在增长财产税收入中发挥作用。

来源:参考消息


「近畿大学团队开发出预测牛肉品质的人工智能技术」

8月28日,日本近畿大学教授松本和也的研究团队开发出一项技术,用人工智能对牛犊血液中的135种蛋白质信息进行分析,预测精加工前的半扇肉重量以及里脊肉大小、五花肉厚度等肉质情况。利用这种技术无需依赖畜产农户的经验,根据预测结果就可以决定适合牛犊的饲料种类和数量,从而实现高效饲养。据悉,用于分析的采血量约为1至2毫升,对牛犊不会造成负担。

来源:共同社


「日本三井住友旗下企业利用人工智能提高合同管理效率」

8月26日,三井住友金融集团旗下的SMBC Cloudsign等企业开发出利用人工智能的合同管理服务。相关系统可读取签约日、合作方名称、金额等,减轻人工输入的负担、提高业务效率。集团向横滨银行等14家以上地方银行提供的电子合同服务中追加了上述功能,7月起可免费使用,这一服务使得检索过去的合同也变得方便。该企业还在研究建立机制,将来由人工智能确认合同是否满足必要条件,基于过去的合同在与交易方的谈判和经营决策中发挥作用。

来源:共同社

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》第95期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...