北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


undefined      

海外智库观察

「IEEE综览:人工智能应用的六种最坏情景」

2022年1月3日,电器电子工程师学会旗下杂志《IEEE综览(IEEE Spectrum)》发表美国战略风险专家娜塔莎·巴吉马(Natasha Bajema)撰写的文章《人工智能应用的六种最坏情景》(AI’s 6 Worst-Case Scenarios)。作者首先指出,当前好莱坞的一些文艺作品已经展现了机器获得类人智能、获得感知后对人类社会造成的毁灭性影响。悬疑小说《The Quantum Price》的作者、机器学习工程师Malcolm Murdock更是表示,人工智能不用有知觉就可能会消灭人类。作者通过采访相关人工智能专家,发现了六种在真实世界中使用AI的最坏情况。针对这些情况,作者认为我们必须放弃我们将人工智能视为一种流行文化的想法,认真严肃地对待它的负面后果。


第一种情景为大规模虚假信息的生成导致了人类社会的混乱。作者表示,随着深度伪造(使用先进的机器学习工具生成的假图像、视频、音频和文本)的兴起,有朝一日AI可能会导致国家安全决策者根据虚假信息来采取现实世界的行动,从而导致重大危机甚至战争。作者援引美国乔治城大学安全与新兴技术中心 (Center for Security and Emerging Technology,CSET) 高级研究员Andrew Lohn的观点——支持人工智能的系统现在能够大规模地生成虚假信息。通过产生更多数量和种类的虚假信息,这些系统可以模糊其真实性质并优化成功,并且随着时间的推移可以提高其预期影响。因此,如果无法及时确认信息的有效性,仅仅在危机中出现深度伪造的概念也可能导致领导人犹豫采取行动。德国汉堡的研究与安全政策学会(Institute for Research and Security Policy)的研究员Marina Favaro此前也指出,深度伪造会损害我们对信息的信任。


第二种情景为国家之间危险的逐底竞赛。作者表示,关于人工智能和国家安全,发展速度既是重点也是问题所在。作者认为,由于支持人工智能的系统为其用户带来了更大的速度优势,因此最先开发军事应用的国家将获得战略优势。但是,CSET的战略主管童海琳(Helen Toner )表示,危机可能是始于一个微小故障,随后导致所有通信中断、社会恐慌、经济停滞,持续缺乏信息,如果再加上其他误判,甚至可能会导致局势失控,瑞典斯德哥尔摩国际和平研究所(Stockholm International Peace Research Institute,SIPRI)的高级研究员文森特·布拉宁(Vincent Boulanin)对此也警告称,如果一个国家将速度置于安全、测试或人工监督之上,那将是一场危险的逐底竞争。例如,为了获得速度优势,国家安全领导人可能会倾向于将指挥和控制决策委托给他人,消除对我们不完全理解的机器学习模型的人工监督。在这种情况下,即使是在未经人类授权的情况下自动发射导弹防御系统也可能会导致意外升级并导致核战争。


第三种情景是隐私和自由意志的终结。作者指出,当我们在进行每一个数字操作时,不论是电子邮件、文本、下载、购买、帖子、自拍还是使用GPS定位,我们都会产生新的数据。如果允许公司和政府不受限制地访问这些数据,我们就把监视和控制的工具移交给了他们。随着面部识别、生物识别、基因组数据和人工智能预测分析的加入,Andrew Lohn担心随着监控和跟踪数据的兴起,人类社会正在进入危险和未知的领域,且几乎不了解潜在存在的影响。作者表示,数据一旦被收集和分析,其力量就远远超出了监测和监视的功能,甚至可以进行预测性控制。


第四种情景为网瘾人群。作者将社交媒体用户比作生活在人类版本的斯金纳箱(Skinner Box)中的小白鼠,被粘在了智能手机的屏幕上,被迫牺牲更多宝贵的时间和注意力在社交媒体平台上。AI算法经过优化,可以让用户尽可能长时间地留在平台上。通过以喜欢、评论和关注的形式提供奖励。为了最大化广告利润,社交媒体公司将我们的注意力从我们的工作、家庭和朋友、责任甚至我们的爱好上转移开。童海琳对此警告称,我们在这些平台上花费的时间越多,我们在追求积极、富有成效和充实的生活上花费的时间就越少。


第五种情景为人工智能的设计难以规避偏见问题。作者表示,我们每天都将更多的日常生活交给支持人工智能的机器,这是有问题的。美国宾夕法尼亚大学政治学教授迈克尔·霍洛维茨(Michael Horowitz)表示,人类社会还没有完全解决人工智能中的偏见问题。即使有最好的意图,但是人类是存在偏见的,因此,人工智能系统的设计,无论是训练数据还是数学模型,都会反映为其编程的人的狭隘经验与利益。IT安全公司KnowBe4的高级副总裁Lydia Kostopoulos也认为,许多支持人工智能的系统未能考虑到不同人的不同经历和特征。由于人工智能基于有偏见的观点和数据,而不是每个人的独特需求来解决问题,因此此类系统产生了人类社会中不存在的一致性。作者还表示,人工智能设计决策还可以约束人们,而不是将人们从一些担忧、存在歧视的现象中解放出来,例如招聘中存在的种族歧视和性别歧视仍然会从人类偏见中转化到人工智能系统中。


第六种情景是对人工智能的恐惧剥夺了人类的利益。作者表示,由于今天的AI在数据集、高级统计模型和预测算法上运行,因此构建机器智能的过程最终以数学为中心。如果人们变得如此害怕人工智能,以至于政府以剥夺人类对人工智能的许多好处的方式来对其进行监管,那该怎么办?例如,政府为防止人工智能出现最坏情况而采取的下意识的监管行动也可能适得其反并产生它们自己意想不到的负面后果,在这种情况下,我们变得如此害怕这项巨大技术的力量,以至于拒绝利用它来为世界带来实际好处。

娜塔莎·巴吉马(Natasha Bajema):美国战略风险委员理事会融合风险实验室主任,曾工作于美国国防大学,并在国防大学领导了一项关于新兴技术对大规模杀伤性武器的影响的计划。

原文链接:https://spectrum.ieee.org/ai-worst-case-scenarios


行业舆情追踪

国内动态

政府规划

「工信部、发改委:促进云网融合,加快中小城市信息基础设施建设」

1月27日,工信部办公厅和发改委办公厅联合印发《关于促进云网融合,加快中小城市信息基础设施建设的通知》。《通知》主要面向城区常住人口100万以下的中小城市,围绕网络设施、应用设施、技术创新、融合应用、产业聚集等领域提出了五大任务。一是加快完善中小城市网络基础设施,有序推进千兆光网部署,升级各城市间的光缆和传输系统,增强网络设施安全性和可靠性。二是有序布局中小城市应用基础设施,包括推动中小城市存量“老旧小散”数据中心集约化、规模化、绿色化改造;推动地市级中小城市统筹按需开展云资源池建设,合理布局算力服务;鼓励在县城按需探索构建共享型边缘云节点等。三是积极推动中小城市云网技术融合创新,以实现高效算力调度为核心,全面集成云、网、边算力资源。四是大力培育基于云网基础设施的融合应用,鼓励和支持互联网内容和应用服务企业加快研发各类基于云和高带宽的应用产品,丰富应用类型和场景。同时鼓励相关企业和政府机构加快建设数字化云平台,推动企事业单位深度上云用云,打造一批可复制推广的建设和应用样板。五是支持数字产业向中小城市聚集,鼓励构建高速、可靠、安全、弹性的“网络+平台+应用”服务体系,强化产业发展和社会治理数字化转型支撑能力。

来源:工信部


「中央网信办等10部门印发《数字乡村发展行动计划(2022-2025年)》」

1月26日消息,中央网信办等10部门近日印发《数字乡村发展行动计划(2022-2025年)》,其中提出,到2023年,数字乡村发展取得阶段性进展;到2025年,数字乡村发展取得重要进展。《行动计划》强调,要牢牢守住保障国家粮食安全和不发生规模性返贫两条底线,以解放和发展数字生产力、激发乡村振兴内生动力为主攻方向,着力发展乡村数字经济,着力提升农民数字素养与技能,着力繁荣乡村网络文化,着力提高乡村数字化治理效能,为推动乡村振兴取得新进展、农业农村现代化迈出新步伐、数字中国建设取得新成效提供有力支撑。

来源:网信中国


「浙江省全面推进“公安大脑”建设,旨在打造全省公安数字化中枢“浙警智治”」

1月26日消息,浙江省日前全面部署推进“公安大脑”建设,并下发建设指导意见以及项目责任分工表,体系化、规范化推动公安数字化改革。“公安大脑”按照一体化、智能化的要求,将最大限度对公安现有系统、数据、手段进行深度融合,并从规划、建设、管理、运维等方面一体推进。这个融合共享的平台中枢,将提供更为丰沛的数据,更智能、更快捷地服务于打击犯罪、执法办案的实战。同时,“公安大脑”建设还将撬动机制、体制变革,力争形成变“被动”为“主动”的现代警务机制,以及“职能科学、事权清晰、指挥顺畅、运行高效”的新时代公安机关组织体系。

来源:浙江日报

「国务院办公厅印发《“十四五”城乡社区服务体系建设规划》,要求加快社区服务数字化建设」

1月21日,国务院办公厅印发《“十四五”城乡社区服务体系建设规划》,明确了“十四五”时期推进城乡社区服务体系建设的指导思想、主要目标、重点任务、组织保障等。《规划》从完善服务格局、增强服务供给、提升服务效能、加快数字化建设、加强人才队伍建设等方面,明确主要指标、行动计划和重大工程。《规划》强调,要提高数字化政务服务效能,推动“互联网+政务服务”向乡镇(街道)、村(社区)延伸覆盖,深化全国基层政权建设和社区治理信息系统、中国智慧社区服务网推广应用;要构筑美好数字服务新场景,鼓励运用第五代移动通信(5G)、物联网等现代信息技术推进智慧社区信息基础设施建设。

来源:中国政府网


「国务院印发《“十四五”旅游业发展规划》,要求扩大新技术场景应用,推进智慧旅游发展」

1月20日,国务院印发《“十四五”旅游业发展规划》。《规划》指出,“十四五”时期,我国将全面进入大众旅游时代,旅游业发展仍处于重要战略机遇期,实施创新驱动发展战略为旅游业赋予新动能,也对旅游业提出了创新发展的新要求。《规划》要求坚持创新驱动发展,加快推进以数字化、网络化、智能化为特征的智慧旅游,深化“互联网+旅游”,扩大新技术场景应用。其中,具体任务包括推进智慧旅游发展,加快新技术应用与技术创新,以及加强旅游大数据基础理论研究,提高创新链综合效能。

来源:中国政府网

科技公司

「全球VR、AR专利排行出炉,华为、商汤上榜」

1月24日,知识产权综合信息服务提供商IPRdaily发布了2020年1月以来的VR、AR全球发明专利排行榜TOP 100,其中三星以4094的成绩占据榜首,腾讯、百度、OPPO、平安集团、商汤科技、华为等六家国内企业进入前十。

来源:快科技


「亚洲最大超算中心临港投运,可完成10000亿参数模型训练」

1月24日,人工智能软件公司商汤科技宣布,其位于上海自贸区临港新片区总投资约56亿元的人工智能计算中心(商汤AIDC)即日起投入运营。商汤AIDC是一座开放、大规模、低碳的先进计算基础设施,其设计峰值算力超过每秒3740 Petaflops,是亚洲最大的人工智能计算中心之一。AIDC投入运营后将使商汤总算力超过每秒4910 Petaflops,目前已接入位于临港的国家(上海)新型互联网交换中心。未来,商汤计划进一步扩大AIDC的计算能力,持续提升AIDC云服务能力。此外,AIDC将通过由商汤牵头成立的“人工智能算力产业生态联盟”,以加快国产智能芯片的适配和整合,为国产智能芯片的创新构建体系性支撑,加速形成人工智能国产算力生态基础。

国际动态

美国科技巨头遭反垄断调查与监管

「英特尔在欧盟反垄断上诉案中获胜,法院裁定撤销12亿美元罚款」

1月26日,位于卢森堡的欧盟普通法院推翻了欧盟委员会2009年的一项调查结果,即英特尔滥用了其主导地位,通过发放忠诚返利和付款限制了竞争对手芯片制造商超威半导体的竞争。该法院称,欧盟委员会进行的分析不完全,无法为判断返利的竞争影响建立一个必要的法律标准,并表示其无法确定与英特尔做法有关的损害,因此法院裁定完全撤销欧盟委员会此前对英特尔公司开出的12亿美元罚单。

来源:华尔街日报


「谷歌要求法官驳回德克萨斯州反垄断诉讼多数指控」

1月21日,谷歌要求一位美国联邦法官驳回得克萨斯州和美国其他州提起的多数反垄断诉讼指控。谷歌在本案中被控滥用在线广告市场的主导地位。其在法庭文件中表示,相关州未能证明该公司通过与Facebook的非法合作来对抗“头部竞价”。这项由内容发布商开发的技术是为了从他们自己的网站上投放的广告中赚取更多收入。据悉,Facebook未被列为本案被告。谷歌称,这些州只是表达了一些不满,但没有证据证明谷歌存在不当行为。谷歌甚至表示,原告各州只是因为在某些指控上等了太久才提起诉讼。谷歌要求驳回6项指控中的4项,使原告无法在同一法院提起同样的指控。得克萨斯州诉讼还有另外两项基于州法律提起的指控已于2021年9月搁置。谷歌此次并未要求驳回这两项指控,但表示未来有可能会这么做。

来源:新浪科技


「美国参议院司法委员会通过针对科技巨头的反垄断法案」

1月20日,美国参议院司法委员会以16票赞成、6票反对的结果通过了《美国创新与选择在线法案》(American Innovation and Choice Online Act)》。据悉,该法案是一项针对亚马逊、谷歌、苹果公司、Facebook等占主导地位的科技巨头的反垄断法案。该法案禁止这些公司在自己的平台上给予自身产品额外优势。这些公司在过去的几个月来一直在在尽可能地阻止或试图修改该法案的通过。个别公司甚至资助了反对该法案的游说团体,并公开警告称,该法案可能会扰乱许多受欢迎的平台服务。一些规模较小的科技公司对此则表示支持,这些公司认为该法案将促进那些滥用市场地位的大型平台之间的竞争,从而使消费者受益。据一名支持该法案的参议员表示:该法案在提供反垄断作用的同时,也将同时允许一些例外情况的出现从而保留大众消费者平日所喜爱的平台功能。

来源:华尔街日报


「意大利反垄断监管机构重新计算苹果和亚马逊罚款」

1月20日,意大利反垄断监管机构表示,由于在第一次计算苹果和亚马逊在意大利营业罚款中出现了“实质性错误”,该机构已重新计算了针对美国科技巨头苹果和亚马逊的罚款金额。该监管机构在声明中称,苹果和亚马逊的罚款分别为1.147亿欧元(约合人民币8.2亿元)和5860万欧元(约合人民币4.2亿元),低于此前的1.345亿欧元和6870万欧元。此前,该监管机构2021年11月表示,由于苹果和亚马逊涉嫌在销售苹果和Beats产品时进行反竞争合作,因而对两家公司处以罚款。

来源:路透社、新浪科技


「谷歌就欧盟27亿美元反垄断罚款提起最终上诉」

1月20日,谷歌对欧盟27亿美元的反垄断罚款提出最终上诉,延长了针对该公司的一系列反垄断案件中的第一场法律战。据悉,欧盟最高反垄断执法机构欧盟委员会在2017年公布的一项决定发现谷歌违反了反垄断法,将用户引向其自身的比较购物广告,损害了竞争对手的利益。而谷歌正在向欧盟最高法院——欧洲法院提起上诉,希望推翻2017年这项与其购物广告服务相关的罚款。不久前,该公司在向下一级法院的上诉中败诉。谷歌在本次上诉中表示,下一级法院超越了欧盟的法律判例,修改了欧盟反垄断裁决的基本理由。

来源:华尔街日报


「苹果公司执行荷兰监管部门裁决,允许用户用其他支付方式下载软件」

1月15日,苹果公司表示,将遵守荷兰消费者与市场监管局此前的裁决,允许用户在Apple Store商店下载约会软件时,可以使用除苹果系统外的另外两种支付方式。但这两种支付方式只适用于约会软件,而且苹果公司仍会从中扣除佣金。据悉,目前在网上苹果商店上架的大部分软件都强制要求用户使用苹果系统自带的应用内支付,苹果公司则会从中提取15-30%的佣金,此举在许多国家都引发了反垄断投诉和诉讼。荷兰消费者与市场监管局在2021年12月24日作出裁决,认定苹果公司的这种行为是滥用其市场优势地位压制竞争对手,要求苹果公司在2022年1月15日前改正。苹果公司已对这一裁决提出上诉。

来源:央视新闻、路透社


「Meta旗下VR技术设备商Oculus遭反垄断调查」

1月14日,消息人士表示,美国FTC和多个州调查了Meta公司旗下VR头戴技术设备商Oculus的竞争行为。消息人士称,反垄断执法人员询问了Oculus应用商店可能歧视对待Meta的竞争对手的做法,包括Meta对Oculus VR设备的销售策略,以及该公司设备的价格为何低于竞争对手。例如,压低Quest 2 VR的价格以推向市场,据悉,Meta的Oculus Quest 2一体机售价为299美元,价格远低于HTC等公司的一些型号。此次反垄断调查可能会使Meta进军元宇宙的计划复杂化,该公司计划通过VR和AR设备来让用户体验沉浸式数字世界。

来源:财联社


科技公司

「Facebook的免费上网服务被指在用户不知情情况下产生费用」

1月24日,《华尔街日报》援引Facebook公司内部文件称,Facebook与巴基斯坦等发展中国家移动运营商的合作项目承诺为用户提供免费访问Facebook和其他一些网站的权限,但用户在不知情的情况下被其手机服务提供商收取费用。该服务名为Free Basics,旨在为用户免费提供通信工具、健康信息、教育资源和其他低速带宽服务。该项目自2013年开始,截至2021年10月,已经为超过3亿人提供服务。据悉,Facebook知道用户在使用Free Basics时被收取费用已有数月之久,并把该问题归咎为系统漏洞。由于该项目所服务的大多数用户都是预先付费,因此大部分用户在用完预存费用之前并没有意识到他们在使用移动数据时被收费。Meta发言人Drew Pusateri 称,Facebook已收到用户关于后来该问题基本解决,即在注册时提醒用户查看某些照片和观看某些视频可能收取费用。其还称将继续与合作伙伴合作,履行对用户的义务,并确保移动数据收费的准确性和透明度。

来源:华尔街日报、The Verge


「Meta正在打造人工智能超级计算机,运算速度号称世界最快」

1月24日,Meta表示其研究团队正在打造一款新的人工智能超级计算机——AI Research Super Cluster (RSC),并号称到2022年中完成时,它将是世界上运行最快的人工智能超级计算机,并且将可以自主开发和训练机器学习系统。据悉,Meta的研究团队目前正在使用这台超级计算机训练人工智能模型进行自然语言处理和电脑视觉研究。目标是使其有朝一日能在1艾字节的数据集上训练包含超过1万亿个参数的模型。Meta首席执行官扎克伯格表示,RSC将帮助该公司构建全新的人工智能模型,例如可以从数万亿的例子中学习,在数百种语言中运作,无缝分析文本、图像和视频等。Meta认为RSC是当前运算速度最快的人工智能超级计算机之一。此外,该研发项目已与来自英伟达、Pure Storage以及Penguin Computing的研究团队达成合作,共同打造这部超级计算机。

来源:路透社、华尔街日报、The Verge


「苹果推迟执行要求Apple Store内应用软件必须内置删除账号功能的规定」

1月23日消息,苹果公司此前曾宣布,Apple Store内的的应用程序必须具备允许用户从该应用程序中删除账号的功能,并且该功能必须能完全删除账号和用户的所有个人数据。苹果公司将此规定作为该公司强化隐私防护、打击欺诈行为措施的一部分。但是苹果目前推迟了这一原定于1月31日生效的规则的执行。新App Store规则将迫使应用程序内必须提供易于查找的用户删除选项。对此,苹果表示,此次推迟执行该规定是由于该功能实现比较复杂,因此给应用程序发布者和开发者更多的时间来实现此功能。目前尚不清楚苹果会将该规则推迟到何时执行。

来源:新浪科技、搜狐


       
     

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点


上一篇:《人工智能国际治理观察》第39期

下一篇:《人工智能国际治理观察》第37期

关闭

相关文章

读取内容中,请等待...