北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results



海外智库观察

麦肯锡:消费者对网络安全、数据隐私和负责任的人工智能的信心取决于企业今天的表现」

2022年9月12日,麦肯锡咨询公司(McKinsey & Company)发布了其合伙人Jim Boehm等人撰写的《为什么数字信任很重要(Why digital trust truly matters?)》。报告揭示了该公司在2022年4月至5月期间针对全球20个国家27个行业的1300多名商业领袖和3000名消费者的进行的问卷调查的结果。该问卷结果表明,在利用人工智能、数字技术和数据的产品和体验中建立信任,不仅可以满足消费者的期望,还可以促进消费增长。研究表明,在建立数字信任方面处于最佳位置的公司及组织比同行至少多出10%的年增长率。然而,目前在接受调查中的公司中只有一小部分做到了这点。


受访信息显示,消费者高度重视数字信任。大多数消费者(70%)认为,与他们开展业务的公司提供了数字信任的基本要素,例如保护消费者数据,制定有效的网络安全政策,提供值得信赖的人工智能产品和服务,并围绕人工智能和数据使用提供透明度。85%的受访者表示在购买产品之前了解公司的数据隐私政策十分重要,72%的受访者表示在购买产品前了解公司的人工智能政策很重要。并且,消费者们希望清楚了解他们的数据将会被如何使用。此外,53%的受访消费者还表示,通常他们会选择在保护消费者数据方面颇有建树的公司进行数字服务消费。而当公司无法提供消费者信赖的数字信任时,消费者会选择与其他公司进行业务合作。据调查数据显示,部分受访者表示在过去一年内曾因为不同意公司的伦理道德原则(14%)或发生数据泄露事件(10%)而停止与至少一家公司开展业务。


报告指出,消费者认为公司建立了适度的数字信任度,并且与主要依靠人类的产品相比,消费者对人工智能产品和服务表现出令人惊讶的高度信任。超过三分之二的消费者表示,他们对人工智能产品或服务的信任程度比依靠人类的产品的信任程度相同或更高。该现象在在线购物群体、B2B购买者和Z世代中尤为突出,这些群体也比其他人更依赖于人工智能产品与服务。然而报告认为,这些调查结果可能会受到消费者并非全面了解他们是不是在与人工智能进行互动的影响。例如,尽管家庭语音辅助设备(例如亚马逊的Alexa、苹果的Siri或谷歌Home)经常使用人工智能系统,但只有62%的受访者表示,当他们要求这些设备播放歌曲时,就是在与人工智能进行互动。此外,报告还指出,尽管59%的消费者认为,企业通常更关心从他们的数据中获利而不是保护消费者的数据,但大多数受访者对他们选择的公司充满信心。并且大多数消费者认为与他们互动的企业是透明的,至少在人工智能和数据隐私政策方面是如此。


据研究表明,企业对其建立数字信任的能力充满信心。近90%的受访企认为他们至少在一定程度上有效缓解了数字风险,类似比例的企业表示他们正在采取积极主动的方法来缓解风险,例如,采用控制措施来防止数字漏洞被利用,而不是在漏洞被利用后才作出反应。近四分之三的受访公司报告称已编写有关数据道德行为的政策,例如,如何处理敏感数据。对此,报告认为,这种对风险防范的信心是没有根据的。因为只有不到四分之一的受访高管表示,其所在企业正在积极缓解数字风险,例如人工智能模型、数据保留和质量以及缺乏人才多样性所带来的风险。并且57%的高管表示,其所在企业在过去三年中至少遭受了一次重大数据泄露。并且有55%的受访高管经历过人工智能应用程序在使用中产生偏见、不正确或没有反映组织价值观的事件。此外,调查显示,在航空航天、先进电子、汽车和装配以及半导体在内的先进行业中,人工智能事件或数据泄露事故发生的频率最高,而商业、法律和专业服务行业报告人工智能重大故障的频率最低,电信、媒体和科技公司报告数据泄露的频率最低。按地区划分,亚太地区报告的人工智能和数据事件最多,北美地区报告的人工智能和数据泄露事件最少。


最后,报告指出,数字信任与消费增长息息相关,因此成为数字信任领域的领导者,有助于为企业带来至少10%的税前利润增长。数字信任的领导者被定义为,员工遵循成文的数据、人工智能和一般道德政策的公司,在人工智能、数据和网络安全方面的拥有最佳实践,并且这些公司在预防损失和业务增长方面的表现都优于其同行。报告指出,数字信任领导者的不同之处在于,他们的成功始于目标设定。首先,数字信任领导者们为建立信任所设定的目标数量(6个)是所有其他组织的两倍。他们也更为专注于价值驱动的目标,特别是通过建立信任来加强现有的客户关系以及获取新的客户,并且能够更快地从整个行业被破坏的情况中恢复来发展竞争优势。在追求这些目标的过程中,他们更有可能减轻其企业内部的各类数字风险,包括网络安全风险以及云配置和迁移带来的相关风险。


Jim Boehm:麦肯锡咨询公司合伙人,技术风险专家,专注于研究数字风险,尤其是企业网络安全。

Liz Grennan:麦肯锡咨询公司副合伙人,专注于新兴技术、人工智能伦理、知识产权、数据隐私、网络安全和软件服务。

Alex Singla:麦肯锡咨询公司高级合伙人,专注于为客户提供多主题建议,包括战略、数字和分析、企业转型、服务运营、端到端客户服务、风险评估等。

Kate Smaje:麦肯锡公司高级合伙人,专注于帮助领先的零售商和面向消费者的公司抓住新增长平台提供的机会,提供数字化战略与营销和组织计划,以实现其业务转型。

原文链接:

https://www.mckinsey.com/capabilities/quantumblack/our-insights/why-digital-trust-truly-matters

行业舆情追踪

国内动态

政府监管

「中央网信办深入开展网络辟谣标签工作」

9月29日消息,按照“清朗·打击网络谣言和虚假信息”专项行动统一安排,中央网信办举报中心会同网络综合治理局,以举报中心主办的中国互联网联合辟谣平台为依托,组织微博、抖音、百度、腾讯等12家网站平台,开展网络辟谣标签工作,对存量谣言进行全面梳理标记,对被标记的典型网络谣言样本及时通报曝光。专项工作期间,全面梳理存量谣言样本3342个,涉及卫生健康、食品安全、教育就业、自然灾害等重点社会民生领域。经权威查证,辟谣平台集中标记辟谣标签,予以公开曝光和警示。微博、抖音、百度、腾讯等网站平台依据权威发布开展全平台自查,对8万余条存量谣言标记辟谣标签。重点网站平台均开设辟谣专栏或专门辟谣账号,及时发布权威辟谣信息,对接触过谣言的用户,精准推送相关辟谣内容。未来,中央网信办也将持续开展网络辟谣标签工作,不断健全联动工作机制,组织重点网站平台加大对网络谣言的辟除、曝光力度。

来源:中国网信网


「上海首次全链条侦破新型流量造假系列案」

9月29日,上海市公安局召开新闻发布会,披露首次全链条侦破的新型流量造假系列案件。近期,上海警方侦破刷单炒信非法经营系列案,在中国6个省市开展集中收网行动,首次全链捣毁了涉及刷单中介、手机卡商、技术改码、职业刷手等多个环节的6个犯罪团伙,抓获犯罪嫌疑人19名,现场查获作案用的电脑20余台、手机40余部,涉案金额1亿余元人民币。目前,流量造假涉及生活服务、书影音评分等百姓生活的方方面面,且此类犯罪活动已呈现出规模化、公司化、组织化、产业化特征。

来源:中国新闻网


「上海发布全国首个网络安全保险服务团体标准」

9月28日消息,上海市保险同业公会日前发布国内首个网络安全保险服务团体标准《网络安全保险服务规范》。据悉,《规范》对保险公司开展网络安全保险业务在承保、风控、理赔服务等各个环节制定了统一标准要求,特别是针对承保前风险评估服务、承保中风险管控服务、事件发生后应急处置服务以及保险理赔服务明确了要求。《规范》将切实推动数字经济时代下网络安全保障体系建设,同时也是上海打造国际金融中心、建设网络安全产业创新高地的重要抓手。

来源:中国新闻网


「浙江构建行政执法监管数字化闭环,“大综合一体化”执法监管数字应用上线」

9月27日,浙江“大综合一体化”执法监管数字应用经前期试点,已正式在全省上线运行。据悉,该应用由协同指挥、监管检查、处罚办案、执法监督四大核心业务模块构成,各核心业务模块环环相扣,构建了行政执法监管数字化闭环,有效破解过去行政执法中存在的各自为战、分散执法、多头执法、执法不到位等问题。目前,应用已接入各类应用场景94个。

来源:浙江新闻


政府规划

「工信部支持创建南京、武汉、长沙国家人工智能创新应用先导区」

9月29日消息,工信部近日正式复函江苏省、湖北省、湖南省人民政府,支持创建南京、武汉、长沙国家人工智能创新应用先导区。目前,全国人工智能创新应用先导区数量已增至11个。复函强调,南京先导区要加强人工智能芯片、智能软件、开源框架等基础底层关键核心技术攻关布局,构筑开放多元、安全可靠、健壮持久的产业生态;武汉先导区要夯实智能算力、信息安全、感知网络等基础能力,进一步拓展智能制造、智能建造、智慧教育、智慧医疗等重点领域应用场景;长沙先导区要进一步打造智能算力设施高地,探索高效应用运行的新模式,壮大智能传感器、智能芯片与信息安全等基础核心产业,强化人工智能软硬协同攻关,构筑安全可靠产业生态。

来源:工信微报


「智慧旅游场景应用指南发布,加快推进智慧旅游发展」

9月29日消息,《智慧旅游场景应用指南(试行)》近日发布,旨在发挥旅游业丰富应用场景优势,通过拓展场景应用加快推进智慧旅游发展。《指南》明确,智慧旅游场景是指5G、大数据、云计算、物联网、人工智能、虚拟现实、增强现实等现代信息技术,在旅游服务、旅游管理、旅游营销、旅游产品等领域的综合集成应用成果,是智慧旅游体系建设的基本单元和重要构成。《指南》还重点选取了智慧信息发布、智慧预约预订、智慧交通调度、智慧旅游停车、智慧游客分流、智慧导览讲解、沉浸式体验、智慧酒店入住、智慧旅游营销、智慧安全监管等10个可借鉴可复制可推广、具有普遍适用性的智慧旅游典型场景。

来源:中国新闻网


「陕西:推动大数据资源应用,加快数字陕西建设」

9月29日,《陕西省大数据条例》由陕西省十三届人大常委会第三十六次会议表决通过。据悉,《条例》明确了大数据在公共服务、智慧城市、数字乡村、智慧文旅等领域的应用方向,提出应建立健全数字乡村相关信息系统共建和数据共享规则,构建面向农业农村的综合信息服务体系,引领数字乡村高质量发展。《条例》还明确,省人民政府应设立专项资金,用于支持大数据关键技术攻关、科技成果转化、重大创新平台和产业载体建设等,并鼓励金融机构、地方金融组织和社会资本加大融资、投资力度,支持大数据发展应用。

来源:中国新闻网


标准制定

「中国信通院牵头的首个5G卫星无线电接口国际标准正式获得通过」

9月28日消息,在国际电信联盟无线电局第四研究组全会上,中国信通院牵头制定的《5G卫星无线电接口愿景、需求和评估方法》国际标准正式获得通过,标志着我国在5G卫星通信国际标准化工作方面取得了重大成果。据悉,该标准规定了5G卫星部分的三大应用场景eMBB-s(增强移动宽带)、mMTC-s(海量机器类通信)、HRC-s(高可靠通信)和手持终端、物联网终端和、VSAT三种终端类型。相比于4G时期的卫星部分,5G卫星的关键性能指标更加多元化,性能上也有了显著提升。

来源:IT之家


政-产-学研合作

「上海杉达学院成立人工智能产业学院」

9月30日消息,上海杉达学院与商汤科技共建的人工智能产业学院正式挂牌成立。据悉,双方将合作开发可用于专硕教学的人工智能高阶课程,联合培养应用技术型本科、专硕学生,商汤技术专家将担任兼职教授。双方还将在人工智能伦理、计算机视觉创新应用等方面开展合作,引入并建设商汤科技SPE科研平台,参与商汤科技产业链上下游部分科研创新项目;2022年底将建设人工智能数据服务实训室,并成立商汤科技数据服务工作室,承接商汤科技产业链上下游数据服务外包业务,开始真实项目实践,培养学生实战能力与经验。

来源:腾讯新闻


「吉首大学张家界学院讯飞人工智能产业学院成立」

9月28日,吉首大学张家界学院讯飞人工智能产业学院宣布成立。据悉,该学院是校企双方联合培养人工智能领域高素质应用型、复合型、创新型人才而实行的一项重要举措。双方也将以学院建设为契机,进一步完善资源共享机制、产教协同机制、人才双向流动机制,创新管理体制机制,积极构建高效的联动发展机制,将产业学院打造成为一个融人才培养、科学研究、技术创新、企业服务、学生创业和文化传承等功能于一体的示范性人才培养实体。

来源:红网


科技公司

「微软中国首次推出面向医疗和生命科学的云行业套件」

9月29日消息,微软宣布联合本土合作伙伴,将聚焦零售、消费电子、工业制造、汽车、医疗等行业的实际需求,打造有针对性的云行业套件。首期微软将推出面向医疗和生命科学领域的云行业套件,帮助相关领域客户量身定制技术和解决方案,为创新驱动的数字化发展和智慧医疗带来新的动力。据悉,基于Dynamics 365云智能商业应用以及Power Platform低代码开发平台,微软还将向更多开发者和合作伙伴开放接口,以此鼓励和吸引其发现和捕捉医疗创新机遇,创建智能流程、人员体验、数据洞察等智慧医疗定制化方案。

来源:TechWeb


「联想集团与此芯科技深化芯片战略合作」

9月28日消息,联想集团与此芯科技签署进一步合作协议。据悉,此芯科技将研发可应用于联想旗下笔记本电脑、平板电脑、AR/VR一体机等多款终端产品的CPU芯片,为智能计算领域引入新一代智能架构。技术研发方面,双方将就新产品开发、应用等方面定期开展技术交流,不断探索研究各应用场景的解决方案。

来源:36氪

国际动态

政府监管

「越南拟立新规以限制社交媒体帐户发布新闻帖子」

9月28日,知情人士表示,随着越南当局加强对该国新闻和信息来源的控制,该国正在制定新规则以限制哪些社交媒体账户可以发布与新闻相关的内容。相关规则预计将在年底前公布,细节尚未敲定。该规则将为控制Facebook和YouTube等平台上的新闻传播奠定法律基础,同时也给平台提供商带来巨大的审核负担。据悉,越南当局认为一些社交媒体账户在误导用户,让他们以为这些账户的信息是由授权的新闻机构发布的,所以当局希望借助新条例来解决这些问题。此外,消息人士透露,政府官员一直同社交媒体和互联网公司举行闭门会议,说明新条例允许哪些类型的账户发布新闻内容,而且在新条例下,当局可下令公司封禁违规账户。

来源:路透社


「美国纽约市发布其人工智能就业法的拟议规则」

9月23日,美国纽约市消费者和工人保护部 (Department of Consumer and Worker Protection,DCWP) 发布了《自动就业决策工具法(Automated Employment Decision Tool Law)》实施的拟议规则,并向公众征询意见,截止日期为10月24日,DCWP将在此后的某个时间发布该法案的最终规则。该法律适用于纽约市内做出的有关求职和晋升的决定,包含两项主要条款,首先,雇主必须在使用人工智能系统前十个工作日向评估人发出通知,并向他们提供自愿退出的机会,以及列出系统使用的资格和特征。其次,雇主必须每年进行偏差审计,且审计结果必须公开发布在雇主的网站上。雇主还必须公开发布或应要求提供系统使用的数据来源和该公司数据的保留政策。

来源:Jdsupra、Mondaq


「美CISA就关键基础设施网络事件报告法案征求意见」

9月9日,美国网络安全和基础设施安全局(Cybersecurity and Infrastructure Security Agency,CISA)宣布将计划根据2022 年《关键基础设施网络事件报告法案(Cyber Incident Reporting for Critical Infrastructure Act,CIRCIA)》,就实施网络事件报告和赎金支付报告要求的方法向公众征求意见。据悉,CIRCIA旨在指导CISA开展和监督法规实施,要求受保护实体向CISA提交包含相关网络事件和赎金支付情况的报告,且CISA需在CIRCIA颁布之日起24个月内发布拟议规则制定通知。CISA将重点关注对拟议法规中相关术语的定义和解释;报告的形式、方式、内容和程序;报告所要求具体信息,包括对被利用漏洞的详细描述;以及对其他政策和程序的意见,例如执行程序和信息保护政策这四个重点方面。CISA局长Jen Easterly表示,CISA无法捍卫其不知道的东西,这些收到的信息将帮助该部门填补关键信息空白,从而更好地保卫美国免受网络威胁。

来源:美国网络安全和基础设施安全局


「美NSA发布抗量子算法国家安全系统要求」

9月7日,美国国家安全局(National Security Agency,NSA)发布《商业国家安全算法套件2.0(Commercial National Security Algorithm Suite 2.0,CNSA 2.0)》以告知所有国家安全系统所有者、运营商和供应商按要求部署未来抗量子算法。NSA认为与密码分析有关的量子计算机将有可能破坏当今使用的公钥系统,因此现在是时候向抗量子算法过渡,确保对国家安全系统和相关资产的持续保护。NSA网络安全主任罗布·乔伊斯(Rob Joyce)表示,在最关键的系统中施行抗量子技术的转变需要凝聚来自政府、国家安全系统所有者和运营商以及行业的共同力量。

来源:美国国家安全局


「美NSA发布软件供应链保障指南」

9月1日,美国国家安全局(NSA)、网络安全和基础设施安全局(CISA)和国家情报总监办公室(Office of the Director of National Intelligence,ODNI)发布《面相开发者的软件供应链安全保障指南(Securing the Software Supply Chain:Recommended Practices Guide for Developers)》。该指南旨在通过建立持久安全框架(Enduring Security Framework)为跨公私部门提供网络安全指导,解决对国家关键基础设施的高优先级威胁。该指南指出开发者对软件安全负有重要责任,建议开发者在执行从安全角度设计软件架构、维护安全性及底层基础设施等任务时参考文中相关安全指引,同时建立可识别、收集和跟踪产品缺陷漏洞的系统,加强对潜在漏洞的处置效能。据悉,开发人员将从NSA及其合作伙伴处获得有关安全代码开发、第三方验证组件、强化构建环境和交付代码的指导信息,以确保软件开发生命周期的安全。

来源:美国国家安全局


政府规划

「CISA发布《2023-2025年战略规划》」

9月12日,美国网络安全和基础设施安全局(CISA)发布该机构的《2023-2025年战略规划(2023-2025 Strategic Plan)》,该规划是CISA自2018年成立以来发布的首个全面战略计划,并对2019年8月发布的《CISA战略意图(CISA Strategic Intent)》进行了完善与更新。该计划的重点是如何联合关键基础设施合作伙伴共同降低风险并建立能够抵御针对国家基础设施的网络和物理威胁的能力。该战略规划描述了四个雄心勃勃的目标。分别为引领国家网络空间防御和韧性建设;降低美国关键基础设施的风险并增强其韧性;加强全国范围内的业务协作和信息共享,积极与政府、行业、学术和国际伙伴进行合作;促进CISA内部的协作,建立基于核心价值观和原则的高效运营模式。

来源:美国网络安全和基础设施安全局


科技公司

「OpenAI向所有人开放文本生成图像工具DALL-E」

9月29日,美国人工智能公司OpenAI 取消了访问 DALL-E 2 的候补队列,意味着任何人都可立即注册使用该人工智能艺术生成器。该工具允许将任何文本描述转换为独特的图像,OpenAI一直对它的公开发布持谨慎态度,因为专家指出,文本到图像机器学习系统是通过从互联网上抓取的大量图像数据集展开的训练,若这项技术被滥用,可能会导致色情骚扰、错误宣传或带有偏见等后果。OpenAI因此提升了过滤器的功能,以防止出现生成违反内容政策的色情暴力等内容的行为,并构建了新的检测和响应技术来阻止该工具被滥用。同时 OpenAI 正在测试 DALL-E 的API(应用编程接口),以便相关企业借助该人工智能的输出来构建各自的应用程序和插件,比如人工智能系统能够与插画家或者设计师使用的工具相结合,从而推动 DALL-E 的商业化应用。

来源:cnBeta


「Meta首席执行官马克·扎克伯格警告公司可能将进行重组」

9月29日,Meta首席执行官马克·扎克伯格表示,在不确定的宏观经济形势下,Meta将冻结招聘并进行进一步重组。近几个月来,几家科技公司被迫裁员,削减支出以应对迫在眉睫的经济衰退。扎克伯格在每周一次的问答环节中对员工表示,他曾希望经济能够稳定下来,但从目前的情况来看,它似乎还没有,所以将继续采取保守计划。

来源:路透社


「消息人士:亚马逊拟在美国关闭多个呼叫中心并转向远程工作」

9月28日,消息人士表示,亚马逊公司表示正计划在美国关闭多个呼叫中心,转向远程工作。亚马逊还鼓励美国呼叫中心的部分客服员工居家办公,以节省房地产费用。亚马逊云计算服务还销售基于云的自助式联络中心服务Amazon Connect,使企业可通过远程网络为其客户服务。

来源:新浪科技


「美量子计算初创公司Atom Computing将在科罗拉多州投资建造下一代量子计算机」

9月28日,美国量子计算机制造商Atom Computing表示,未来三年内将在美国科罗拉多州投资1亿美元,并计划在该地建造下一代量子计算机。科罗拉多州州长贾雷德·波利斯(Jared Polis)表示,该州大约在两年前开始加强在量子计算行业的参与力度,希望可以成为量子计算的领导者,因为这个行业创造了大量的公司和工作岗位,并推动了一场新的技术革命。

来源:路透社


技术应用

「美国物理团队利用人工智能有效简化量子问题任务量」

9月28日,美国物理学家在《物理评论快报(Physical Review Letters)》发表一项研究,该研究通过使用人工智能,将一个涉及10万个方程的量子问题压缩到一个仅有4个方程的小任务中,且确保了准确性。该研究可能会彻底改变科学家对包含许多相互作用电子的系统的研究方式。如扩展到其他问题,该方法还有助于设计具有超导性或清洁能源发电效用等受欢迎特性的材料。

来源:新浪科技


「美国Omnilert公司使用人工智能检测潜在枪支暴力」

9月27日,总部位于美国弗吉尼亚州的安全公司Omnilert的首席执行官Dave Fraser表示,该公司通过使用人工智能来监控摄像机以辨别潜在暴力事件,一旦该技术检测到枪支,它就会在几秒钟内将该信息传递给指定的操作员,该操作员确认威胁并激活安全计划,这些应对举措可能包括联系警方,通过短信发送警告、发送警示电子邮件,甚至锁定相关设施中的门。此外,他还表示,这种适应人工智能技术的安全摄像头已经在全美大多数企业进行部署,该公司正在不断训练该技术,以避免误报。

来源:NBC

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》第103期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...