北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results



 

海外智库观察

「布鲁金斯学会:推荐系统及其工作机理对决策者和广大公众有重要意义」

2022年9月21日,布鲁金斯学会(Brookings Institution)发布其人工智能与新兴科技倡议研究主任、研究员克里斯·梅塞罗尔(Chris Meserole)撰写的《推荐系统如何在数字平台上工作?(How do recommender systems work on digital platforms?)》。文章指出,信息的自由流动是民主的重要组成部分。随着信息流的变化,新闻的传播和消费已经越来越多地从传统媒体转向社交媒体和数字平台。现在有超过四分之一的美国人仅从YouTube上获得新闻,超过一半的人通过社交媒体获取新闻。这些平台背后的推荐系统则决定了用户在在线平台上遇到的内容,以及哪些信息可以大规模发布。因此,这些推荐系统以及它们所包含的推荐算法和训练模型具有重要意义。作者表示,如果准确可靠的信息是民主的命脉,那么推荐系统将会日益成为民主的核心。现有的主流推荐系统是基于机器学习的推荐系统,尽管其有着良好的推荐性能,但也伴随着可解释性的下降。并且推荐系统也为社会带来了相关潜存的危害,例如仇恨言乱和政治极端主义。因此对推荐系统的监督十分必要,评估推荐系统的指标也至关重要。


文章指出,数据平台目前最主流的推荐技术是基于机器学习的推荐系统,而当前最直观的推荐方式是基于时间倒序,将最新的内容推荐给用户。但纯粹的倒序订阅有巨大的缺点,即倒序推荐的复杂度呈指数级增长、推荐有一定偏好性。基于硬编码规则的推荐方法能够有效规避这些问题,硬编码规则是编写关于用户属性和类别的规则,基于设定的规则对内容进行排序。尽管基于硬编码规则的推荐方法能够避免时间倒序推荐方法的缺陷,但其自身也存在问题,如需要假设规则、算法体现开发者的潜在意图等。此外,依靠手工编码的规则也有其缺点。它迫使开发者对用户最感兴趣的东西进行大量的假设,其中许多可能实际上并不真实。而基于机器学习的推荐系统是目前一定规模条件下最有效的方法。该技术利用过往的用户数据,设计并训练深度学习推荐算法。基于机器学习的推荐系统能够有效推荐适当的内容,当然也伴随一定的不可解释性问题。因此,在平台上部署何种推荐算法,将取决于性能、成本和可解释性之间的权衡。对于大型社交网络和数字平台来说,深度学习推荐算法的性能收益远远超过了开发它们的成本和相应的可解释性的下降。但正是因为其可解释性的下降诱发的各类问题,了解该技术的工作原理有助于开展更合理的管理措施。


作者表示,现代推荐系统的架构对决策者和广大公众有重要的影响。尽管每个平台的内容、细节有所不同,但部署于数字平台的推荐系统通常遵循基本相同的框架。推荐系统通常首先生成可用内容的库存,然后根据其内容审核策略对其进行过滤,然后将库存缩减为用户最有可能感兴趣的项目。这其中也涉及对内容的排序环节,而这一环节通常是通过深度神经网络完成的。


推荐系统的基本架构


作者还指出,近年来,许多研究关注于推荐系统的内部组成,特别是内容审核与内容排名。如果推荐系统实际上对从选举完整性到公共卫生的所有方面都有重大影响,那么推荐系统对内容进行排序和排序的过程也很重要。通过更好地理解内容排名背后的复杂系统,政策制定者将能够更好地监督它们的使用。作者还认为需要关注推荐系统的几个特点。第一,性能度量对推荐偏好的影响,例如,为了引起更大的参与,模型可能会自行学习优先考虑耸人听闻的内容,以及当涉及到政治内容时,会加重两极化分裂。第二,推荐系统行为的可解释性,尽管目前在可解释和可说明的机器学习方面取得了进展,但大型深度学习推荐模型的行为仍然远远超过了我们的理解能力。第三,推荐系统模型的重构性与频繁更新和训练,可能会给系统地评估推荐系统带来挑战。第四,不能仅仅通过审计底层代码和训练的模型来评估算法的影响。这些特点对决策者和公众理解推荐系统同样有着重要意义。此外,监管机构、研究人员和技术行业需要采取措施以更好地评估模型。从平台-研究人员的合作到模拟环境和其他隐私保护技术,推荐系统的行为和影响有可能比我们目前所喜欢的更清晰。随着推荐系统的作用越来越明显,互联网平台需要把握机遇,重视推荐系统的研发与理解。推荐系统对民主社会的潜在影响会增加,这也提升了理解推荐系统工作机理的重要性。


克里斯·梅塞罗尔(Chris Meserole):布鲁金斯学会人工智能与新兴科技倡议研究主任、研究员,专注于研究民主政府和社会应如何应对极端主义运动和专制政权对数字技术的利用,以及人工智能在军事应用中的使用和影响。

原文链接:

https://www.brookings.edu/techstream/how-do-recommender-systems-work-on-digital-platforms-social-media-recommendation-algorithms/#more-1638296 

行业舆情追踪

国内动态

政府监管

「互联网弹窗新规9月30日起施行,着力解决利用弹窗违规推送新闻信息等问题」

9月30日,由国家网信办、工信部、国家市场监督管理总局联合发布的《互联网弹窗信息推送服务管理规定》正式施行。据悉,《规定》紧盯弹窗新闻信息推送、弹窗信息内容导向、弹窗广告等重点环节,着力解决利用弹窗违规推送新闻信息、弹窗广告标识不明显、广告无法一键关闭、恶意炒作娱乐八卦、推送频次过多过滥、推送信息内容比例不合理、诱导用户点击实施流量造假等问题。

来源:快科技


「金融司法大数据研究中心及调研基地在北京金融法院揭牌」

9月28日,金融司法大数据研究(北京)中心及最高人民法院金融司法大数据研究中心(北京)调研基地正式揭牌。据悉,研究中心和调研基地以服务保障国家金融战略实施为宗旨,主要目标是促进金融司法大数据深度研究和应用。北京金融法院也将以此为契机,深化数助决策、数防风险、数促规范、数辅审判,切实发挥金融审判职能作用,规范金融市场,防范金融风险,维护金融稳定和安全。

来源:中国新闻网


政府规划

「广州数据交易所揭牌成立,首日交易额超1.55亿元」

9月30日,广州数据交易所揭牌运营仪式举行,标志着广东省级数据交易机构正式成立。当天,首批数据经纪人、数商企业签约进场,超过300个数据产品在广州数据交易所挂牌,涉及金融、交通、建筑、信息等多个行业,达成交易额累计超1.55亿元。据悉,在该交易所已申请挂牌及入场的交易标的,多为数据产品、数据服务与数据能力,涉及人工智能、智能交通、智能制造、智慧金融、数据治理等多个领域。

来源:中国新闻网


「上海数据集团揭牌成立,将承担公共数据和国企数据授权运营」

9月29日,上海数据集团有限公司正式揭牌成立。上海市政府已正式授权数据集团开展公共数据运营业务,推动数据集团以公共数据为牵引,加快实现公共数据、行业数据、社会数据资源的整合与布局。据悉,数据集团是以数据为核心业务的具有功能保障属性的市场竞争类企业,功能定位是构建数据要素市场、激发数据要素潜能、保障数据安全。数据集团将承担上海公共数据和国企数据的授权运营,作为上海一体化城市大数据资源基础治理的支撑主体,围绕数字产业化、产业数字化以及数据生态领域开展布局,致力于成为国内数据要素交汇、供给、配置及市场化开发利用的领军企业。

来源:央广网


技术应用

「南航全球首推AI智能行李赔付功能」

9月30日起,中国南方航空在广州、北京、上海浦东、上海虹桥等国内21个自营站点升级行李服务,推出全球首个AI智能行李赔付功能,通过智能识别破损行李,保障行李赔付的准确性和时效性。据悉,该功能嵌入到南航新版全球行李查询系统,旅客或工作人员可在此系统自主上传破损行李图片或视频,系统通过目标检测和图像识别技术对图片、视频进行自动分析,快速判定旅客行李破损位置和轻重程度,输出对应赔付意见,实现行李定损结果精准化和自动化。

来源:中国新闻网


元宇宙

「元宇宙与数字经济创新联合体在中关村石景山园成立」

9月30日消息,元宇宙与数字经济创新联合体近日启动。据悉,联合体是经北京科协认定,由北京物联网智能技术应用协会牵头,重点围绕北京市“三城一区”、中关村一区16园数字经济、元宇宙产业的发展现状,以利亚德等北京市元宇宙、数字经济等领域的重点企业技术与市场需求为导向,以具体项目为牵引,整合高校院所、产业链企业、全国学会、市属学会、产业园区等各类创新资源,构建的元宇宙、数字经济相关领域科技创新综合服务平台,是北京市首批先行先试的产业创新联合体。

来源:人民日报

「武汉元宇宙数字产业基地在汉阳启动建设」

9月30日,武汉市元宇宙产业联盟揭牌暨武汉元宇宙数字产业基地建设启动仪式举行。据悉,联盟将充分凝聚政、产、学、研、用力量,推动成员间交流合作,在发展思路、平台建设及生态融合建设上充分探讨,促进元宇宙与实体经济融合,最终实现共生共赢目标。当日启动建设的产业基地则位于汉阳区绿地国博财富广场,起步区将于今年底建成。基地包括元宇宙数字文化展厅、元宇宙时空广场、企业办公区等空间,预计全部建成后将实现近百家企业入驻,加快相关产业人才引育。

来源:中国新闻网


「宣亚国际携手多家公司打造“山海中国”元宇宙,探索Web3.0时代数实融合赋能产业新形态」

9月29日,宣亚国际联合新华炫闻、新华智云以及国文聚文化共同宣布,将携手打造“山海中国”元宇宙,通过构建“元宇宙+”全生态,探索Web3.0时代数实融合赋能产业新形态。运营初期,山海中国将聚焦元宇宙+文化、元宇宙+旅游、元宇宙+品牌三大方向,以新华网客户端为核心载体,通过新华网融媒体矩阵全方位展示国家级文化和旅游资源,同时整合全息影像、数字孪生、增强现实、数字影音等技术手段,为生态合作伙伴提供“云演播”“云展厅”“云课堂”“虚拟主持人”等多样化的数字服务,并推出数字云MALL、云XR娱乐空间等元宇宙特色场景应用,创新文化传播方式。

来源:中证网


「CORTEXR推出XR和元宇宙数据分析平台」

9月29日消息,数据分析解决方案提供商CORTEXR近日宣布推出其面向XR行业的新数据分析平台,旨在标准化AR、VR和元宇宙的测量。据悉,该平台基本上作为3D引擎和XR平台的插件运行,并通过平台的智能引擎分析云中的实时空间数据,从手机和头显收集传感器数据。平台用户可以在预构建的仪表板中查看数据可视化,以便分析性能、优化内容并衡量成功程度。

来源:新浪VR

国际动态

政府监管

「哈萨克斯坦议会制定首部关于数字采矿和加密货币的行业法案」

9月29日,哈萨克斯坦马吉利斯(议会下院)制定了哈萨克斯坦首部关于数字法领域的行业法案。马吉利斯议员叶卡捷琳娜·斯梅什利亚耶娃表示,制定该法案有两大原因,其一,是对哈萨克斯坦共和国境内的数字采矿进行规范的法律需求。,数字采矿的合法化以及对加密货币生产商缺乏进一步监管,直接导致了哈萨克斯坦境内能源消费行业出现了一定程度的发展失控,同时,合法的加密货币采矿业作为哈萨克斯坦的大型投资行业,能够提供稳定的税收并为该国IT产业的发展做出贡献。其二,该法案的出台有利于在哈萨克斯坦共和国境内创建加密货币生态系统。根据现行立法,哈萨克斯坦禁止流通无担保数字资产,即加密货币。所有涉及加密货币的操作,包括初始项目框架内的采矿和加密交换操作,均仅在国际金融中心进行。

来源:哈萨克国际通讯社


「英国监管机构:加密公司不受严格监管的影响」

9月29日,英国金融行为监管局(Financial Conduct Authority,FCA)表示,加密公司并未因在首轮申请没有成功获取经营许可证而感到气馁,并正在提交新的申请。尽管英国政府正努力推动伦敦成为全球加密中心,但FCA一直被立法者和加密货币行业批评,认为其处理牌照申请的速度缓慢,并拒绝了大量的申请者。但FCA认为其审核机制可以令加密公司意识到英国有一个良好的监管体系,并且此举有助于英国经济和金融服务业的发展,以及降低监管系统的成本。据悉,FCA会审查加密公司是否有能力阻止其业务被用于洗钱或资助恐怖主义。

来源:路透社


「欧盟网络安全局发布《欧洲网络安全机能框架》」

9月21日,欧盟网络安全局(European Union Agency for Cybersecurity,ENISA)发布了《欧洲网络安全技能框架(European Cybersecurity Skills Framework)》,旨在建立欧洲所需的网络安全劳动力,在欧盟成员国的个人、雇主和教育课程提供者之间建立共识,使其成为弥合网络安全专业工作领域与教育领域之间差距的工具。该框架共确定了12个与网络安全相关的重点职位,包括首席信息安全官、网络事件响应者、网络法律政策和合规官、网络威胁专员、网络安全架构师、网络安全审计专员等,并明确了这些岗位的相关责任、技能、协同作用和相互依赖性的细节问题。欧盟委员会副主席玛格丽特·席纳斯(Margaritis Schinas)表示,欧盟配备了由ENISA和欧洲网络安全能力中心支持的网络安全监管生态系统,现在需要解决最大的挑战,即如何让合适的人拥有合适的技能,以保护公民和经济免受对关键部门的网络攻击的影响。欧洲网络安全技能框架将成为一个切实的工具,帮助确定该领域最需要的工作概况,成为整个欧洲网络生态系统中关于网络安全技能的欧洲共同语言的推动者,以及作为欧盟委员会开展网络安全技能培训的基石。

来源:欧盟网络安全局


「美NIST发布企业风险管理和治理报告」

9月14日,美国国家标准与技术研究院(National Institute of Standards and Technology,NIST)发布内部报告IR 8286C《为企业风险管理和治理监督分阶段整合网络安全风险(Staging Cybersecurity Risks for Enterprise Risk Management and Governance Oversight)。该报告是NIST IR 8286系列报告的第三部分,描述了如何组合整个企业风险信息和创建企业风险档案的方法,包括在考虑风险参数、标准和业务影响的同时,对网络安全风险登记册进行汇总等概念的示例,从而告知企业高管和机构官员自身风险管理审议的方法、流程和实施。另外该报告还描述了网络安全风险管理的监控、评估和调整流程,以支持企业进行自身风险管理。

来源:美国国家标准与技术研究院


「美国发布《现代车辆安全的网络安全最佳实践指南》」

9月9日,美国交通部下属的国家公路交通安全管理局(National Highway Traffic Safety Administration,NHTSA)发布了其对收集到的针对《现代车辆安全的网络安全最佳实践指南(Cybersecurity Best Practices for the Safety of Modern Vehicles Guidance)》草案的意见所做出回应,并根据相关建议对草案进行了更改。据悉,该指南于2021年1月12日发布,旨在向美国汽车工业提供关于提高汽车网络安全的指导,支持行业主导的努力,以改善网络安全态势,并对汽车行业如何在开发生命周期内建立应用健全且基于风险管控的网络安全管理流程提供机构指导意见。该文件适用于参与机动车辆及其电子系统和软件的设计、开发、制造和组装的全部机动车辆设备的设计者、供应商、制造商和改装商等。

来源:联邦公报(Federal Register)


「英国发布隐私增强技术指南草案」

9月7日,英国信息专员办公室(Information Commissioner’s Office,ICO)发布了《隐私增强技术指南草案(Draft guidance on privacy-enhancing technologies,PETs)》,旨在通过将数据保护的设计方法付诸实践来帮助释放数据的真正潜力。PETs可以帮助各组织以负责任、合法和安全的方式共享和使用大众的数据,比如最大限度地减少使用的数据量以及加密或匿名个人信息。该指南草案解释了目前可用的PETs的好处和类型,以及PETs帮助各组织遵守数据保护法的机制。该草案是ICO匿名化和假名化指南草案的一部分,ICO正在寻求反馈以帮助完善和改进指南。PETs指南草案已在2022年七国集团(Group of Seven,G7)举行数据保护和隐私当局圆桌会议之前发布,ICO将向G7成员国介绍其在PETs方面的工作。

来源:英国信息专员办公室


政府规划

「日本政府将向美光芯片公司提供高达465亿日元补贴」

9月30日,在美国副总统卡玛拉·哈里斯(Kamala Harris)访问日本后,日本工业部表示,将向美国芯片制造商美光(Micron)科技公司提供高达465亿日元(约3.2亿美元)的补贴,以便其在广岛工厂生产先进的存储芯片。美光全球运营执行副总裁Maninsh Bhatia表示,感谢日本政府的支持,并为成为日本扩大半导体生产和推进创新的全球合作伙伴而感到自豪。美光表示将在广岛工厂生产新的1-Beta 动态随机存取存储器 (DRAM) 芯片。据悉,哈里斯还与半导体相关企业的负责人讨论了《2022年芯片和科技法案》( Chips and Science Act 2022)通过后美国制造商可获得的其它激励措施。

来源:路透社


「美国国土安全部将投资10亿美元提高应对网络威胁的能力」

9月16日,美国国土安全部(Department of Homelad Security,DHS)宣布了针对全国各州及地区政府的网络安全拨款计划。据悉,该项计划将在四年内向各州及地区政府提供10亿美元资金,是美国网络安全与基础设施安全局(Cybersecurity and Infrastructure Security Agency,CISA)推进应对网络安全威胁的重要一步,旨在帮助解决州和地区政府在防御网络威胁时面临的安全挑战,支持其解决信息系统中的网络风险问题,提高应对网络威胁的能力,加强其对关键基础设施漏洞的识别和评估,缓解网络威胁和漏洞带来的风险。该计划还有助于CISA与各州及地方建立伙伴关系,以共同应对网络安全挑战。。

来源:美国国土安全部

 

「美国商务部与国家标准与技术研究院更新网络安全学徒计划」

9月2日,由美国商务部(Department of Commerce,DOC)与国家标准与技术研究院(NIST)牵头的国家网络安全教育倡议(National Initiative for Cybersecurity Education,NICE),正在与美国劳工部学徒办公室(U.S Department of Labor’s Office of Apprenticeship)合作,开展为期120天的网络安全培训,培养更多熟练和多样化的网络安全劳动力。这两个部门预计将需要填超过70万个网络安全工作岗位。

来源:美国国家标准与技术研究院


国际合作

「美国主导的“芯片四方联盟”召开首次预备会议」

9月28日,美国联合日本、韩国、中国台湾组建的芯片四方联盟(Chip 4)举行了“美-东亚半导体供应链弹性工作小组”首次预备会议。该会议就如何加强半导体供应链展开讨论。据中国台湾官员表示,媒体一直在关注芯片四方联盟是否要排除中国大陆,或是半导体产品或技术等出口管制等议题,在会中都没有讨论到,主要专注在讨论当半导体供应链遇到疫情等状况时,该如何协调的议题。中国台湾“经济部长”王美花表示,各方在第一次初步会议上交换了意见,希望可以就未来如何合作解决最近遇到的供应链问题达成一致。韩国三星芯片业务负责人表示,公司对拟议中的Chip4联盟表达担忧,认为韩国需要在谈判前需要征求中国的理解。

来源:路透社、新浪财经


科技公司

「谷歌表示将在希腊建造云计算中心」

9月29日,谷歌宣布,将在希腊投资数亿欧元创建数据中心基础设施,将使希腊成为北美以外世界上为数不多的拥有三个最大的云服务跨国公司基础设施的国家之一,以支持希腊公共和私营部门进行数字化转型所需的基础设施和技术服务,同时还支持整个东南欧地区的数字化转型。希腊总理基里亚科斯·米佐塔基斯(Kyriakos Mitsotakis)表示,谷歌本次对希腊的投资,预计到2030年可为希腊的经济产出贡献约22亿欧元,并创造约两万个就业机会。据悉,微软和亚马逊此前也已经在希腊布局。微软在2020年曾宣布在雅典推出其希腊的Azure云区域,并在当地建立三个数据中心。亚马逊的云计算部门也于2021年在希腊开设了第一家办事处。

来源:路透社


「亚马逊发布数款智能家居」

9月29日,亚马逊公司召开2022年秋季硬件发布会并发布十余款智能硬件设备。其中,家庭服务机器人Astro迎来两大功能更新,可变身宠物和门窗管家。同时,其虚拟安全卫士功能联动智能摄像头Ring也已经在试点项目上进行测试。亚马逊公司表示这次发布重申了亚马逊“环境智能”理念,如能自动感知人体的智能电视、无需插电的路由器等,让用户在智能家居的体验上再次升级,使智能家居设备响应更快、更加有用,并与其他亚马逊产品实现更紧密的集成。

来源:新浪科技

 

「戴森、迪士尼和福布斯等多家公司紧急叫停在Twitter上刊登广告,因其主页被侵入儿童色情内容」

9月28日,包括戴森、马自达、福布斯和PBS Kids等在内的公司表示,已暂停在Twitter平台上的营销活动并从该平台中删除他们的广告,因为他们的促销活动广告与儿童色情推文一并出现。迪斯尼、可口可乐等公司的Twitter资料页面上都出现了兜售儿童性虐待的资料和信息。Twitter发言人Celeste Carswell在一份声明中表示,公司对儿童性剥削采取零容忍态度,正在投入更多资源以加强保护儿童安全。该平台还正与广告客户和合作伙伴密切合作进行调查,并将采取措施防止这种情况再次发生。

来源:路透社


前沿研究

「日本京都大学研发在对话时能陪笑的机器人」

9月28日,日本京都大学团队发布消息称,研发出对话时能附和对方而笑的人型机器人。该机器人可探知对方的笑声,然后根据音色发出不同类型的笑声。据称,此前已有基于事前设定情景而笑的机器人,但此次是全球首次研发配合对方情绪而笑的机器人。该团队表示,若是自嘲式的笑等不适宜跟着笑的场景,机器人就会仅仅做出附和,并非理解了对话内容之后发笑,而是根据对方笑声的音色做出判断。据悉,该机器人的研发以2015年大阪大学等研发的搭载了人工智能的女性型机器人“ERICA”为基础。

来源:共同网


「ETSI发布第五代固定网络白皮书」

9月22日,欧洲电信标准化协会(European Telecommunications Standards Institute,ETSI)发布第五代固定网络(fixed 5th generation,F5G)白皮书,描述了F5G有关的技术指标,并提出了九个关键应用和行业趋势,表示其将成为F5G的关键驱动因素,包括有:超高清沉浸式体验服务、企业数字化和云化、光纤网络的工业应用、元宇宙应用、网络运营的数字化、光纤基础设施的持续扩展、智能社会基础设施、环境挑战和不断变化的商业环境挑战。ETSI还表示,随着光纤基础设施不断扩大,以及商业环境的不断变化,预计网络能力将在六个方面出现显著增加:网络速度、带宽容量、端点数量、能源效率、信息系统、运营维护、互联网可信度。

来源:ETSI


元宇宙

「日本东京大学在“元宇宙”开设工学部」

9月28日,日本东京大学利用网络虚拟空间“元宇宙”,搭建不受居住地及年龄等限制的新型教育空间,开设了向中学生及社会人员教授数字技术和创业者精神的“元宇宙工学部”。据悉,面向中学生的课程可免费观看,对于社会人员则提供颁发结业证的教育项目,此举旨在培养能熟练使用人工智能等技术的数字化转型人才。

来源:共同网

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》第104期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...