北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


       


29980

29980

海外智库观察

「布鲁金斯学会:算法推荐是导致社交媒体平台问题的元凶,而非言论自由」

2022年5月18日,布鲁金斯学会(Brookings Institution)发布其研究员Anton Korinek和华盛顿大学兼职副教授Justin Bullock撰写的《社交媒体的真正问题在于推荐系统,而非言论自由(@elonmusk and @twitter: The problem with social media is misaligned recommendation systems, not free speech)》。作者表示,信息流通一直在人类社会中发挥核心作用,加速人类社会的发展。信息的有效收集、存储、处理和分发对现代社会的运转至关重要。自17世纪初的第一份报纸开始,传统媒体机构长期以来在组织和策划信息方面发挥重要作用。媒体机构扮演的关键公共角色,令这些机构被赋予了巨大的权力及责任。有效传播信息且运作良好的媒体环境可以为社会带来巨大的、积极的外部效应。作者指出,鉴于美国大多数媒体组织都是私人的营利性机构,且这些机构的主要收入来自于广告,因此将会产生一系列风险。此外,技术的发展也广泛影响了媒体界。首先,广告流量从传统媒体转向网络平台,极大地削弱了传统媒体的主要来源。其次,互联网和人工智能革命促成了社交媒体公司的兴起。社交媒体公司通过被称为“推荐系统”的算法来调节内容并为用户提供个性化推送和信息,以更好地“吸引”用户。这些推荐系统的首要目标旨在最大化用户流量,即最大限度地提高用户在该平台上的花费的时间和进行的内容互动,从而能看到更多的广告,进而为社交媒体公司创造更多的收入。


作者指出,在传统媒体中,记者和编辑会使用成文的专业规范和道德标准,进行事实核查和仔细挑选新闻来源。但对于社交媒体而言,记者和编辑的角色被推荐系统所取代,且产生了一系列的问题,从回声室效应(echo-chamber)到加剧政治两极分化,甚至向未成年人提供错误信息和不良内容等。尽管社交媒体公司近年来已尝试用其他内容审核机制来填补相关指标,但结果仍然好坏参半。基于此,针对马斯克收购Twitter的谈判将焦点置于关于社交媒体平台言论自由和内容审核这一热点事件,作者表示,新媒体平台面临许多挑战,首当其中的就是这些平台的内容推荐系统。应该使编入推荐系统的目标与更广泛的社会价值保持一致。作者还指出,与所有媒体组织(包括传统媒体和社交媒体)一样,Twitter有责任以有利于社会的方式促进信息流动,而不是进一步分化社会。改善社交媒体对社会信息流的影响的一个途径是让用户对内容有更明确的选择,社交媒体平台可以为用户提供获得不同质量、不同视角的内容。


作者最后表示,关于社交媒体平台使用的算法推荐系统的辩论反映出人工智能治理领域中关于如何确保人工智能系统是否会对社会有益的讨论。作者提出了四点将有利于帮助社交媒体减少负面外部性效应的举措。首先,应该要求社交媒体公司对其推荐系统优化的目标保持透明,允许公众去检查和辩论这些系统对社会的影响。其次,找到大科技公司将外部问题内部化的途径,例如,对推荐算法的监管,如何限制未成年人的使用,如何进行跨平台数据汇集等。再次,人类应该参与进内容推荐之中,为推荐系统提供反馈,以提高这些系统对人类交流模式和信息交换规范的敏感性。除此之外,对用户进行身份验证有助于提高内容质量。


Justin Bullock:华盛顿大学兼职副教授

Anton Korinek: 布鲁金斯学会经济研究员,弗吉尼亚大学经济系和达顿商学院教授,美国国家经济研究局 (National Bureau of Economic Research, NBER)研究员,牛津大学人类未来研究所(Future of Humanity Institute)人工智能治理中心下属研究机构的研究员,人工智能合作组织(Partnership on AI)的高级顾问。专注于研究人工智能对经济和社会的影响,技术与创新,新兴市场等议题。

原文链接:https://www.brookings.edu/research/elonmusk-and-twitter-the-problem-with-social-media-is-misaligned-recommendation-systems-not-free-speech/

行业舆情追踪

国内动态


政府规划

「江苏数字交通发展三年行动计划出台」

5月27日消息,《江苏数字交通发展三年行动计划(2022-2024年)》近日出台,提出到2024年底,数字交通框架体系进一步完善,数字交通产学研协同发展,数字技术水平和科技创新能力走在全国前列。据悉,该计划围绕“研发-应用-产业”主线,致力于形成“创新链+产业链+应用域+数字安全”发展体系。根据计划,江苏将实施完善数字技术创新链、培育数字交通产业链、打造交通新型融合基础设施、打造智能便捷城乡客运服务、升级行业治理数字化体系、完善支撑体系等六大重点任务。

来源:江苏省交通运输厅


「河北出台条例助京津冀数字经济发展」

5月27日,河北省十三届人大常委会第三十次会议表决通过了《河北省数字经济促进条例》,将于2022年7月1日起施行。《条例》共九章81条,围绕数字基础设施建设、数据资源开发利用、数字产业化、产业数字化、数字化治理、京津冀数字经济协同发展、保障和监督等方面作出规范。据悉,该条例首次在数字经济地方性法规中专设京津冀数字经济协同发展一章,旨在为京津冀高质量协同发展增添新动能。

来源:中国新闻网


「南京江宁高新区挂牌“元宇宙产业发展先导区”」

5月26日,南京市元宇宙产业联盟宣布成立,江宁高新区被确定为“南京市元宇宙产业发展先导区”。下一步,江宁高新区将围绕元宇宙企业项目落地发展、企业场景应用、企业平台搭建、领域人才汇聚、构建产业发展生态体系等五个方面,出台14条扶持政策,通过建立覆盖面广、扶持力度强、周期链条完善、与地方结合度高的政策体系,强化激励引导,全力赋能元宇宙产业,打造长三角元宇宙产业发展新地标。

来源:中国证券网


「上海市经信委指导银行,助力人工智能企业复工复产」

5月25日,上海市经信委指导上海市人工智能行业协会,在云端举办“同心抗疫助企纾困”银团助力上海人工智能企业复工复产专场活动。会上,中国工商银行、中国银行、浦发银行、中信银行和兴业银行五家银行上海市分行共同发布650亿元贷款总授信额度,助力上海市人工智能企业复工复产。

来源:中国新闻网


行业自治

「福建成立全国首家省级数字经济产业工会」

5月26日,全国首家省级数字经济产业工会在福建成立。据悉,福建将以该产业工会为龙头,在实施数字经济产业工人队伍建设改革、提高数字经济产业工人生活品质和幸福指数等方面发力,推动工会要素全面融入八闽数字经济生态圈,同时加快构建省、市、县三级联动,工会、行业双向互动的数字经济产业工会工作格局。

来源:新浪新闻


「中山大学-科大讯飞人工智能与政府治理创新联合实验室揭牌」

5月26日消息,中山大学-科大讯飞人工智能与政府治理创新联合实验室近日揭牌。据悉,双方将以此次联合实验室成立为契机,重点围绕人工智能与政府服务创新、数字政府、数字治理领域,开展科学研究及产学研合作,共同建设和运行联合研究平台,合作开展技术研发和科技成果转化工作,推动项目成果的应用示范与推广,为政府提高公共治理水平贡献力量。

来源:羊城晚报

「微信推出“绿苗计划”助力青少年网络素养提升」

5月25日,微信宣布启动青少年专属项目“微信绿苗计划”,通过完善产品设计、青少年内容池共建、流量扶持、专业研讨、公益活动和创新赛事等多重举措,全方位陪伴青少年成长成才,多层次助力青少年网络素养提升。据悉,基于“绿苗计划”长远规划,微信青少年模式将持续保持迭代创新,在完善时长管理、防沉迷等安全保障功能的基础上,充分发挥微信作为社交产品连接父母与青少年的纽带作用,升级优化监护人授权功能。

来源:TechWeb


标准制定

「中国信通院联合牵头的两项5G消息团体标准完成立项」

5月26日消息,经过中国信通院同中国银联、银联数据、中兴通讯、多家银行及三家基础电信企业共30余家单位的交流研讨,《5G消息支付技术规范》和《5G消息银行应用技术规范》团体标准近日正式完成立项。据悉,标准主要内容涵盖5G消息在支付和银行业应用的总体要求、业务要求、安全要求等,列举了典型场景样例,为5G消息在金融业中应用提供参考案例和指导。

来源:通信世界网


科技公司

「菜鸟:已建成全球最大快递无人车队」

5月27日消息,阿里巴巴集团最新财报显示,目前菜鸟在执行配送任务的无人车已接近500辆,是全球最大的一支快递无人车队。这些无人车采用L4级无人驾驶技术,集成了阿里巴巴达摩院最前沿的人工智能技术,具有类人认知智能,大脑应急反应速度达到人类的7倍,只用0.01秒就能判别100个以上行人和车辆的行动意图,还能在人车混行的环境中,轻松处理复杂路况,选择最优路径。

来源:TechWeb


「华为面向全球发布下一代数据中心,拥有自动驾驶、安全可靠等四大特征」

5月27日消息,华为数据中心能源军团近日面向全球发布下一代数据中心理念及全新供电解决方案电力模块3.0。据悉,下一代数据中心具备四大特征,包括低碳共生、融合极简、自动驾驶以及安全可靠;电力模块3.0则通过核心技术创新和部件融合,优化布局,打造更为省地、省电、省时、省心的数据中心供电系统。

来源:TechWeb


「神州数码发布神州鲲泰人工智能推理服务器」

5月26日,神州数码推出神州鲲泰人工智能推理服务器。该服务器可广泛应用于各行各业推量场景中,如金融打击诈骗,气象洞察天气、医疗检测排查、交通动态管控等,满足行业对新信息技术架构对AI的要求,同时还可结合神州鲲泰边缘推理服务器,为客户提供端边云全场景AI算力。

来源:澎湃新闻


「中文在线与腾讯、百度在元宇宙业务进行探索合作」

5月26日消息,中文在线表示与腾讯、百度在元宇宙业务进行探索合作。中文在线将基于腾讯平台的至信链开展数字商品销售服务,双方就文体领域数字商品制作、交易(不含二次交易)、转移等场景开展合作。同时,基于希壤元宇宙平台,百度也将为中文在线提供虚拟会场服务。

来源:证券时报

「文远知行宣布与博世合作,进军L2-L3级自动驾驶技术开发与应用」

5月25日消息,文远知行WeRide宣布获得汽车技术与服务供应商博世的战略投资,双方签署合作协议,联合开展智能驾驶软件的开发。文远知行表示,继L4级自动驾驶技术的研发和落地,公司将通过本次合作正式进军L2-L3级自动驾驶技术的开发和应用,与博世中国共同推进车规级、可量产的高阶智能驾驶。

来源:IT之家

国际动态


中美关系

「美国共和党参议员希望禁止应用程序商店使用中国数字货币进行支付」

5月26日,美国共和党参议员汤姆·科顿(Tom Cotton)、马可·鲁比奥(Marco Rubio)等提出一项新的法案,希该法案要求美国应用程序商店下架使用中国数字货币进行支付的应用软件,共和党参议员表示,中国政府可以实时查看数字人民币的交易信息,这会给使用该货币的美国人带来隐私和安全问题。该法案发布在微信宣布将于今年开始支持数字人民币之后,中国驻美大使馆表示,该立法是美国再一次以国家安全为由,滥用国家权力来打压外国公司的又一例证。

来源:路透社


政府监管

「俄罗斯通信监管机构对谷歌等外国数据存储公司提起诉讼」

5月27日,俄罗斯联邦通信、信息技术和大众传媒监督局(Roskomnadzor)表示,已对谷歌、Airbnb、Pinterest、Likeme、Twitch、苹果和联合包裹服务公司(United Parcel Service)提起行政诉讼,指控其涉嫌违反个人数据立法。这是该机构首次对后六家外国科技公司提起诉讼。据悉,根据《俄罗斯联邦行政违法法典》第8部分第13.11条,运营商通过互联网等途径搜集信息时未能遵守俄罗斯个人数据立法相关规定的义务将被追究责任。

来源:路透社、塔斯社、财联社


「美国发布联邦公共研究数据库建设指南」

5月26日,美国白宫科技政策办公室(Office of Science and Technology Policy, OSTP)发布了联邦资助研究数据库理想特征指南,包含了明确定义的两类在线研究数据存储库的理想特征,即适用于所有类型的联邦资助数据的通用类,以及对共享人类数据有特殊考虑的特定类,为在全美范围内建立和完善统一、规范的联邦公共研究数据库提供指导。OSTP表示,公众获取联邦政府资助的研究和数据对于加速发现、促进合作、促进公平、确保政府问责以及最大化美国在基础研究上的数十亿美元投资回报至关重要。

来源:美国白宫、安全内参


「美联储副主席:未来数字美元或可与稳定币和商业银行货币共存互补」

5月26日,美联储副主席莱尔·布雷纳德(Lael Brainard)在为出席众议院金融委员会听证会而准备的证词中表示,未来某些场景中数字美元或可与稳定币和商业银行货币共存互补,就像目前现金与商业银行货币共存一样。她表示,美联储若要推进央行数字货币,可以开发提供无息CBDC或限制消费者可持有或转移CBDC的数量等功能。此外,美国要在制定涉及CBDC的国际数字金融交易标准方面发挥主导作用,如隐私、可访问性、互操作性和安全性规范。

来源:澎湃新闻


「收集用户数据隐私获利,Twitter被罚1.5亿美元」

5月25日,美国联邦贸易委员会(Federal Trade Commission,FTC)和司法部宣布,Twitter须为以欺骗性方式将账户安全数据用于定向广告支付1.5亿美元罚款。FTC表示,Twitter要求用户提供电话号码和电邮地址以保护他们的账户,然后允许广告客户使用这些数据来锁定特定用户而获利,此举违反了美国2011年的一项隐私保护命令。Twitter还将被禁止从“欺骗性收集”的数据中获利,并被要求将公司的违规行为告知超过 1.4 亿受影响的用户。

来源:华盛顿邮报、界面新闻


「英国下令对被中资科技公司收购的英国最大芯片制造商进行国家安全评估」

5月25日,英国商务大臣夸西·克瓦滕(Kwasi Kwarteng)表示,被中资企业闻泰科技全资子公司安世半导体(Nexperia)收购的英国最大微芯片工厂纽波特晶圆厂(Newport Wafer Fab)已被要求进行全面的国家安全评估。声明写道,审查和评估过程正在进行中,政府有30个工作日(可延长到45个工作日)进行评估。据悉,根据英国国家安全和投资法,政府有权审查并在必要时以国家安全为由干预符合条件的收购,甚至直接驳回。

来源:路透社、观察者网


「美议员要求谷歌停止收集位置数据,防止追踪堕胎者」

5月25日消息,42位美国民主党议员组团写信向谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)施压,要求谷歌停止收集和保存不必要或者非聚合地理位置数据,因为这些数据可能会被用来追踪堕胎者。信件中还指出,2020年谷歌收到11554份由法院发出的地理围栏命令,要求谷歌提交用户在特定时间特定地点的数据。

来源:新浪科技


「新加坡推出新框架,帮助企业衡量人工智能产品和服务的可靠性与安全性」

5月25日,新加坡通信和信息部长约瑟芬·特奥(Josephine Teo)在世界经济论坛年度会议上发起全球首个人工智能治理自测计划——人工智能验证(AI Verify),其将允许公司衡量和展示其 AI 产品或服务的可靠性和安全性。此举旨在确保公司告知用户其 AI 产品或服务的预期用途,以及其限制和所涉及的风险。

来源:亚洲新闻台(CNA)


「美参议院推出《数字广告竞争与透明度法》,或将对谷歌进行反垄断拆分」

5月19日,美国参议院两党联合小组推出了《数字广告竞争与透明度法》(Competition and Transparency in Digital Advertising Act)。该法案将禁止每年数字广告交易超过200亿美元的公司涉足数字广告生态系统的多个领域。该法案对谷歌可能将以现有的全部数字化广告业务进行拆分。尽管欧美监管机构在过往的业务实践中多次向谷歌、Meta和亚马逊开出天价反垄断罚单,但真正通过立法手段强制肢解互联网巨头,恢复互联网公平竞争环境的举措尚属首次。该立法将对美国的政策环境、反垄断未来以及整个数字化广告产业的竞争格局造成重大影响。

来源:财经杂志


政府规划

「俄罗斯正在考虑允许使用加密货币进行国际支付,计划2023年4月启动“数字”卢布试点项目」

5月27日消息,俄罗斯财政部金融政策部门负责人 Ivan Chebeskov 表示,俄罗斯正在积极讨论在国际结算交易中使用数字货币的想法,俄罗斯官员正在努力规范该国的加密市场和数字货币的使用。加密货币的使用将有助于帮助该国抵消西方制裁的影响。俄罗斯央行此前于25日表示,俄罗斯计划从2023年4月开始启动“数字”卢布试点项目,届时将与真实用户进行真实交易。

来源:路透社


「日首相岸田称修订安保战略时将探讨信息战对策」

5月26日,日本首相岸田文雄表示,鉴于俄乌冲突中出现了大规模的信息战,将在修订外交和安全政策的长期指针《国家安全保障战略》时探讨强化应对虚假信息与假新闻的措施。岸田指出,应对信息战很重要,必须切实意识到这一点并展开探讨。

来源:共同社


「美日印澳将携手确保5G安全并应对网络攻击」

5月24日,美国、日本、印度和澳大利亚四国首脑发布联合声明表示,将向全球推进普及安全且信赖度高的第五代(5G)移动通信系统,并在应对威胁加剧的网络攻击上统一步调。在5G方面,四国将同意实现运营商多元化、提高互操作性和安全性。四国还将合作构建可以连接多个厂家的设备和系统的“Open RAN”通信网,防止地区通信网被在5G领域占据领先地位的中国通信设备巨头华为所掌控。此外,美日印澳还将在5G和未来的6G通信技术领域以及生物科技方面设立政府与产业界沟通对话机制,在网络安全领域,四国将官民共享与威胁相关的信息,强化重要基础设施的防护,合作培养掌握专业知识的人才,并计划统一政府采购系统的安全性标准。关于半导体等重要技术,四国确认将通过工作组会议等,强化各国的供应链,加强与可信赖企业的交易。

来源:共同社、环球时报


网络安全

「新加坡网络安全专员:国际合作对应对未来网络冲击至关重要」

5月25日,新加坡网络安全专员、网络安全局(Cyber Security Agency)首席执行官许智贤(David Koh)表示,随着贸易流动、经济活动越来越多地出现在数字空间中,对数字空间进行的攻击可能会造成重大破坏。网络攻击可能来自世界任何地方,国际合作在应对未来网络冲击方面十分重要,尤其是对于像新加坡这样高度依赖贸易的小型开放经济体而言。

来源:亚洲新闻台(CNA)


「谷歌网络安全负责人和英国前情报官员称俄罗斯黑客泄露了英国脱欧支持者的电子邮件」

5月25日,据一位谷歌网络安全负责人和前英国外国情报局官员称,一个名为 “Very English Coop d'Etat” 的网站发布了推动英国退出欧盟的几位主要支持者的电子邮件,并表示该网站与俄罗斯黑客相关。尽管这些电子邮件的真实性无法被立即验证,但已有两名受害者证实他们已成为黑客的攻击目标,并对俄罗斯政府进行了指责。

来源:路透社


科技公司

「消息人士:谷歌正与印度政府谈判,拟加入开放电商网络ONDC」

5月27日消息,两位知情人士称,谷歌正与印度政府谈判,商讨将其购物服务与印度的数字商务开放网络(Open Network For Digital Commerce, ONDC)相整合的事宜。ONDC首席执行官科希(T.Koshy)也向媒体证实,谷歌是正与其讨论参与该项目的诸多公司之一。但对于是否正与印度政府谈判,谷歌发言人拒绝发表评论。据悉,此前4月,印度政府推出了ONDC,试图打破美国公司亚马逊和沃尔玛在印度快速增长的电子商务市场的主导地位。

来源:新浪科技、路透社


「币安完成在意大利监管机构注册,未来计划在欧洲进一步扩展业务」

5月27日,币安表示,已经在意大利的监管机构注册了法人实体,寻求在欧洲发展业务。据悉,币安已经可以在意大利开设办事处并扩大当地团队,该公司还在法国市场监管机构进行了注册,未来还将在瑞士、瑞典、西班牙、荷兰、葡萄牙和奥地利寻求注册。

来源:路透社


「扎克伯格称将对元宇宙进行大量投资」

5月25日,马克·扎克伯格在公司年度股东大会上表示,他计划对元宇宙进行大量投资。他还表示,元宇宙是一个沉浸式的数字世界,人们在里面建立了虚拟商品和服务的销售业务,Meta可以从创作者经济中获得收益。

来源:新浪科技


「微软将向川崎重工提供“工业元宇宙”业务」

5月25日消息,微软公司宣布,日本川崎重工已成为其“工业元宇宙”业务的新客户。据悉,川崎重工计划让车间工人佩戴微软HoloLens头戴设备来辅助生产、维修和供应链管理。此前,微软的工业元宇宙已有亨氏和波音两家重要客户。

来源:财联社、新浪科技


「Meta首席执行官扎克伯格因参与数据泄露决策遭起诉」

5月23日,Meta首席执行官马克·扎克伯格被美国华盛顿特区总检察长卡尔·拉辛起诉。扎克伯格被指控直接参与了导致剑桥分析公司相关数据泄露的决策。剑桥分析公司此前被曝光以不正当方式从脸书获取上千万用户数据,并利用数据分析结果精准推送广告,影响了2016年的美国大选结果。

来源:央视新闻


「谷歌DeepMind即将推出实现人类水平的人工智能」

5月23日消息,谷歌 DeepMind 人工智能部门的首席研究员Nando de Freitas博士表示,人类水平的人工智能即将最终实现,DeepMind推出的新人工智能Gato可以完成从堆叠积木到写诗等各种复杂的任务,但是仍然需要进一步扩大模型的规模,才能够实现通用人工智能。对此,牛津大学教授 Nick Bostrom 表示,一个超越生物智能的“超级智能”系统可能会取代人类成为地球上的主要生命形式。

来源:independent


「Zoom 因开发情绪检测人工智能系统而受到强烈反对」

5月19日消息,Zoom 正在开发一种用于检测情绪的人工智能系统,该系统可以帮助销售人员根据通话者的情绪改进他们的推销策略,但如果该系统被应用于招聘或财务决策等领域,可能会导致现有不平等现象的增加。目前已有超过 25 个权利团体向 Zoom 首席执行官袁征(Eric Yuan)发送了联名信,敦促 Zoom 停止对基于情感的人工智能的研究。

来源:AI News


「谷歌正在调试它的对话式人工智能机器人」

5月11日,谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)在公司年度会议上宣布对谷歌的对话式人工智能进行 beta 测试,这个名为 LaMDA 2 的聊天机器人是迄今为止最先进的对话式人工智能,可以就任何话题进行交流,并且在与谷歌员工的测试中表现良好,但该模型仍可能产生不准确、不适当的反应。皮查伊表示,如果更多人与之聊天并提供反馈,谷歌可以进一步优化该系统。

来源:weird


                                                                                                                                                   
     

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点


     





上一篇:《人工智能国际治理观察》第69期

下一篇:《人工智能国际治理观察》第67期

关闭

相关文章

读取内容中,请等待...