北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


海外智库观察

「卡内基和平基金会:学习欧盟和中国治理人工智能的经验对计划制定人工智能监管法规的国家至关重要」

2023年2月14日,卡内基国际和平基金会(Carnegie Endowment for International Peace)发布其访问学者Matt O’Shaughnessy和其研究员马特·希恩(Matt Sheehan)共同撰写的文章《来自世界上两例人工智能治理试验的经验(Lessons From the World’s Two Experiments in AI Governance)》。文章指出,人工智能无处不在、难以定义的特点使其变得难以监管,对于即将开始制定自己的人工智能治理倡议和监督法案的国家来说,他们面临的第一个基本问题是采取“横向”还是“纵向”的方法。目前,欧盟和中国已经各自在进行人工智能治理的政策设计试验,但两者都没有采取纯粹横向或纵向的人工智能治理方法。作者认为,对于其他国家来说,从欧盟和中国治理人工智能的初步努力中学习成功和失败的经验将至关重要。此外,有效的人工智能治理模式应同时包含横向和纵向的元素,并根据自身特点进行有偏重性的选择。

 

作者分别介绍了欧盟和中国不同偏向的治理方法,并指出其中的利弊。作者指出,欧盟倾向于采用横向监管方法,侧重于制定涵盖人工智能治理的多方面的全面性法规。目前,欧盟对人工智能治理的方法集中在正在推进的《人工智能法案(AI Act)》上。该法案将人工智能应用分为“不可接受的风险”、“高风险”、“有限风险”和“最小风险”四个风险类别,并由一套预先定义的监管工具来具体管理不同风险类别。为了实现在广泛领域上的可操作性,该法案一方面使用单一横向立法来确定人工智能应用的广泛范围,模糊地定义了每个风险等级的基本要求和对每个类别的不同限制;另一方面也允许具体领域和相关背景的机构(如法院、标准组织、开发人员等)来确定确切的参数和合规策略,欧盟还将《人工智能法案》中的要求与监管沙盒、应对人工智能挑战的最新政策以及其关于数据、市场结构和在线平台的相关立法等监管战略相匹配。作者认为,欧盟《人工智能法案》在”保证可预测性“和”紧随人工智能发展“这两个必要条件之间取得了平衡。其基于划分风险类别的方法可以使监管机构随着人工智能用途的发展,及时将新的应用领域纳入现有的风险类别,进行灵活监管。同时,该法案相对灵活的基本要求的定义也减轻了纯粹的横向框架所带来的关键精度挑战,允许合规策略在不同部门和技术发展中灵活运用。作者同时也指出,欧盟广泛采用横向的方式也面临着以下几种风险:首先,负责执行要求的各个监管机构可能在其解释或监管能力方面存在差异,这会破坏横向方法的关键能力和协调的优势;其次,拟设置的中央和横向的欧盟人工智能办公室是否能有效地补充国家和部门监管机构的能力,还尚未可知;最后,标准制定过程历来是由工业界推动的,如何确保政府和公众在这一议程中的发言权也是一个挑战。

 

作者就中国的治理方法指出,中国更倾向于纵向治理,侧重于针对不同的人工智能类型或应用来制定不同的法规。在过去的一年里,中国已经推出了世界范围内首批针对算法和人工智能的具有国家约束力的法规。最先出台的是针对推荐算法(《互联网信息服务算法推荐管理规定》)和深度合成技术(《互联网信息服务深度合成管理规定》)的法规。推荐算法的规定侧重于其在传播信息、设定价格和调度工人方面的应用,如要求算法供应商避免价格歧视,或对送货司机的工作负荷要求过高等;第二项法规针对的是使用训练数据生成新内容的深度合成算法,如深度伪造,并关注“有害信息”的问题,且要求供应商在个人的图像或声音被该技术操纵前需征得个人的同意。此外,中国的法规也包含了横向因素,例如,以算法备案系统为代表的监管工具可以横向适用于多个不同的纵向法规。该系统由推荐算法法规创建,并由深度合成法规重申,这两项法规都要求开发者为算法进行注册。这一系统作为中央数据库,可供中国官方收集有关算法的信息,也可以作为监管机构了解如何构建和部署人工智能的工具。在未来,该系统可能会继续作为一个横向工具,用来收集各种算法的类似信息,并可能会根据算法的不同应用要求提供不同种类的信息,也可能仅对所有受监管的算法需提供的信息做统一底线要求。作者认为,尽管中国的做法能够更精确地将监管要求针对具体的技术应用,但在多数情况下,该方法可能会使规则落后于快速发展的技术。并且中国的人工智能监管法规也模糊了一些要求的定义,以至于将实际的监管权力从技术公司转移到政府监管机构手中。中国的纵向管理的法规最终可能成为更全面的人工智能治理制度的基石,这种立法模式在中国《网络安全法》之前的中国互联网治理中得到了体现。但在此之前,分散的法规会带来监管不周、遵守成本较高等风险。

 

作者指出,各国的政策制定者应该从欧盟和中国的相关治理试验中学习经验。欧盟和中国的相关治理试验带来的最重要的经验是:不能纯粹地采用横向或纵向的监管方法。纯粹的横向监管方法将无法为人工智能的所有应用制定有意义的具体要求。而纯粹的纵向监管则可能会给监管机构和公司带来合规方面的混乱。因此文章指出,最有效的监管方法是同时融入横向和纵向的元素。采取横向方法的监管者可以通过制定一套固定的治理工具,为开发者和企业提供可预测性,帮助政府将有限的资源集中在透明度、稳健性和问责制等重复的主题上,还可以尽量规避过度依赖特定部门的监管从而出现人工智能新技术时出现监管空白的情况。但是,适合采用横向方法的政府立法机构需要有能力修改或增加横向监管以跟上技术进步的步伐。静态的横向法规难以持久应对快速发展的技术。此外,当横向法规将制定具体合规要求的工作委托给行业主导的标准机构等其他机构时,这些机构需要有能力抵制行业垄断。采用纵向方法的监管者可以通过“量身定制”——即制定具体的法规来减轻不同人工智能应用所带来的具体危害,虽然治理目标有限,但不需要增加额外负担。当某种干预措施被证明是成功的,政策制定者就可以将其纳入针对其他危害的立法,也可以将这些经验用于塑造一个更加横向的监管制度。但是如果各机构间无法协调建立共同的监管工具,那么监管成本将会上升。纵向监管要求部门监管机构需要配备必要的技术和财政资源,从而有足够的能力对使用人工智能的企业进行有效监管。作者最后强调,没有一个单一的公式可以普适各国的人工智能监管,欧盟和中国在人工智能监管中使用横向和纵向元素混合的方式为其他国家提供了一个政策选项,他们可以通过学习其中的经验教训并根据自身情况进行调整,从而采取有意义的行动来减少人工智能系统产生的危害。

 

 

Matt O’Shaughnessy:卡内基国际和平基金会技术与国际事务项目访问研究员,专注于研究地缘政治和全球技术治理。

马特·希恩(Matt Sheehan):卡内基国际和平基金会研究员,曾以World Post驻华记者的身份在中国工作和生活6年,专注于研究与中国相关的全球技术问题、中国的人工智能生态系统、中国技术政策的未来以及技术在中国政治经济中的作用,著有《跨太平洋实验:中国和加州如何为我们的未来合作和竞争(The Transpacific Experiment: How China and California Collaborate and Compete for our Future)》一书。

原文链接:https://carnegieendowment.org/2023/02/14/lessons-from-world-s-two-experiments-in-ai-governance-pub-89035


行业舆情追踪

国内动态

政府规划

「成都将组建天使投资引导基金,布局人工智能、卫星互联网」

2月28日,成都产业集团副总经理袁水全在新闻发布会上表示,将围绕产业链布局创新链,着眼人工智能、卫星互联网等5年内有望形成增量突破的产业领域,加快组建天使投资引导基金,发挥成果转化基金群“触角”“探头”和孵化作用,提升“投新、投早、投小、投硬”能力,推动实现创新成果与市场需求“无缝对接”。同时,成都还将超前捕捉未来产业,以抢抓风口机遇布局新赛道。在尊重科技创新驱动产业发展规律的基础上,瞄准中长期颠覆性技术的突破和产业化方向,以前瞻思维和战略眼光布局量子互联网、光芯片等未来产业新赛道,力争到2025年打造一批全市未来产业的突破口和增长点。

来源:第一财经


「工信部等七部门:融合新技术发展通用智能检测装备」

2月23日消息,工信部等七部门日前印发《智能检测装备产业发展行动计划(2023-2025年)》(以下简称《计划》),提出到2025年,突破50种以上智能检测装备、核心零部件和专用软件,推动100个以上智能检测装备示范应用,初步构建产业体系。《计划》强调,要实施产业基础创新工程,加强核心技术攻关,推进人工智能、5G、大数据、云计算等新技术融合应用,提升智能检测装备感知、分析、控制、决策能力和水平。同时,要实施供给能力提升工程,针对制造业化学成分分析、性能测试、几何量测量、可靠性评价等通用检测需求,融合5G、人工智能、大数据、区块链等新技术,通过成果熟化、试验验证、迭代进阶、小试中试等工程化攻关,升级换代一批应用面广的通用智能检测装备。

来源:工业和信息化部


「中办、国办:加快推动人工智能辅助诊断在乡村医疗卫生机构的配置应用」

2月23日消息,中共中央办公厅、国务院办公厅近日印发《关于进一步深化改革促进乡村医疗卫生体系健康发展的意见》。该文件提出,要加快推进县域内医疗卫生服务信息化。完善区域全民健康信息标准化体系,推进人口信息、电子病历、电子健康档案和公共卫生信息互联互通共享,到2025年统筹建成县域卫生健康综合信息平台;大力推进“互联网+医疗健康”,构建乡村远程医疗服务体系,推广远程会诊、预约转诊、互联网复诊、远程检查,加快推动人工智能辅助诊断在乡村医疗卫生机构的配置应用;提升家庭医生签约和乡村医疗卫生服务数字化、智能化水平。

来源:中国政府网


「青岛市人工智能产业园开园,双算力中心构筑“最强大脑”」

2月23日,青岛市人工智能产业园(青岛智算谷)开园。根据计划,到2024年,园区产业营收规模突破200亿元;到2028年,园区产业营收规模突破600亿元。同日,青岛人工智能计算中心同步上线,首期具备100P算力,相当于5万台高性能个人计算机(PC)的算力,将为人工智能提供普惠算力。据悉,园区年内算力规模可达到250P,而且还预留了超过600P的算力规模,成为立足青岛、辐射山东乃至长江以北区域的智算枢纽。此外,《青岛市人工智能产业园发展若干政策》同步发布,这也是全国首个市、区两级一体化支持人工智能产业园发展政策,从规划建设产业园区、支持企业集聚发展、强化产业技术支撑、优化生产要素保障4个方面提供“一揽子”支持。

来源:中国山东网


政府监管

「北京出台多条准则规范广告发布行为,互联网弹出广告要能一键关闭」

2月28日消息,北京市市场监管局近日发布《北京市广告发布行为合规指引》。据悉,互联网广告发布须遵循七条特别准则。利用互联网发布、发送广告,不得影响用户正常使用网络。在互联网页面以弹出等形式发布的广告,应显著标明关闭标志,确保一键关闭。不得以欺骗方式诱使用户点击广告内容。同时,未经用户同意或请求,不得在用户发送的电子邮件或者互联网即时通讯信息中附加广告或者广告链接,不得向其交通工具、导航设备、智能家电等发送互联网广告。不得在用户搜索政务服务网站以及相关应用程序时插入广告。此外,发布含有链接的互联网广告,应核对下一级链接中的广告内容,并采取措施防止链接的广告内容被篡改。一旦出现被篡改情形,应及时提供违法广告活动主体的真实名称、地址和有效联系方式。

来源:北京日报


政-产-学研合作

「蓝色光标集团与鹤壁市政府签署战略合作协议,推动元宇宙产业落地」

2月28日消息,蓝色光标集团与河南省鹤壁市政府近日签署元宇宙产业战略合作框架协议。据悉,双方将立足“产、学、研、用、金”五位一体高水平全面谋划,在打造中原元宇宙梦工厂(XR虚拟现实技术拍摄影棚)、建设元宇宙融合创新产业园区、打造元宇宙产业典型应用场景、推动数字元宇宙实训学院建设等7个方面进行元宇宙产业落地。同日,蓝色光标元宇宙融合创新产业园等52个项目也进行了集中签约,总投资401.9亿元。

来源:观点网


「商汤科技联手北大荒,人工智能助农为农业生产激发新动能」

2月28日,商汤科技与北大荒现代农业生态共创平台签署战略合作协议,将充分发挥商汤的人工智能(AI)基础设施优势、跨行业赋能经验,结合北大荒丰富的农业气象观测数据,共同探索和实践AI在农业生产领域的多场景应用,数智融合,为农业产业智能化升级,激发科技助农新动能。据悉,合作将率先在AI+遥感领域推进,通过对多源遥感数据智能挖掘分析,为北大荒业务部门及农场提供科学、精准、全方位的决策支撑。双方将联合研发基于智能遥感技术及气象技术的监测模型,以及基于AI图像识别技术的农作物病虫害检测模型,实现对北大荒种植区域内的主要粮食作物的病虫害影响范围和程度的高效判定,提升病虫害预测及防治效能。

来源:凤凰网


「中国电信大数据和AI中心昇腾人工智能开放实验室揭牌」

2月28日,“中国电信大数据和AI中心昇腾人工智能开放实验室”正式揭牌。依托该实验室,中国电信与华为将聚焦AI大模型、异构AI算法迁移、统一推理框架等方向开展联合攻关。会上,双方还联合发布了“2023年战略合作行动计划”,将基于科技创新这一内核,围绕天翼视联网、天翼云、IDC及DCI组网运营、云网运营自智、多要素融合产数标品等开展更深层次、更加广泛的战略合作。

来源:中国证券网


「青岛市崂山区与中科曙光就人工智能计算中心项目展开合作」

2月23日消息,青岛市崂山区与中科曙光近日签署战略合作协议,就青岛“海之心”人工智能计算中心项目展开合作。据悉,该中心相较已建算力中心,采用更为通用、开放的架构,具备全精度、全类型的融合算力,可灵活支撑数值模拟、人工智能训练、人工智能推理等广泛的应用场景,兼具高安全性与适配性。中心将在技术、生态、应用等多个维度完善、补充青岛现有算力布局,建成后,将满足集成电路、生物医疗、智慧海洋、智慧金融等产业发展需要和智能算力供给,推动本地及山东省传统优势产业的转型升级和新兴战略产业加速发展。

来源:界面新闻

 

「壳牌中国与阿里云达成战略合作,数智化助力能源低碳转型」

2月23日,壳牌中国与阿里云签署战略合作意向书,在能源转型及数字化转型领域展开创新合作。据悉,阿里云将基于计算、存储、网络、安全及大数据、人工智能方面的技术优势,助力壳牌中国的数字化基础设施优化提升,并通过阿里巴巴在新零售和电商领域沉淀的业务中台、数据中台,助力壳牌敏捷创新。同时,阿里云将联合菜鸟、淘宝和高德等,助力壳牌作为综合能源业务出行服务商的数字化转型,提升其选址、运营及营销效率。此外,双方还将开展壳牌冷却液应用于阿里云数据中心液冷系统的测试,并在阿里巴巴生态体系内尝试合作壳牌电动汽车充电服务。

来源:TechWeb


「百度飞桨人工智能产业赋能中心落户南昌青山湖,打造江西数智产业高地」

2月23日消息,百度飞桨(江西)人工智能产业赋能中心近日在南昌青山湖正式开业。中心由百度飞桨和生态合作伙伴共同建设,基于飞桨整合百度人工智能(AI)技术服务、解决方案及生态资源,全面支持江西产学研用各方低门槛、高效率地应用Al技术和资源,助力江西开创高质量跨越式发展新局面。据悉,飞桨将聚焦江西省“2+6+N”产业体系,在重点产业集群推广AI应用示范,并与当地高校深化校企合作,共建AI创新实训平台和人才培养基地,与生态伙伴携手共享共创,加快培育人工智能产业生态。

来源:TechWeb


科技公司

「美的自研边端人工智能算法部署工具链Aidget对外开放,推动智能家居行业提质增效」

2月28日消息,美的集团人工智能(AI)创新中心全自主研发的边端AI算法部署工具链Aidget(AI edge toolbox)正式在Github和OpenI两大社区同步上线开放,有助于美的与开发者推进AI生态共创,赋能行业技术发展。据悉,Aidget包含模型压缩工具以及推理加速引擎工具,实现从模型压缩,到推理加速全链路优化。Aidget适用于Linux/RTOS/Android/iOS等多种不同边端系统,面向armv7/v8及dsp等不同边端平台提供指令级加速;针对多计算单元设备,提供高性能异构计算能力;针对边端小内存设备,在内存管理方面进行优化设计。目前,Aidget已陆续在智能冰箱、洗碗机、家庭服务机器人等智能家电产品上实现了投产验证和规模化量产,持续发挥了降本增效作用。

来源:产业在线


国际动态

政府监管

「新加坡将推出新个人资料指导准则应对人工智能风险」

2月28日消息,新加坡个人资料保护委员会(Personal Data Protection Commission)今年将推出两套指导准则。第一套指导准则针对人工智能系统,鼓励业者在运用个人资料时保持透明和沟通,通知用户何时和如何使用他们的个人资料。指导准则也涵盖运用个人资料以训练、测试和监测人工智能系统的最佳实践。第二套指导准则针对儿童的个人数据,明确列出社交媒体服务和产品业者应如何制定实际措施。这包括在使用13岁以下儿童的个人资料前征询父母同意,并确保这些资料不会被公开。

来源:联合早报


政府规划

「新加坡政府计划开发一套类似ChatGPT系统帮助公务员写报告」

2月28日消息,新加坡政府正开发一套类似ChatGPT的系统,更好地协助公务员完成报告。这套称为“PAIR”的系统,能协助公务员总结长篇幅的参考资料、探索相关观点或改善写作表达能力等。新加坡政府准备与一些机构试用该系统,详细评估效果后,再决定如何让更多公务员使用。为确保数据安全和敏感信息受保护,政府也与大型语言模型供应商Azure OpenAI达成了保密协议。此外,公务员仍然需要完全自己撰写涉及高度机密或敏感的信息,并直接对政策决策、文件内容的遣词用字负责。

来源:联合早报


「新加坡将制定数字发展蓝图 并成立专家咨询团」

2月28日消息,新加坡计划制定数字互联互通发展蓝图(Digital Connectivity Blueprint),并成立数字基础设施咨询团(Advisory Panel on Digital Infrastructure)进行相关规划工作。该蓝图将规划宽带、移动和无线网络,以及海底电缆等海内外的连接基础设施发展。这包括把新加坡全国宽带网络速度从现有的1Gbps提升到10Gbps。该蓝图也会针对数据中心和数字公用事业等方面,与其他数字基础设施整合,达到互补作用。蓝图预计今年稍迟时候推出。

来源:联合早报


科技公司

「微软发布Windows 11更新,将把人工智能驱动的必应(Bing)搜索添加至任务栏」

2月28日,微软(Microsoft)今天发布了Windows 11重大更新,将把新开发的、由人工智能驱动的Bing搜索添加至任务栏,为这一功能提供快速访问。微软消费者营销主管Yusuf Mehdi表示,微软正在重新构想一个由人工智能驱动的Windows,新Bing的功能对此非常重要,因为目前已有超过5亿用户定期使用Bing搜索。目前已有169个国家的超过100万人在测试新Bing的预览版,Windows负责人Panos Panay表示,很快Windows 11用户就可以使用这项令人新技术来搜索、聊天、并直接在Windows任务栏上提问并生成内容。

来源:The Verge


「Meta首席执行官马克·扎克伯格表示将赋予人工智能更多的角色和人性」

2月28日,Meta首席执行官马克·扎克伯格(Mark Zuckerberg)表示,Meta正在研究“人工智能角色人格”(AI personas)。具体而言,研究关注多种类型的AI“体验”,包括文本体验,例如与Messenger和WhatsApp聊天;图像体验,例如创意性的Instagram滤镜和广告形式;此外还有视频和多模态信息的体验。新的AI团队将由Meta的人工智能与机器学习负责人Ahmad Al-Dahle领导。

来源:The Verge


网络安全

「新加坡中小企业可通过咨询服务制定网络安全策略」

2月28日消息,新加坡中小企业今年5月起可使用该国网络安全局推出的“首席信息安全官”数码咨询服务,获得更有针对性的建议,制定合适的网安策略。新加坡网络安全局会资助使用这项服务第一年最多70%的费用,借此鼓励更多中小企业学会更好地保护它们的数字资产,同时提升应对能力。这是新加坡政府通过数字企业蓝图(Digital Enterprise Blueprint)推出的其中一项新计划。根据该蓝图,资讯通信媒体发展局会更新20个领域的数字化蓝图(Industry Digital Plan),协助企业了解不同阶段适用的数字和培训方案。

来源:联合早报


元宇宙

「普华永道:商业应用将占据2023年元宇宙应用场景的主导地位」

2月28日,普华永道发布《2023元宇宙展望》。报告显示,商业应用将占据2023年元宇宙应用场景的主导地位,入职和培训、与同事互动、为客户创建虚拟内容成为最有可能探索的元宇宙应用。此外,调研发现越来越多的企业开始探索在元宇宙中模拟实体运营,普华永道预期未来几年会有更多元宇宙特有的产品和服务来搭建消费者与商业元宇宙之间的桥梁,例如虚拟化身驱动的客服中心支持、金融教育、远程医疗以及完全沉浸式的全新商业体验。同时,元宇宙计划的成败将更多地取决于可信度,而不是功能。企业打造其业务元宇宙空间应同时具备出色的使用体验和可靠安全的风险管理,以规避元宇宙骗局、安全漏洞、隐私泄露、数据存储处罚或税务罚款等风险。

来源:新京报

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点

上一篇:《人工智能国际治理观察》149期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...