北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results



海外智库观察

「世界经济论坛人工智能总监和美国NAIAC主席:用“负责任的人工智能”避免人工智能偏见的5种方法」

2022年7月5日,世界经济论坛 (World Economic Forum) 发布其人工智能和机器学习主管凯-弗思-巴特菲尔德 (Kay Firth-Butterfield) 和美国国家人工智能咨询委员会(National AI Advisory Committee,NAIAC)主席Miriam Vogel所撰写的《用“负责任的人工智能”避免人工智能偏见的5种方法 (5 ways to avoid artificial intelligence bias with 'responsible AI') 》。作者指出,在过去几年里,负责任的人工智能已经从一个小众的概念变成了一个持续的头条新闻。作者表示,其如今已经确定并总结出了实现负责任的人工智能治理的五大最佳实践。


首先,作者表示管理团队必须通过一套既定的人工智能原则保持一致。领导人必须开会讨论人工智能的使用以及它如何与他们的价值观保持一致。很多时候,技术被归入IT团队。有了人工智能,他们必须重新设置这种方法比如,工作文化必须升级以匹配新的工作模式。


其次,建立一个负责任的人工智能治理框架。作者表示,组织的价值观和技术是联系在一起的,必须集体处理。管理层的议程应该包括创新负责人如何分享他们在关键职能部门开发和使用人工智能。人力资源负责人可以分享人工智能的使用情况。总法律顾问可以反思危机头条和诉讼中的潜在责任。这些原则可以指导未来的人工智能使用和塑造人工智能文化。此外,越来越多的框架可以指导管理层的工作,包括BSA框架,GAO风险框架,美国国家标准与技术研究院(National Institute of Standards and Technology,NIST)的人工智能风险管理框架,以及世界经济论坛为人工智能领导层制作的AI C-Suite工具包。


第三,运营治理框架。作者表示,尽管设计一个计划来建立人工智能策略很重要,但有效的运营治理框架才可以使负责任的人工智能运作起来。作者指出,一个组织必须确定谁将负责人工智能治理,包括负责协调和处理内部和外部关于人工智能的问题与关切;监督治理框架和支持系统的实施;对反应的准确性和及时性负责;以及确保新的挑战被识别和解决。此外,为确保问责制,对指定团队成员的评估应包括对其可发挥的作用有明确预期。支持负责任的人工智能实施的团队也应该尽可能地多样化,因为它是为非常广泛的消费者群体精心设计的。多样性也将使人工智能更安全,使其能变得更好。一个组织还必须建立良好的人工智能强健(AI  hygiene)措施,包括在人工智能开发、部署和使用的各个阶段进行常规测试。测试将取决于系统的类型和其风险水平。鉴于人工智能的灵活性和适应性,测试必须与它相适应,所以将需要一个彻底的检查表,以确保一致性。为了让组织对计划有完整的了解和目标明确,组织必须把潜在的问题和测试计划结果广而告之,使计划可以在其整体内得到遵守。这将加强组织对负责任的人工智能文化的发展,并传达信任和责任。在每个阶段完成后,组织必须记录相关的发现以维系并促进一致性、问责制和透明度。此外,企业应该为负责任的人工智能建立一个常规审计的节奏和流程,用假设的案例对人工智能系统进行查询。如今,越来越多的外部专家和资源可以提供帮助,这也意味着这将可能成为一个促进负责任的人工智能的关键条件,如《纽约市人工智能招聘法案(New York City AI Hiring bill)》和《算法问责法案(Algorithmic Accountability Act.)》。不仅如此,这种审计记录,在未来出现诉讼或来自监管机构的查询时,可能可以作为证明。


第四,为了有一致的方式解释整个组织的原则和义务,必须提供一个人工智能道德培训课程,可以选择让高级管理人员参加负责任的人工智能徽章认证计划,该计划侧重于实施最佳做法。


第五,为了让这个过程变得简单、常规和强制性,当一个团队计划设计或推出一个人工智能产品时,可以使用一个基本的调查问卷。如果分数不足,可以将问题提交给人工智能伦理委员会进行解决。这样一个委员会可以由各种具有人工智能技术知识的专家组成。


作者最后表示,偏见会在人工智能产品的生命周期中渗入,而且它在不断学习新的模式。因此,组织必须专注于强大的工具来学习模式,并提供建议,以保持在人工智能的顶端。此外,通过实施深思熟虑的框架和其他建议措施,将有助于帮助高管们建立起规则和安全协议。


凯-弗思-巴特菲尔德 (Kay Firth-Butterfield): 世界经济论坛人工智能和机器学习主管、执行委员会成员;全球最重要的人工智能治理专家之一;并于 2014 年成为全球首位首席人工智能道德官。

Miriam Vogel: 美国国家人工智能咨询委员会主席,非营利组织Equal AI总裁兼首席执行官。

原文链接:https://www.weforum.org/agenda/2022/07/5-governance-tips-for-responsible-ai/

行业舆情追踪

国内动态

政府监管

「到2030年前,我国将新增百余项智能网联汽车标准」

7月15日,全国汽车标准化技术委员会消息,我国已完成第一阶段智能网联汽车标准体系的建设,未来将新增100余项智能网联汽车的标准。据悉,为适应我国智能网联汽车新的发展形势,新一阶段的智能网联汽车标准体系涵盖智能感知与信息通信、决策控制与执行、功能安全、信息安全和数据安全等内容,到2030年前,将新增100余项智能网联汽车的标准。

来源:央视新闻


政府规划

「浙江:推进细分行业中小企业数字化改造」

7月15日消息,浙江省人民政府办公厅近日印发《推进细分行业中小企业数字化改造行动方案》,提出到2025年,建设数字化改造县域样本30个、企业样本100家;培育重点数字化服务商300家以上,其中数字化总承包商50家以上;打造细分行业工业互联网平台、行业产业大脑各50个以上。围绕相关目标,《方案》明确五大工作任务,包括夯实数字化改造基础、打造数字化应用场景、加强应用样本复制推广、探索数字化改造市场机制以及强化数字化改造支撑。

来源:浙江省人民政府


「杭州:促进集成电路产业高质量发展」

7月15日消息,杭州市人民政府办公厅近日发布《关于促进集成电路产业高质量发展的实施意见》,提出到2025年,集成电路产业规模实现800亿元、冲刺1000亿元,年均增长20%;在人工智能芯片、视觉处理芯片、服务器芯片、车规级芯片、量子计算芯片、类脑计算芯片、化合物半导体等前沿领域形成一批创新成果,集成电路重点企业研发费用占营业收入比超5%。《意见》还明确要实施五项重点行动,包括高端设计引领行动、特色制造提升行动、关键材料设备攻关行动、平台能级跃升行动以及长三角协同攻关行动。

来源:杭州市人民政府


「合肥出台若干政策促进新一代人工智能产业发展」

7月15日,《合肥市加快建设国家新一代人工智能创新发展试验区促进产业高质量发展若干政策》发布。《若干政策》聚焦产业技术研发、自主创新产品推广、头部企业招引培育、产业载体建设、创新服务平台建设等环节,鼓励企业通过“揭榜挂帅”方式联合高校院所、国家高新技术企业等,开展产业链“卡脖子”技术和关键共性短板技术攻关,并给予补助。同时,还支持生态体系建设,鼓励人工智能商会、协会、联盟等社会组织协助政府起草行业标准、规划、产业发展报告。

来源:合肥日报


「山西:推进建设5G+智慧社区」

7月15日消息,山西省工信厅、省民政厅近日制定发布《关于推进5G+智慧社区建设融合发展的实施方案》,明确在“十四五”期间,推进建设智慧共享、和睦共治的新型数字社区。根据《方案》,山西将选取具备智慧社区基础条件的地区开展试点,以居民需求和社区难点为切入点,强化5G、人工智能等新一代信息技术在社区管理中的融合应用,促进社区服务向扁平化、精细化、智能化、高效化方向发展。同时,依托5G网络,优化社区公共环境,提升社区生活便捷化、智慧化水平。

来源:太原日报


「《苏州市数字经济“十四五”发展规划》发布」

7月10日消息,《苏州市数字经济“十四五”发展规划》日前发布,提出到2025年,苏州数字经济核心产业增加值占GDP比重超18%,数字经济领域高新技术企业达5000家,规上企业智能化改造和数字化转型实现全覆盖,5G基站达37000个以上。据悉,《规划》提出8个方面30项重点任务:一是争创国内领先的数字创新体系;二是打造国内先进的数字基础设施高地;三是打造国内领先的数据要素市场化示范高地;四是打造具有国际竞争力的数字产业高地;五是打造具有国际影响力的制造业数字化转型示范高地;六是打造引领国内的数字化治理高地;七是打造自主可控的数字安全体系;八是打造国际一流的数字创新生态。

来源:苏州日报


科技公司

「京东言犀2.0发布,定位是最懂产业的人工智能应用平台」

7月13日消息,京东发布全新升级的言犀2.0平台以及面向政务、金融、元宇宙等一系列解决方案。据悉,言犀2.0的定位是最懂产业的人工智能应用平台,除了前沿的人工智能技术能力,更有强大的产品、工程化能力、优质的服务能力。在算法层面,平台采用多算法和多系统的联合优化,支撑系统的稳定性和对复杂任务的处理。除了能支撑复杂交互场景与系统的新型算力外,平台还可以通过模型优化提升模型的逻辑推理能力,减少服务器损耗。

来源:TechWeb


「京东云首次发布数智供应链全景图,助力从“上云”到“上链”」

7月13日,京东云首次展示数智供应链全景图,发布七大应用场景,四大领先技术,以及12款领先技术产品。其中,七大应用场景包括1个数智化基础设施,以及覆盖数智采购、协同研发、智能制造、全域链接、价值服务、供应链一体化等全链路的6个业务场景;四大数智供应链技术则包括京东超级物联平台、超级自动供应链、智能机器人仓调度系统以及超大规模计算集群天琴α。此外,京东还发布了京东智能客服言犀2.0、多模态数字人、工业互联网三大智能平台,借助领先的知识图谱、多模态交互等人工智能技术,为产业提供更高效的智能服务。

来源:TechWeb


「上海电信发布公共算力服务,助力城市数字化转型」

7月12日,上海电信在运营商中率先发布公共算力服务,成立智能算力应用联合创新中心,助力打造新型算力生态体系。据悉,上海电信发布的具体产品主要有三类:一是算力,按产品特性不同,适用于图形渲染、人工智能训练及推理、高性能计算等不同能力需求,以及企业本地云、边缘云、专属视频云等应用场景;二是算网,面向算力网络跨域、跨数据中心调度的云专网和多云平台产品,实现省内跨域和国内跨省的组网以及多云互联,为科创工商专业领域、国企政务金融行业以及互联网和中小企业提供助力;三是算法,面向细分行业的15个算法模型及场景应用,发布13个智能视觉算法产品和2个语音识别算法产品。

来源:新民网


「腾讯与梅赛德斯-奔驰达成合作,将建立自动驾驶联合实验室」

7月11日消息,梅赛德斯-奔驰旗下戴姆勒大中华区投资有限公司与腾讯云计算签署合作备忘录,双方将建立自动驾驶联合实验室,发挥各自创新优势,在自动驾驶工具链、验证服务和其它相关领域探索创新。据悉,腾讯将凭借在自动驾驶方面丰富的经验和资源积累,以及云计算、大数据、人工智能方面的技术专长,通过IT架构、工具和平台,为梅赛德斯-奔驰提供集成的、高性能和稳定的云服务支持。同时,腾讯将提供其车联网安全领域的专长来支持梅赛德斯-奔驰在中国的自动驾驶研发工作。

来源:TechWeb


前沿研究

「业内首份《可信隐私计算研究报告》发布」

7月15日消息,业内首份《可信隐私计算研究报告(2022)》在2022隐私计算大会上正式发布。编写过程中,中国信通院通过梳理隐私计算技术应用中的基本原则提出了“可信隐私计算框架”,蚂蚁集团、华控清交、锘崴科技等企业也共同参与。作为隐私计算产品落地指导的一套方法论,报告致力于搭建起隐私计算技术原理和应用之间的桥梁。大会还发布了《隐私计算应用研究报告》,阐述了隐私计算在金融、通信、政务、医疗、互联网等行业的应用实践。

来源:TechWeb


「《广州数字经济发展报告(2022)》:数字经济对广州经济增长拉动作用显著」

7月12日,广州市社会科学院和社会科学文献出版社联合发布《广州数字经济发展报告(2022)》蓝皮书。蓝皮书指出,广州数字经济发展有八大成效,包括广州稳居我国数字经济一线城市方阵,数字产业对广州经济增长拉动作用显著,数字核心产业引领广州经济释放新活力,广州数字经济空间增长极加速形成,广州产业数字化转型持续提速等。此外,蓝皮书还预测分析了2022年广州数字经济发展四大趋势:数字化产业有望保持较快增长速度;数字化国际化绿色化将交织融合发展;数字化发展从供给到需求传导和从需求到供给传导两种路径方向更加明晰;无论是在新增市场登记主体当中还是在创新型企业或者独角兽企业当中,数字经济企业将占据主导地位。

来源:信息时报


「工信部电子五所发布《中国数字经济发展指数报告(2022)》,助推数字经济高质量发展」

7月11日消息,工信部电子五所近日发布《中国数字经济发展指数报告(2022)》。据悉,该报告从数字产业化、产业数字化、数字基础设施、数字技术、数字人才五个方面,构建四十项指标体系,采用各地市统计局公开数据,对全国、分地区和省级数字经济发展情况进行分析,客观评估数字经济对社会效率提升的能力,反映各地区、各行业数字经济发展状况和质量。报告还展望了我国数字经济未来的发展趋势:数字经济政策将持续完善数字治理体系,关键核心技术可控愈显重要,数字人才培养将受到更多重视,数据交易流通体系将不断完善,制造业数字化转型正由“深化局部应用”迈向“突破全面集成”。

来源:东方财经

国际动态

政府监管

「英国提出监管人工智能使用的新规则,以促进创新并提高公众对该技术的信任」

7月18日,英国政府发布针对监管人工智能使用的新计划——《建立一种支持创新的方法来监管人工智能(Establishing a pro-innovation approach to regulating AI)》,以帮助制定一致的规则及促进这一突破性技术的创新并保护公众。该政策文件概述了英国政府在国内监管该技术的方法,并提出了解决未来风险和机遇的规则,以便企业清楚如何开发和使用人工智能系统,并令消费者相信他们是安全和强大的。该方法基于监管机构必须应用的六项核心原则,分别为:确保安全使用人工智能;确保人工智能在技术上是安全的并能按设计发挥功能;确保人工智能具有适当的透明性和可解释性;考虑公平性;确定一个负责人工智能的法人;阐明补救或可竞争性的途径。监管机构还需灵活地以最符合其行业使用人工智能的方式实施这些原则。这些提案的重点是支持增长,避免对企业设置不必要的障碍。这可能会使企业分享有关其如何测试人工智能可靠性的信息,并遵循英国监管机构制定的指导方针,以确保人工智能安全并避免不公平的偏见。与此同时,《数据保护和数字信息法案(Data Protection and Digital Information Bill)已被提交给英国议会,法案将改变英国的数据法律,以促进人工智能等技术的创新。该法案将抓住英国脱欧的机会,在对人们隐私和个人数据提供的高标准保护的同时为企业节省约10亿英镑。

来源:英国政府


「欧盟委员会敦促斯洛文尼亚履行其在GDPR下的规定义务」

7月15日,欧盟委员会表示,由于斯洛文尼亚未能履行《通用数据保护条例》(General Data Protection Regulation,GDPR)其中规定的义务,欧盟委员会已向斯洛文尼亚发出正式通知函,要求其调整国家数据保护框架,以使得其能够有效地行使GDPR规定的所有纠正权。斯洛文尼亚有两个月的时间来回复委员会的意见,如果委员会对该答复不满意,可决定将此事提交欧盟法院审理。

来源:欧盟委员会


「英国新网络安全法案被进一步搁置,直至新首相继位」

7月14日,英国计划通过的新的网络安全法在最后通过之前被进一步搁置,并且将拖延至新首相上任之后再在议会进行“报告阶段”辩论。据悉,该法案旨在打击非法、有害以欺诈信息的传播,保护未成年人免受这些信息的伤害,以及监督Meta、谷歌等科技巨头是否采取了足够的措施来管理其平台。一名英国政府人士表示,推迟议会讨论并不意味着这项立法被取消。英国工党的文化议题发言人埃里克斯·戴维斯-琼斯(Alex Davies-Jones)表示,推迟议会讨论是绝对毁灭性的打击。然而,科技公司对这一推迟表示欢迎。最近几周,多家科技公司警告称,新的修正案在没有得到充分评估的情况下就仓促通过,增加了法案的复杂性和模糊性。在公开提交的文件中,包括谷歌、Meta和Twitter在内的公司都对一系列问题表示了担忧,涉及言论自由、广泛的监管权力,以及内容加密受到威胁后带来的安全漏洞等。

来源:BBC


「意大利反垄断机构因限制数据共享对谷歌展开调查」

7月14日,意大利反垄断机构竞争和市场管理局(AutoritàGarante della Concorrenza e del Mercato,AGCM)表示,因滥用市场主导地位限制平台之间数据互联互通,开始对谷歌展开调查。竞争和市场管理局认为,谷歌在多个市场中占据主导地位,通过谷歌邮件、地图、安卓系统等服务获取大量个人数据。谷歌滥用市场主导地位的行为违反了《欧洲联盟运作条约》102条,和欧盟《通用数据保护条例》第20条规定,妨碍消费者从其平台数据的使用中获益,限制了意大利其他运营商使用个人数据的方式。对此谷歌公司回应称,近十年来,谷歌为人们提供了提取和传输数据的服务。公司已经有一些方法可以增加其服务中数据的直接可移植性,例如通过开源数据传输项目,任何组织都可以参与其中。根据意大利法律,如果判罚成立,谷歌将面临高达其全球年销售额 10% 的罚款。

来源:路透社、界面新闻


「全球监管机构支持对稳定币“同样的风险,同样的监管”」

7月13日,全球监管机构表示,主要的稳定币必须遵守与传统支付形式相同的保障措施,以加强对遭受重创的加密行业的控制。国际证监会组织(International Organization of Securities Commissions,IOSCO)和国际清算银行(Bank for International Settlements,BIS)的一个委员会表示,他们已正式采纳去年 10 月公开征求意见的提案。他们表示,新指南显示了现有支付部门规则何时应适用于大型稳定币,这标志着在应用“相同风险、相同监管”方面迈出了重要一步。全球监管机构将在 10 月采取进一步措施,届时包括 IOSCO 在内的全球监管机构“金融稳定理事会(Financial Stability Board, FSB)”将提出更普遍的加密货币“稳健”规则。

来源:路透社


「澳大利亚隐私监管机构已对两家零售巨头使用面部识别技术是否违规展开调查」

7月12日消息,澳大利亚隐私监管机构已对硬件公司Bunnings和百货公司Kmart在一些地方收集顾客的面部信息的行为展开调查。消费者权益保护组织Choice表示,面部识别技术是不道德的、具有侵入性的,并且是在未经适当同意的情况下使用的。澳大利亚信息专员Angelene Falk表示,她的部门已展开调查,以确定这两家零售巨头是否违反了隐私法,她还表示,澳大利亚零售商只有在其运营“合理必要”并且获得“明确同意”的情况下才能收集敏感的生物识别信息。

来源:BBC


政府规划

「英国宣布建立国防人工智能研究中心」

7月18日,英国国防科学技术实验室( Defence Science and Technology Laboratory,Dstl)宣布成立国防人工智能研究中心(Defence Centre for AI Research,DCAR)。DCAR由DSstl与艾伦·图灵研究所共同发起。Dstl表示,DCAR将在低短期学习、人工智能战争运用、人工智能模型的局限性研究、以人为本的人工智能及人工智能相关伦理道德领域发挥作用。英国政府希望DCAR能够促进人工智能软件、英国经济以及国家防务的发展。

来源:UK Authority、cnBeta


科技公司

「Facebook允许一个账户最多绑定5份个人资料」

7月14日,Meta表示,其社交网络Facebook正在为用户提供维护多达五个个人资料的方法,这是该公司自成立以来一直保持的“真实姓名”要求的重大转变。Meta在一份声明中表示,产品变化将帮助人们根据兴趣和关系定制他们的体验,比如发布针对家人和朋友的不同类型的内容,并将继续要求每个用户只有一个Facebook帐户,其主要个人资料继续使用真实姓名,登录账户之后用户可以自由访问任意副页面。

来源:路透社


「Meta发布首份年度人权报告」

7月14日,Meta发布首份年度人权报告。此前,多年来一直有人指责其对印度和缅甸等地的网络侵权行为视而不见,这些侵权行为助长了现实世界的暴力。该报告涵盖了2020年和2021年进行的尽职调查,其中包括Meta委托律师事务所进行针对印度人权影响评估的摘要。Meta在总结中表示,该律师事务所已经注意到Meta平台可能存在突出的人权风险,如鼓吹煽动敌意,歧视或暴力的仇恨等。

来源:路透社


「亚马逊希望与欧盟就两宗反垄断案件达成和解」

7月14日, 亚马逊公司已提出让步,希望和解欧盟针对该公司提起的两宗反垄断案件,承诺不会将卖家数据用于其零售业务,此外,在对卖家的“Buy Box”报价进行排名时将一视同仁。此前欧盟指责亚马逊利用商家的非公开信息与商家竞争,违反了竞争法。这是在欧盟通过《数字市场法案(Digital Markets Act)》后,大型科技公司改变战略的一个新迹象。欧盟委员对此表示,对于亚马逊为和解案件所做出的承诺事项,委员会将征询反馈意见。

来源:华尔街日报


「亚马逊Ring未经用户同意11次向警方提供数据」

7月13日,亚马逊公司表示,今年截止目前为止,该公司旗下的视频门铃服务Ring在未经用户同意的情况下向执法部门提供了 11 次视频。亚马逊表示,它是在紧急情况下提供视频的。亚马逊称,该公司是在紧急情况下向执法部门提供这些视频的。亚马逊还表示,有2161个执法机构使用其“邻居公共安全服务”(Neighbors Public Safety Service),该服务允许警察和其他执法人员索要Ring服务用户的视频录像。

来源:路透社


「Meta的新人工智能工具将助其对抗错误信息」

7月13日,Meta宣布其新的人工智能工具——Sphere。该模型旨在帮助检测和处理网络上的错误信息及“假新闻”。Meta表示,这是第一个能够自动对数十万条词条进行自动扫描及排查的人工智能模型。据Meta的研究团队表示,Sphere的数据集包括1.34亿个公共网页,可以依靠互联网的公共资源对成千上万的网络词条进行快速扫描以寻找事实错误。根据Meta的公告,维基百科已开始使用该工具来扫描和标记页面上的不当信息。此外,鉴于维基百科庞大的数据库,该工具还能借此机会来进行大规模机器学习训练。对此,特拉维夫大学研究员Shani Evenstein Sigalov称,Sphere与维基百科的合作是一个强大的机器学习工具示例。

来源:CNBC

清华大学人工智能国际治理研究院编


上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点


上一篇:《人工智能国际治理观察》第82期

下一篇:《人工智能国际治理观察》207期

关闭

相关文章

读取内容中,请等待...