北京市海淀区清华大学01062794781i-aiig@tsinghua.edu.cn

研究成果

Research Results


         



undefined  


海外智库观察

「兰德公司:公平性是算法难以企及的目标」

2022年3月28日,兰德公司发表其助理统计学家Irineo Cabreros撰写的《算法告诉我们为何获得公平是如此艰难(Algorithms Teach Us Why Equity Is Hard)》一文。美国司法部于去年引用了一个名为“PATTERN”的算法程序,以决定哪些囚犯有资格获得提前释放。对此,作者表示该算法程序会导致针对种族差异的公平性问题,就像简历筛选、医疗保健等系统中所使用的算法程序那样,该算法会对黑人、亚裔、拉丁裔等囚犯存在歧视。司法部的统计样本显示,仅有7%的黑人的犯罪风险被归类为最低,而白人在这一类中占据的比例为21%。作者表示,对于这种歧视性问题,通常都认为其原因在于设计或运用算法的人而非算法本身。因为目前所使用的多数算法的本质实际上是个黑匣子,它们根据神秘、复杂的规则提取数据并做出预测。而这些数据是由“人”提供的,如果这些数据反映了“人”具备的性别歧视、种族主义和专制倾向,那么这些偏见将被纳入算法的报告中。然而,作者同时也表示,即便是撇开所有人性的缺陷,公平性仍然是算法难以企及的目标。近年来,关于算法公平性的许多研究已揭示出算法公平性有基本的不可逾越的限制。该局限性对任何决策者、人类或机器来说,都有深远的影响。


作者介绍了一篇题为《算法决策和公平的代价(Algorithmic Decision Making and the Cost of Fairness)》的论文。该论文认为,如果不把公平性强加于算法,那么算法可以达到更高的精准性。通常,约束条件越多,反而会变得愈加复杂和难以把握准确结果。基于此,作者认为,最精准的算法可能比最精准的公平算法更准确。因此,在设计算法时,必须做出决择。例如,是否愿意为了平等而牺牲质量?是要一个更公平的算法系统还是更高性能的算法系统?


如何在绩效和公平之间做出一个明确的选择一直是学术界备受关注的一个问题。这类型矛盾也存在于人类的其他决策中,例如大学录取更多地侧重于多元化而非高分体现的是公平优先,而警察常常在高犯罪率地区进行巡逻,对有色人种地区保持高度警惕则体现的是绩效优先。然而在公平优先和效率优先进行取舍并非易事。作者认为,在这二者之间做抉择之前,首先需要对“公平”和“平等”的含义进行定义,因为算法需要精确的信息,而语言则可能会出现模棱两可的情况。对于如何衡量算法是否具有偏见这一问题,作者以评估某种癌症筛查算法是否对黑人患者存在偏见为例,阐述了其观点。一种方法是对比算法对黑人患者与白人患者的癌症诊断预测结果的错误率是否不同。而如果该算法对黑人和白人患者的误报率相等,也可以被当作是一种形式上的公平。另一种方法是检查算法预测对黑人和白人患者是否具有相同的意义。例如,如果算法推测白人患者不得癌症的几率为90%,而黑人患者的几率仅为50%,那么这个算法可能被合理地认为是有歧视的。而如果不论什么种族其患癌症的推算结果都是一致的,这种算法则可能被认为是公平的。这种方式的公平性被称为校准。但是,作者同时也指出,已经有研究人员证实,没有一种算法能够同时达到这两种类型的公平。鱼与熊掌不可兼得,实现一个公平目标必须违反另一个。因此,作者认为,实现公平从根本上来说是困难的,不过寻求它也绝不是徒劳的。强制优化算法公平地运行可能会使其脱离性能的巅峰,但这可能是一个更可取的权衡结果。此外,算法的“数据输入、决策输出”的简单结构,也将有助于研究公平性。作者最后表示,尽管人类一直在努力将人类认为的不平等因素剔除出算法系统,不断寻求提高公平性,然而我们依旧可以在算法中看到歧视性。算法也告诉我们,我们不可能在拥有公平性的同时也拥有其他要素。


Irineo Cabreros: 兰德公司助理统计学家,专注于研究大数据、算法公平、种族平等等领域。

原文链接:

https://www.rand.org/blog/2022/03/algorithms-teach-us-why-equity-is-hard.html


行业舆情追踪

国内动态


政府规划

「《上海城市数字化转型标准化建设实施方案》印发」

4月20日,上海市人民政府办公厅印发《上海城市数字化转型标准化建设实施方案》,提出到2023年底,新增发布100项以上城市数字化转型地方标准及团体标准,主导或参与制定50项以上国际标准和国家标准,形成15项以上“上海标准”,推动50项以上城市数字化转型标准化试点。《方案》指出五项主要任务,包括完善支撑全局的基础标准、完善融合发展的经济数字化转型标准、完善服务民生的生活数字化转型标准、完善精细管理的治理数字化转型标准、构建适应新发展阶段的标准化工作格局。

来源:上海市人民政府


「辽宁省实施“技能辽宁行动,普及提升全民数字素养和技能」

4月15日消息,辽宁省人社厅等多个部门近日联合印发《“技能辽宁行动”实施方案》,提出在全省实施“技能辽宁行动”,推动辽宁技能人才队伍建设实现高质量发展。《方案》提出,要普及提升全民数字素养和技能,在各类职业技能培训中增加有关数字技能的培训内容,特别是面向新职业重点开展人工智能、大数据、云计算等数字技能培训,推动实施“互联网+职业技能培训”模式。

来源:中国新闻网


「《成都市“十四五”数字经济发展规划》正式印发」

4月14日,由成都市发改委牵头编制的《成都市“十四五”数字经济发展规划》正式印发。《规划》从超大城市数字化转型的现实需求出发,以提升数字技术、数据要素、数字基建三大数字经济新要素的供给能力为基础,大力提升成都数字经济治理体系和治理能力现代化水平。

来源:封面新闻


「工信部:加快5G全连接工厂建设,打造10个5G全连接工厂标杆」

4月13日,工信部印发《工业互联网专项工作组2022年工作计划》 。《计划》提出,要加快5G全连接工厂建设,打造10个5G全连接工厂标杆,完善5G专网部署模式,同时培育推广“5G+工业互联网”典型应用场景。《计划》还明确,将持续完善国家工业互联网大数据中心建设,统筹推进区域和行业分中心建设,并且构建平台数据字典互认机制,统一工业数据、算法模型、微服务等调用接口。

来源:工业和信息化部


「广东:优化升级数字基础设施,发挥数据要素作用」

4月13日,广东省工信厅印发《2022年广东省数字经济工作要点》,提出优化升级数字基础设施,发挥数据要素作用,大力推动数字产业化和产业数字化,在提升公共服务数字化水平的同时,健全完善治理和安全体系。《要点》强调,要建立健全数据法规制度体系,出台《广东省公共数据开放暂行办法》,研究制订《广东省数据条例》;要推进数据资源开发利用,加快建设省公共数据运营机构,健全公共数据运营规则;还要依托现有交易场所建设省数据交易场所,支持建设深圳市数据交易所,建立健全数据权益、交易流通、跨境传输和安全保护等基础性制度规范。

来源:广东省工业和信息化厅


「河南省与华为深化战略合作,涉及人工智能、数字政府建设等领域」

4月13日消息,河南省政府与华为于近日签署全面深化战略合作协议,围绕计算产业、人工智能产业、数字能源产业、智能网联汽车产业、数字政府建设等方面进一步展开合作。双方将利用数字经济、新型基础设施领域的建设经验和技术积累,加快城市和行业数字化转型进程。同时在产业生态方面,双方还将持续推进河南省产业研究院建设,加速省级产业研究院及地市产业研究中心落地,以技术创新加快河南产业数字化发展进程。

来源:动点科技


「杭州将利用人工智能等技术促进数字农业培育发展」

4月13日消息,杭州首次发布数字农业培育发展三年行动计划。根据计划,杭州将集成大数据、区块链、5g、人工智能等农业数字化前沿技术,重点打造一批科技含量高、品质效益好、辐射带动强的数字农业示范项目。据悉,杭州数字农业建设重点集中在“一脑三场”,分别是农业产业大脑和数字农场、数字渔场、数字牧场。预计到2024年底,杭州将建成10个以上的农业产业大脑,新建综合示范型未来农场10家以上,建成特色提升型未来农场30家以上。

来源:浙江在线


科技公司

「华为与格灵深瞳将就人工智能领域展开紧密合作」

4月19日消息,华为与格灵深瞳近日签署合作协议,双方将会推出基于昇腾AI基础软硬件平台打造的联合解决方案,共建人工智能生态,推动人工智能产业进一步的创新发展,拓展人工智能应用场景落地的无限可能。

来源:新浪新闻


「智影医疗的AI影像医学技术获美国国立卫生研究院肯定并长期合作」

4月19日消息,美国国立卫生研究院的传染病研究中心经反复测试和严谨考察,于近日正式宣布与深圳市智影医疗科技有限公司开展长期合作。此次合作,既是对智影医疗在AI影像医学技术上的充分认可,还将探索出一条中国AI医疗公司出海的全新路径。

来源:智影医疗


「岚图汽车与百度就汽车智能化达成战略合作」

4月15日,岚图汽车与百度签署战略合作协议,将围绕汽车智能化展开深度合作。据悉,双方将在智能驾驶、智能座舱、智驾仿真云、汽车安全、智能地图等业务领域展开优先合作,充分发挥高科技互联网企业与高端新能源整车企业的各自优势,结合形成有效的技术联盟,共建智能驾驶、智能网联落地新场景,探索新商业模式、新生态合作,推动中国高端汽车品牌的发展。

来源:财联社


「河北交投和联通签订协议,数字交通技术应用联合实验室成立」

4月13日,河北交投和河北联通签订战略合作协议,双方将在企业数字化、智慧高速建设、智慧港口建设、智慧物流发展、交通大数据应用、网络及数据安全、应急处置等方面加强战略合作。同日挂牌成立的数字交通技术应用联合实验室将围绕“5G+北斗”在高精度导航定位上的应用、AI智能视频分析在交通场景监测上的应用、“人车路网云图一体化”协同技术、无人车(机)出行及物流运输在封闭和半封闭场所的应用等开展研究,加速交通基础设施网、运输服务网、能源网与信息网络融合发展。

来源:河北新闻网


「旷视发布“算法定义硬件”系列新品」

4月13日,旷视发布基于“算法定义硬件”的空间数字化产品战略,同时发布三类“算法定义硬件”新品,包括AI计算产品线的中心计算服务器系列“旷视幻方”;面板机产品线的W4K-E82门禁一体机系列“旷视神行”;IPC产品线的C4H-240智能网络摄像机系列“旷视敏观”等。据悉,这些产品在算法训练之初,就考虑了基于嵌入式芯片的优化,通过MegEngine的训推一体特性,无须进行模型转换,把算法精度的损失降到了最低。

来源:36氪


技术运用

「江苏首个医疗5G消息在苏州落地」

4月19日消息,苏州移动与肺诊网(苏州)网络科技有限公司近日达成战略合作,携手推进5G技术在医疗细分领域的创新性建设,落地江苏省首个医疗5G消息应用。据介绍,“5G消息+医疗”的应用方案,可以借助5G消息实现一键式引导,搭建起医患高效沟通的桥梁,打破了以往传统短信方式的局限性,同时为用户提供清晰便捷的服务引导,实现更高效、精准的问诊服务。

来源:中国江苏网


「广东移动5G无人车保障疫情物资配送」

4月19日消息,广东移动3台5G无人配送车近日已在广州投入使用,协助社区转运食品和抗疫物资。据悉,此次投入使用的5G无人配送车具有智能操控、高效配送、超大货载等特点,同时配备了L4级自动驾驶系统、车联网AI平台及模块化智能货厢、丰富的传感器等,拥有良好的自动驾驶能力,极大程度释放人力成本,提升运送效率。

来源:羊城晚报


「中韩学者合作研发肺癌AI分析工具,治疗更精确」

4月18日消息,香港中文大学医学院肿瘤学系系主任莫树锦与韩国多间大学合作,开发了一种用于非小细胞肺癌的人工智能分析工具,能预测肺癌治疗的有效性,提供更精确的临床治疗方案。据悉,这项研究的AI分析工具可为完整病理切片影像进行分析,以了解生物标志物“肿瘤浸润淋巴细胞”的分布。

来源:中国新闻网


「厦门上线“AI智能客服”,保障人社电话咨询服务不打烊」

4月12日消息,厦门12333咨询热线近日在原有咨询服务基础上,推出AI智能语音咨询服务项目,逐步实现人社咨询服务“0等待”。据悉,该咨询热线采用人工坐席协同AI智能坐席创新服务模式,将人社领域问答整理成各类别智能语义知识库,根据日常新政策发布和群众咨询热点进行优化更新,保障咨询问答服务的及时性和精准度。此外,AI智能坐席还能够自动识别转接到人工坐席进行解答,实现智能语音客服与人工客服之间的协同互补。

来源:人民网


前沿研究

「港大工程团队开发新算法,优化人工智能医学图像分析技术」

4月12日消息,香港大学工程学院的研究团队开发出一种新人工智能演算方法,能够从数十万份X射线影像报告中自动获取监督信号来训练预测模型,大幅减省人力成本达90%,其预测的准确度更超越用全由人手标注的数据训练人工智能医学图像诊断模型。据悉,该方法利用人工智能直接从文本报告中学习X射线特征表达,与严重依赖人手标注的传统方法相比,可自动从文本报告中的每个词获取监督信号,用以训练人工智能神经网络精确解读X射线影像。

来源:中国新闻网


「阿里在AI模型训练中引入新方法,提升与人类对话效果」

4月12日消息,阿里达摩院研究人员首次利用半监督学习将标注的人类知识注入预训练对话模型,在MultiWOZ2.1等三个国际主流对话数据集中均实现了最佳效果,提升幅度明显,为知识和数据融合探索出新路径。据悉,达摩院为此构建了目前最大的对话动作标签知识库,总量达97万轮次。在具体案例中,新模型能够更准确预测出对话动作,从而更好和人类进行对话,避免答非所问。

来源:钱江晚报



国际动态

政府监管

「俄罗斯将对Youtube处于1100万卢布的罚款」

4月21日,俄罗斯法院对Youtube处以1100万卢布的罚款,原因为其未能删除与俄乌冲突有关的虚假信息及乌克兰人制作的反俄视频,俄罗斯通信监管机构在本月初表示其正在对Youtube平台上虚假信息的散布采取惩罚措施。谷歌没有立即回应置评请求。

来源:路透社


「美公布对俄新一轮制裁,首次打击俄虚拟货币采矿业」

4月20日,美国财政部宣布扩大对俄罗斯的制裁范围,将制裁范围扩大至那些被认为帮助俄罗斯逃避经济制裁影响的企业和个人,包括试图推广其专有支付系统的俄罗斯商业银行Transkapitalbank和俄罗斯虚拟货币采矿公司Bitriver,这是拜登政府首次试图打击俄罗斯的数字货币采矿业。

来源:财联社、新浪科技


「日政府表示向乌克兰提供的无人机不会被用于攻击」

4月19日,日本政府表示,向乌克兰提供的小型无人机不会被转用为攻击俄军的武器。官房长官松野博一表示已确认赠送的装备品和物品未被用于其它目的,被妥善地用于乌克兰防御,日本政府坚持“不考虑提供具有杀伤能力的装备品”的立场。除无人机外,日本政府在不违反《联合国宪章》的前提下还将对乌克兰提供应对化学武器的防护面罩和防护服,由乌克兰政府遵从国际承诺妥善管理并使用。

来源:共同社


「WhatsApp获印度监管部门批准,将其支付服务用户数扩大至1亿」

4月13日,消息人士表示,Meta旗下社交通讯软件WhatsApp已获印度监管部门批准,将其在印度的支付服务用户数量翻倍至1亿人,但鉴于WhatsApp在印度拥有超过5亿的用户,提高后的上限仍会限制其增长。据悉,近年来,WhatsApp一直表示,印度国家支付公司(NPCI)不应为其支付服务的用户数量设置上限。消息人士还表示,WhatsApp已经多次告知NPCI希望“不设上限”,但NPCI私下表示,允许其所有用户访问支付服务可能会使该国的金融基础设施紧张。

来源:路透社、新浪科技


政府规划

「日本:2023年底5G移动通信网人口覆盖率将提升至95%」

4月19日,有记者获悉日本政府提升地区活力的政策“数字田园都市国家构想”基本方针草案。在完善数字基础设施方面,草案提出,将基本沿袭总务省3月汇总的计划,截至2023年度底将第5代(5G)移动通信系统网的人口覆盖率提升至95%。截至2027年度底,可进行高速互联网通信的光纤线路覆盖99.9%家庭。

来源:财联社、新浪科技


「澳洲和新加坡签署协议,深化两国金融科技合作」

4月13日,澳大利亚财政部与新加坡金融管理局宣布签署澳洲—新加坡金融科技桥梁协议(Australia-Singapore FinTech Bridge Agreement),加强两国在金融科技生态系统的合作。该协议的目的是在澳洲—新加坡数码经济协定下的数码经济合作总体框架的基础上,深化两国金融科技生态系统之间的合作,以促进金融科技领域的贸易、投资和生态系统发展。此外,框架将让两国合作探讨关于金融科技领域新兴问题的联合创新项目,包括在区块链和分布式账本科技、数码身份、跨境数据连接、数据可携带性,以及应用金融科技促进可持续金融等领域的合作。

来源:联合早报


网络安全

「中情局主战网络攻击武器曝光」

4月19日消息,美国通过网络对全球进行监控窃密的又一主战装备被曝光,该装备即为美国中央情报局专用的“蜂巢”恶意代码攻击控制武器平台。据介绍,“蜂巢”平台具有智能化程度高、隐蔽性强、攻击涉及面广、突防能力强的特征,还设定有重点攻击对象,应引起全球互联网用户警惕。

来源:环球时报


「俄乌冲突以来,超过350万俄罗斯互联网用户的账户被盗」

4 月 16 日消息,据Surfshark的一项研究表明,自3月俄乌冲突以来,俄罗斯账户遭到入侵的数量占全球所有受害者的近五分之一,同比2月增加了136%,排名第一,与此同时,乌克兰出现的泄露数量比战前季度减少了67%。Surfshark首席信息安全官Aleksandr Valentij表示,尽管过去几个月数据泄露事件有所减少,但它仍然是最常见的网络犯罪类型之一。他表示,泄露的电子邮件、密码、电话号码等通常在暗网上出售,以供以后用于网络钓鱼攻击、勒索软件甚至身份盗窃。

来源:新浪科技


「乌克兰称其阻止了黑客对其电网的网络攻击」

4月13日消息,乌克兰网络安全分析师和官员表示,其阻止了黑客对乌克兰电网的攻击。在调查了攻击者使用的方法和软件后,网络安全公司 ESET 表示,攻击很可能是由一个名为Sandworm 的黑客组织实施的,该组织据称与俄罗斯政府有联系。据乌克兰计算机应急响应小组称,该组织计划关闭控制属于特定电力公司的变电站和基础设施的计算机。目前尚不清楚黑客进入电网公司网络的方法,也不清楚黑客是如何获得控制目标变电站等工业设备的网络的访问权限。

来源:The Verge


「微软和其他科技公司计划联合捣毁网络犯罪团伙

4月13日,包括微软在内的多家科技或网络安全公司表示,他们试图破坏一个网络犯罪集团,该集团的恶意软件ZLoader已被用于全球勒索软件攻击和其他类型黑客攻击。微软表示,美国佐治亚州北区地方法院也发布了一项命令,该命令允许微软夺取黑客组织使用的 65 个互联网域名。微软还表示,该公司已锁定了以为参与黑客攻击的人员,并将其信息提交给美国执法部分。

来源:CNN


「美国和欧洲合作关闭了黑客网站RaidForums」

4 月 12 日,美国和欧洲当局表示,他们已经查封了黑客用来买卖被盗数据的全球网络犯罪论坛 RaidForums,美国还对该网站的创始人和首席管理员Diego Santos Coelho提起了指控。美国法院批准没收和托管 RaidForums 网站的三个不同域名:raidforums.com、Rf.ws 和 Raid.lol。该网站上可供出售的数据类型包括被盗的银行路由和帐号、信用卡信息等。

来源:路透社


科技公司

「汽车制造商Stellantis和高通达成合作,打造车联网5G智能车舱系统」

4月14日,汽车制造商Stellantis和高通宣布达成在未来多年内的技术合作,打造车联网5G智能车舱系统。自2024年起,双方将利用最新的骁龙数字底盘先进技术,为Stellantis旗下14个标志性汽车品牌的数百万辆汽车提供智能、可定制和沉浸式的车内体验,赋能Stellantis集团的下一代信息影音系统。

来源:财联社、新浪科技


「苹果CEO库克称拟议的反垄断法将减少用户在隐私方面的选项」

4月12日,苹果CEO蒂姆·库克(Tim Cook)批评了美国和欧盟正在推进的反垄断法规,他表示,拟议中的反垄断法案将使iPhone的安全性降低进而损害用户的隐私和安全。据悉,苹果的App Store业务正面临着来自美国国会和欧盟的双重威胁,议员们打算迫使苹果允许第三方程序从该公司App Store以外的地方下载到iPhone上。目前苹果把控着iPhone可以下载的应用,并从中收取高达30%的佣金。

来源:华尔街日报


「索尼、乐高20亿美元投资Epic,加速元宇宙游戏开发」

4月11日,Epic公司宣布,获得索尼公司以及乐高家族Kirkbi投资公司各10亿美元的注资,该公司的现估值达到315亿美元。Epic创始人、CEO蒂姆·斯威尼 (Tim Sweeney) 表示,新的融资将帮助该公司加速开展建立元宇宙方面的工作。Kirkbi公司表示,这项投资将加速其对数字游戏世界的参与。

来源:新浪科技


     
   

清华大学人工智能国际治理研究院编

上述信息均根据原文内容整理,谨供读者参考,不代表本机构立场和观点



上一篇:《人工智能国际治理观察》第60期

下一篇:《人工智能国际治理观察》第58期

关闭

相关文章

读取内容中,请等待...