「布鲁金斯学会：美国可通过解决偏见问题来改善其人工智能治理战略」

2022年5月17日，布鲁金斯学会(Brookings Institution)发布其技术创新中心主任尼科尔·特纳·李(Nicol Turner Lee)以及技术创新中心研究助理Samantha Lai 所撰写的《美国可通过解决网上的偏见来改善其人工智能治理战略(The U.S. can improve its AI governance strategy by addressing online biases)》。作者指出，美国一直在努力编纂其国家人工智能倡议，该倡议侧重于六个战略支柱，分别为改善人工智能创新，推进可信的人工智能，通过人工智能创造新的教育和培训机会，通过新技术改善现有基础设施，促进联邦和私营部门利用人工智能改善现有系统以及打造有助于人工智能进一步发展的国际环境。美国商务部和美国国家标准与技术研究所于今年4月宣布了首届国家人工智能咨询委员会(National Artificial Intelligence Advisory Committee, NAIAC)的成员，该委员会将负责就如何开展国家人工智能治理工作向拜登政府提供建议。NAIAC于2022年5月4日召开了首次会议，讨论了人工智能的使用和监督问题。作者认为，国家人工智能倡议和NAIAC的建立都将有助于美国进一步建立关于人工智能的国家规范。此外，作者还指出，打造人工智能国家规范，需重点关注弱势群体受到的差别待遇。如果美国将这种考虑排除在国家治理的讨论之外，那么这种历史性和系统性的不平等将长期存在，且会限制人工智能创新，影响金融服务、招聘、刑事司法、医疗保健、教育等领域的包容性，并削弱公平和公正等民主价值观。作者还指出，虽然NAIAC在收集各利益相关者的意愿方面发挥关键作用，但是获得更具包容性和受影响群体的意见对制定和执行更具弹性的治理方法十分关键。作者基于布鲁金斯学会在此方面的研究，提出了有助于帮助美国解决偏见问题，保护弱势群体利益，促进打造具有包容性、负责任的和可信赖的人工智能系统的建议。

作者表示，首先必须界定何为人工智能偏见，美国需要对人工智能及其可能产生的相关问题有一个共同的理解。与欧盟的定义相比，美国国家人工智能倡议对值得信赖的人工智能定义显得更为宽泛和笼统，而欧盟则是根据实际风险程度对人工智能进行了定位，将人工智能的使用分为了三个不同的等级。经济合作与发展组织和其他国际机构对可信人工智能的定义则重点考虑了公民权利和人权。作者还指出，与美国相比，国际实体对偏见的定义采取了更积极主动的方式，以确保对所处理的伤害有一些共同的共识。此外，尽管美国已经采取了一些缓解人工智能歧视问题的举措，例如拜登政府将公平作为国家人工智能倡议的重点，并发布行政命令指示美国国防部投资于有助于促进多样化的人工智能项目，但作者认为美国还可以采取更多解决人工智能歧视问题的举措。

作者还指出，如果联邦政府在识别偏见和解决该问题方面出现问题，将会削弱人们对自主系统功效的信任，特别是对于其日常生活越来越依赖自主系统的公民。作者提出了7个因人工智能歧视问题而引起关注的领域。美国在住房和贷款方面存在的种族不公平性现象已由来已久，房屋评估和贷款审批中的偏见对该领域相关系统的运用仍构成挑战，已有自动抵押贷款系统被发现向黑人和西班牙裔借款人收取明显较高的抵押贷款价格。在招聘领域，如今，越来越多的公司正在使用人工智能来降低其运营成本，提高招聘效率。然而，这些系统并没有脱离实体工作场所中存在的性别差异和人种差异，已有招聘算法被证明对白人群体更为有利。在刑事司法领域，有偏见的歧视性法律的历史加强了刑事司法系统中的种族主义，该系统对低收入者和有色人种的政策和监禁比例过高。而在这一领域引入人工智能，只是在系统内创造了一个新的不公正的实施者。由司法部创建的PATTERN算法被用来预测累犯和缩短基于良好行为的刑事判决，然而该算法已被证明对有色人种存在偏见。这种风险评估工具在刑事司法系统中得到了广泛使用，但在几乎没有监督的情况下加剧了司法系统内现有的偏见。人工智能在医疗保健领域的使用也被证明会加剧社会不平等，例如，一种被用于确定移植名单安排的算法已被证实其种族系数使黑人患者在名单上的位置低于白人患者，尽管美国黑人患肾衰竭的可能性明显高于美国白人。作者表示，事关生死的问题任由有偏见的技术摆布，令有色人种面临的现有健康不平等现象更加恶化。人工智能在金融系统中的使用，也使偏见进一步延续。一些金融科技公司的算法延续了传统贷款模式中存在的偏见问题。另一个问题是信用隐形，4400万美国人因与主流金融服务脱节，而没有信用记录。由于缺乏数据，金融科技无法评估这些人群的未来借贷或信贷行为，导致他们仍然受到美国财富差距的困扰。在政治虚假信息方面，无节制的数据收集，加上人工智能在社交媒体算法中的使用，使得不良行为者能够针对边缘化群体传播虚假信息。政治虚假信息威胁着少数种族的公民权利，为他们充分参与美国的民主制度设置了障碍。许多关于人工智能的用例都依赖于人脸检测和面部识别技术，在对不同主体进行识别和分类时，这些技术存在着技术缺陷。例如，由于使用不准确的面部识别技术而导致了多次错误的逮捕。此外，还存在另外两个加剧人工智能偏见的关键因素，即数据质量和劳动力多样性。现有的数据记录了历史上边缘化社区遭受不公正待遇的情况。当这些历史遗留问题被纳入现有的数据集并显示在机器学习算法中后，其所自带的弊端也被继续延续下来。人工智能劳动力的多样也是值得关注的问题。缺乏多样性意味着机器学习算法和其他自主系统的开发会缺乏必要的生活经验，从而无法避免不良的数据处理，以及创造更好的产品或服务。

作者表示，人工智能偏见的深度和广度迫使联邦政府需要有原则的指导和解决方案。如果没有一个框架来主动解决这些国内挑战，数字竞争力就不能在美国充分实现。为了，解决上述问题，NAIAC已成立了一个关于人工智能和执法的小组委员会，负责调查偏见和数据安全问题。此举表明美国政府致力于构建以人为本的人工智能，并打击人工智能系统中常见的现有偏见。为了更好地设计和执行国家人工智能治理战略，作者还提出了几条建议。作者指出，美国需要对现有的民权制度进行更新，以确定人工智能治理的可解释性。美国还应识别并确定具体的使用案例，以提出更严格的监督和监管的建议。在考虑人工智能风险时，重要的是概述和明确哪些用例需要进行严格的监督和监管。此外，人工智能治理应该民主化，因此，应允许技术专家以外的人参与。对此，美国必须深化其对人工智能治理的参与性方法，鼓励公众投入、行业最佳实践和进行消费者披露。鉴于，人工智能偏见中的许多令人震惊的现象来自于现有的系统性不平等，且这些不平等植根于种族主义。虽然开发者团队的多样化、对数据偏见的审查以及广泛的消费者投入都将有助于在人工智能设计和执行中实现公平竞争。美国应该考虑并采用反种族主义的方法来处理人工智能系统中的偏见与歧视。

尼科尔·特纳·李(Nicol Turner Lee)：布鲁金斯学会技术创新中心主任、治理研究方向高级研究员

Samantha Lai：布鲁金斯学会技术创新中心研究助理

原文链接：

https://www.brookings.edu/blog/techtank/2022/05/17/the-u-s-can-improve-its-ai-governance-strategy-by-addressing-online-biases/