北京时间2021年3月2日凌晨一点，美国人工智能国家安全委员会召开委员会线上会议，发布了最终版本的研究报告。该报告就在人工智能时代保卫美国国家安全、美国如何在人工智能激烈竞争的时代赢得竞争，维持全球领导地位等展开了一系列论述，并在报告最后详细阐述了联邦各机构今后改革的行动路线。报告指出，自第二次世界大战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果当前的趋势不改变，中国就拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。报告认为，为维护国家安全和提升国防能力，美国必须迅速而负责任地使用人工智能，为抵御这些威胁做好准备；中国有组织、有资源、有决心赢得这场人工智能竞争，尽管美国目前在关键领域保持优势，但趋势令人担忧。尽管激烈的竞争反应因深厚的学术和商业联系而变得复杂，但美国必须尽其所能保持其创新领导地位和全球地位，必须接受人工智能的竞争，并通过协调和调整美国的优势来组织赢得竞争。报告得出结论，要求美国应投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿，人工智能将改变世界，美国发挥必须带头作用。
我们对本次最终报告前言、摘要、结论进行了编译整理，以供大家参考，需要注意的是，从摘要来看，最终版本报告与报告草稿相比变化巨大，说明该委员会审议草稿报告过程中产生了一些观点或表述的变化；但从主报告整体结构来看，最终报告与草稿报告的主要章节结构一致，并在报告最后增加了详细的行动路线图。该报告系统、详细总结梳理了美国人工智能发展面临的问题、给出了十分详细的未来发展改革方向，是近几年研究美国人工智能极为重要的报告，极具参考价值，值得学习借鉴。
一、前 言
美国国家人工智能安全委员会（NSCAI）的任务是向总统和国会提出建议，以“推进人工智能、机器学习发展以全面解决美国国家安全和国防需求的相关技术。”在设立本委员会时，2019财年约翰·S·麦凯恩国防授权法案第1051节指示NSCAI从国家竞争力的角度审视人工智能及其维持技术优势的手段、国际合作和竞争力的趋势、促进基础和先进研究投资的方式、劳动力和培训、军事使用的潜在风险、伦理问题、建立数据标准和激励数据共享，以及人工智能的未来发展等方方面面。
人工智能国家安全委员会的15名委员由国会和行政部门提名，他们代表了一个由技术人员、企业高管、学术领袖和国家安全专业人员组成的多元化群体。所有委员以两党合作的方式处理了所有问题，并就最终报告达成了共识。委员会的运作遵循两项原则：行动的必要性和透明度的重要性。
行 动
该委员会的工作包括2019年7月的初版报告、2019年11月和2020年10月的两份中期报告、两份额外的季度备忘录、一系列针对COVID-19大流行的特别文件，以及现在的最终报告。当我们在2019年春季开始工作时，等待在最终报告中提出建议不是一种选择。在一个时间点评估像人工智能这样的动态技术对国家安全的广泛影响就像试图在瓶子里捕捉闪电。科学家们不断地实现人工智能的突破，商业部门也在寻找新的方法来加速人工智能的应用。世界各地的竞争对手正在开发人工智能战略和投资资源。该委员会不断地提出建议，旨在配合人工智能发展的速度以及行政部门和国会在决定做什么时寻求帮助的愿望。国会已经通过了我们在2021财年国防授权法案中的一些建议，行政部门也采纳了这些建议。我们一直在努力向广大的利益相关者学习和教育，以便就人工智能将如何影响国家安全达成共识。
透明度
NSCAI一直致力于提高透明度。作为一个联邦咨询委员会，它已经举行了五次公开的全体会议，总计约15个小时的审议和在线直播，并在NSCAI网站上存档了所有会议记录。本委员会回应了二十多项《信息自由法》的要求，发布了2500多页的材料，前期已发布了700多页的草稿材料供公众审阅和评论。除了出于国家安全原因而保密的材料和问题外，委员会努力提供充分的透明度，每一次全体会议、季度报告和向国会提交报告之后都积极主动地与媒体接触。在几十个独立的项目中，我们与非政府组织、联邦政府组织和国际组织合作，向媒体和公众传达我们的建议。
最重要的是，我们在公共场合处理了人工智能最棘手的问题，并在咨询了广泛的民间组织、私营部门和政府团体后才提出了建议。我们试着去倾听和理解关于人工智能极其复杂方面的各种观点，聘请了伦理学家、技术专家和国家安全战略家，并已经和军队战士、外交官、学者、企业家等进行了沟通交流。总的来说，委员和工作人员参加了数百次讨论。当委员们就建议达成共识时，我们谨慎而谦虚地处理问题。
最终报告
最终报告提出了NSCAI的建议，作为赢得人工智能时代的战略，主报告的16章提供了主要建议。随附的行动蓝图概述了各部门和机构可采取的具体步骤，以执行NSCAI的建议。本委员会提供了尽可能多的具体内容，包括提供立法文本草案和行政命令，以帮助总统和国会迅速从理解人工智能转向为美国人民的利益而开展行动。最终报告是一个重要的步骤，但它不是NSCAI的最后动作。在委员会的剩余任期内，我们的工作将集中于执行该报告的内容，以帮助总统和国会开展投资，并提供各种建议，以赢得人工智能时代。
二、执行摘要
目前，没有任何令人满意的历史参考文献能帮助获取人工智能对国家安全的影响。人工智能的技术突破不像蝙蝠翼隐形轰炸机那样是单一的技术突破，人工智能全球领导地位的竞争也不像太空登月竞赛一般。人工智能甚至比不上电这样的通用技术。然而，托马斯·爱迪生关于“电”对未来的影响也同样适用于人工智能的未来影响：“它是所有领域的基础……掌握着重组世界的秘密。”爱迪生的惊人评价或许源于他本人的谦逊，但他所发现的一切“与未来出现的诸多可能性相比实在微不足道”。美国国家人工智能安全委员会（NSCAI）谦虚地承认，人工智能及其未来应用尚存在很多有待发现的地方。尽管如此，我们当前对人工智能的了解也已足够多，因此可以从两个信念入手分析。
首先，计算机系统解决问题和执行任务的能力正迅速提高，某些情况下甚至超过了人类的能力，而这些任务原本需要人类智慧来完成，这一影响正改变世界。人工智能技术是近几代人获得的最强大工具，可以扩展知识、增加繁荣并丰富人类经验。人工智能是典型的“两用”技术，由于机器具备比人类更快、更准确地感知、评估和行动能力，因此它在任何民用或军事领域都代表着竞争优势。人工智能技术将成为公司和国家利用它们的巨大力量之源。
图 人工智能在重点领域的应用现状
图 人工智能作为各领域发明引擎推动其发展
第二，人工智能正扩大美国已经开始步入的脆弱期。自第二次世界大战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果当前的趋势不改变，中国就拥有未来十年内超越美国成为人工智能全球领导者的力量、人才和雄心。与此同时，人工智能正在加深网络攻击和诈骗活动所构成的威胁，俄罗斯、中国和其他国家正利用这些活动渗透美国社会，窃取我们的数据，干涉我们的民主。迄今为止，人工智能攻击的有限使用只是冰山一角。与此同时，以新型冠状病毒（COVID-19）大流行和气候变化为代表的全球危机凸显了扩大国家安全概念的必要性，并找到了创新的人工智能解决方案。
鉴于上述信念，本委员会得出结论，美国现在必须采取行动部署人工智能系统，并在人工智能创新上投入更多资源，以保护其安全、促进其繁荣，并保障民主的未来。当前，美国政府并没有组织或投资来赢得与一个坚定的竞争对手的技术竞争，也没有准备好抵御人工智能带来的威胁，并为国家安全目的而迅速采用人工智能的相关应用。现在不是增加联邦研究预算或在五角大楼为硅谷技术人员增加几个新职位的时候，需要有一个更加高成本的、重大的观念转变。美国当前需要白宫的领导、内阁成员的行动以及国会两党的支持，才能够赢得人工智能竞争时代。
NSCAI的最终报告提出了一个整合的国家战略，以重组政府，调整国家定位，并团结美国最亲密的盟友和合作伙伴，以便能在即将到来的人工智能加速竞争和冲突时代开展冲突和竞争。这是一个两手准备的办法。第一部分——“在人工智能时代保卫美国”概述了利害关系，解释了美国必须做些什么来抵御与人工智能有关的各种威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和美国的利益。第二部分——“赢得技术竞争”阐述了人工智能竞争的关键要素，并建议政府必须采取行动促进人工智能创新，以提高国家竞争力和保护美国的关键优势。这些建议被设计成相互关联和相辅相成的行动，必须一起采取实施。
第一部分：在人工智能时代保卫美国
随着战略竞争对手开发用于军事和其他恶意用途的人工智能概念和技术，以及廉价和商业化的人工智能应用程序，人工智能增强能力将成为新时代冲突的首选工具。为维护国家安全和提升国防能力，美国必须迅速而负责任地使用人工智能，为抵御这些威胁做好准备，在自身未使用人工智能的情况下防御人工智能能力强的对手将是一场灾难。如果没有人工智能的帮助，人类操作员将无法跟上或防御人工智能的网络攻击或造谣欺诈、无人机群或导弹攻击机器等，因此国家安全专业人员必须拥有世界上最好的技术来保护自己，执行任务，并保卫公民。委员会建议政府采取下列行动：
防御新兴的人工智能对美国自由开放社会的威胁。各行各业对数字化的依赖正在将个人和商业弱点转化为潜在的国家安全弱点。对手正在使用人工智能系统来强化造谣欺诈活动和网络攻击，他们正在收集有关美国人的数据，建立其信仰、行为和生物构成的档案，以试图有针对性地操纵或胁迫相关人员。这场外国影响和干涉的风暴正在积聚，需要进行组织和政策改革，以增强我们的应变能力。政府需要成立一个特别工作组和全天候运营中心来对抗数字造谣欺骗，更好地保护自己的数据库，并在外国投资的筛选、供应链风险管理和国家数据保护立法方面优先考虑数据安全。政府应该利用人工智能网络防御来抵御人工智能网络攻击，生物安全必须成为国家安全政策的首要任务。
图 以速度和规模交付人工智能
为未来战争做准备。如果美军不加速在军事任务中采用人工智能，美军可能会在未来十年内丧失竞争性军事技术优势。这将需要自上而下地领导与自下而上的创新相结合，以将操作相关的人工智能应用程序落实到位。国防部应：
为2025年前人工智能的广泛整合奠定基础。包括建立一个共同的数字基础设施，发展一支有数字素养的员工队伍，建立更加灵活的采购、预算和监督流程，还需要从军事系统中战略性地剥离那些对人工智能作战装备不足的系统，转而投资于下一代能力。
到2025年实现军事人工智能就绪状态。五角大楼领导层现在必须采取行动，推动组织改革，设计创新的作战概念，建立人工智能和数字战备性能目标，并定义联合作战网络架构，国防部还必须扩大和集中其人工智能研发组合。准备就绪还需要促进与盟国和合作伙伴人工智能的互操作性。
图 国防部现在必须采取行动，将人工智能整合到关键功能、现有系统、演习和作战中，到2025年成为一支具备人工智能能力的部队
图 国防部AI RDT&E投资（按作战领域划分），2015-2025财年
管理与人工智能和自主武器相关的风险。人工智能将使武器系统的性能和自主性达到新的水平，但也引发了围绕使用致命武器的重要法律、伦理和战略问题。只要其使用得到人类指挥官或操作员的授权，经过适当设计和测试的自动武器系统就可以以符合国际人道主义法的方式使用。国防部应严格现有武器的审查和瞄准程序，包括其自主武器系统专用协议和对强人工智能道德原则的承诺，能够确保美国部署安全可靠的人工智能自主武器系统，并以合法方式使用这些系统。虽然在全球范围内禁止人工智能和自主武器系统既不可行，也不符合美国的利益，但在全球范围内不受限制地使用此类系统可能会增加冲突意外升级和不稳定危机的风险。为降低风险，美国应（1）明确公开确认美国现行政策，即只有人类才能授权使用核武器，并寻求俄罗斯和中国的类似承诺；（2）与竞争对手建立讨论人工智能对危机稳定的影响的场所；（3）为开发、测试和使用人工智能和自主武器系统制定国际实践标准。
转变国家情报。情报机构应在其工作的各个方面，从收集到分析，采用并整合人工智能支持的能力。情报部门将比任何其他国家安全任务更受益于人工智能，为利用人工智能，国家情报局局长办公室需要授权并为其科技领导人提供资源。整个集成电路应利用开放源码和公开信息进行分析，并优先收集科学和技术情报。为获得更好的洞察力，情报机构需要开发创新的人机合作方法，利用人工智能增强人类的判断力。
扩大政府数字人才的规模。国家安全机构现在需要更多的数字专家，否则他们将对购买、制造和使用人工智能及相关技术毫无准备。国防部和集成电路领域的人才短缺是2025年做好人工智能准备的最大障碍。政府需要新的人才渠道，包括一所美国数字服务学院来培训现有和未来的员工，需要一个民间的国家数字后备军来招募包括行业专家、学者和刚毕业的大学毕业生等具有适当技能的人，需要一个模仿陆军医疗队的数字兵团来组织已经在政府服务的技术人员。
对人工智能系统建立合理的信心。如果人工智能系统经常不能按设计的方式工作或无法预测，可就能会产生重大的负面后果，那么领导人就不会采用这些系统，运营商就不会使用这些系统，国会也不会资助这些系统，美国人民也不会支持这些系统。为了建立合理的信心，政府应该集中精力确保其人工智能系统的坚实、健壮和可靠，包括通过在人工智能安全方面的研发投资，以及通过国家研究实验室领导的持续倡议推进人工智能团队合作等。随着支持人工智能的系统在数量、范围和复杂性上的增长，还应该增强国防部的测试和评估能力。政府应任命负责人工智能的高级领导，以改善行政领导和政策监督。
为国家安全提出一个使用人工智能的民主模式。人工智能工具对美国情报、国土安全和执法机构至关重要。公众信任将取决于合理的保证，即政府使用人工智能将尊重隐私、公民自由和公民权利。政府必须赢得这种信任，并确保其对人工智能工具的使用是有效、合法和合法的，这就迫切需要开发人工智能工具来加强监督和审计，提高人工智能使用的公共透明度，并建立人工智能系统来推进隐私保护和公平的目标。它还要求确保那些受到涉及人工智能的政府行动影响的人能够寻求补救并拥有适当的程序。政府应加强监督和治理机制，并成立一个特别工作组，对人工智能和隐私、公民自由和公民权利不断变化的关注进行评估。
第二部分：赢得技术竞争
研究、开发和部署人工智能及相关技术的竞赛正在加剧技术竞争，这是更广泛战略竞争的基础。中国有组织、有资源、有决心赢得这场人工智能竞争，尽管美国目前在关键领域保持优势，但趋势令人担忧。尽管激烈的竞争反应因深厚的学术和商业联系而变得复杂，但美国必须尽其所能保持其创新领导地位和全球地位。美国政府必须接受人工智能的竞争，并通过协调和调整美国的优势来组织赢得竞争。
以白宫为领导的技术竞争战略组织。美国必须将人工智能考虑从技术层面提升到战略层面。以人工智能为首的新兴技术如今支撑着我们的经济繁荣、安全和福利。白宫应该建立一个由副总统领导的新的技术竞争力委员会，综合考虑安全、经济和科学因素；制定一个全面的技术战略；并监督其实施。
赢得全球人才竞争。如果美国不在国内培养更多的潜在人才，不从国外招聘和留住更多现有人才，就有可能失去对稀缺人工智能专业知识的全球竞争力。美国必须在这两个方面采取积极行动。国会应通过第二部国防教育法案，以解决美国教育体系中的不足，从K-12和就业再培训到在对人工智能未来至关重要的领域投资数千个本科生和研究生奖学金。同时，国会应推行一项针对高技能移民的综合移民战略，通过新的激励措施和签证、绿卡和工作移动性改革，鼓励更多人工智能人才在美国学习、工作和继续留在美国。
加快国内人工智能创新。政府必须对人工智能研发进行新的重大投资，并建立一个国家人工智能研究基础设施，使全国人工智能发展所需资源的获取更加民主化。政府应：（1）将人工智能研发的非国防经费每年翻一番，到2026年达到每年320亿美元，建立国家技术基金会，使国家人工智能研究机构数量翻一番；（2）建立由云计算资源、试验台、大规模开放训练数据等组成的国家人工智能研究基础设施，以及一个开放的知识网络，该网络将扩大人工智能的使用范围，并支持科学和工程新领域的实验；（3）通过为人工智能创造市场和形成区域创新集群网络，增强商业竞争力。
图 增强型人工智能研发投资，2015-2030财年
实施全面的知识产权政策和制度。美国必须承认知识产权政策是维护美国在人工智能和新兴技术领域领导地位的国家安全重点。鉴于正在中国努力利用知识产权政策，知识产权政策这一点正变得尤为重要。美国缺乏人工智能时代所需的全面知识产权政策，并且受到当前美国专利资格和可专利性理论中法律不确定性的阻碍。美国政府需要一个改革知识产权政策和制度的计划，以促进国家安全的优先事项。
为微电子设计和制造建立一个有弹性的国内基地。在引领微电子行业几十年之后，美国现在几乎完全依赖外国资源来生产尖端半导体，这些半导体为所有对国防系统和其他一切至关重要的人工智能算法提供动力。简而言之：如果政府不采取一致行动，美国先进芯片的供应链将面临风险。尽管重建国内芯片制造业成本高昂，但现在是时候采取相关行动了，美国应致力于一项战略，在最先进的微电子技术方面至少领先中国两代，并承诺提供资金和奖励，以保持美国具备多个尖端微电子制造的来源，保证供应链安全。
保护美国的技术优势。随着美国技术优势的差距缩小，外国获取美国技术诀窍和两用技术的努力增加，美国必须重新审视如何最好地保护那些思想和技术创新没有过度阻碍的公司。美国必须：
实现出口管制和外国投资甄别的现代化，以更好地保护关键的两用技术，包括建设监管能力和全面实施最近的立法改革，与盟国协调对先进半导体制造设备实施出口管制，以及扩大对竞争对手国家投资者的披露要求。
通过向政府机构、执法部门和研究机构提供工具和资源进行细致的风险评估，并分享有关具体威胁和战术的信息，与盟国和合作伙伴协调研究保护工作，将美国研究企业作为国家资产加以保护，加强对研究机构的网络安全支持，加强签证审查以限制有问题的研究合作。
建立良好的国际技术秩序。美国必须与盟国和伙伴携手合作，促进利用新兴技术加强民主规范和价值观，协调政策和投资，推动全球采用数字基础设施和技术，捍卫国际技术标准的完整性，合作推进人工智能创新，分享实践和资源，防止恶意使用技术和专制国家在民主社会中的影响。美国应该领导一个新兴技术联盟来实现这些目标，并建立一个全球多边人工智能研究所，以提高美国作为新兴技术全球研究中心的地位。国务院应该重新定位、重组，并提供资源，以领导新兴技术领域的外交。
图 人工智能联盟与伙伴关系
赢得相关技术竞赛。在人工智能领域的领导地位是必要的，但对于美国的整体技术领导地位来说还不够。人工智能是新兴技术的核心，它使一些技术成为可能，而另一些技术则被其他技术所激活。因此，美国必须制定一份单一、权威的技术清单，以支撑21世纪的国家竞争力，并采取大胆的行动，推动美国在人工智能、微电子、生物技术、量子计算、5G、机器人和自主系统、增材制造业，以及储能技术的发展。美国在这些技术上的领先地位需要在特定的平台上进行投资，以实现转型突破，并在每个领域建立充满活力的国内制造业生态系统。与此同时，政府还需要不断地确定和优先考虑未来的新兴技术。
三、报告结论
这个新的竞争时代将改变我们所生活的世界和我们的生活方式。我们既可以塑造即将到来的变化，也可以被其所席卷、改变。我们必须知道，人工智能在生活各个方面的应用将不断增长，创新的步伐将不断加快，对手决心让人工智能能力对美国造成不利影响，中国正决心在人工智能领域超越我们。人工智能的进步是建立在自身发展基础上的，并赋予了重要的先发优势。现在美国必须采取行动，美国所确立的原则，进行的联邦投资，在国家安全领域培育的应用，重新设计的组织，建立的联盟和伙伴关系以及培养的人才等，都将决定美国的战略方向。美国应该投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由人民和自由社会，并为全人类的利益推进科学前沿。人工智能将改变世界，美国发挥必须带头作用！
四、主报告目录
第一部分：在人工智能时代保卫美国
第1章：人工智能时代的新兴威胁
第2章：未来防御的基础
第3章：人工智能与战争
第4章：自主武器系统和与人工智能作战的相关风险
第5章：人工智能与国家情报的未来
第6章：政府的技术人才
第7章：在人工智能系统中构建合理的信任
第8章：维护民主价值观：用人工智能促进国家安全的隐私、公民自由和公民权利
第二部分：赢得技术竞争
第9章：竞争与合作的战略
第10章：人才竞争
第11章：加速人工智能创新
第12章：知识产权
第13章：微电子
第14章：技术保护
第15章：有利的国际技术秩序
第16章：相关技术行动蓝图
附录
五、行动蓝图目录
第一部分
第1章：人工智能时代的新兴威胁打击人工智能支持的恶意信息操作准备人工智能支持的网络冲突
第2章：未来防御的基础
第3章：人工智能与战争
第5章：人工智能与国家情报的未来
第6章：政府技术人才
第7章：在人工智能系统中建立合理的信心
第8章：维护民主价值观：隐私，公民自由和公民权利在使用人工智能的国家安全
以下行动蓝图涵盖了NSCAI最终报告的第一部分。第一部分“在人工智能时代保卫美国”（第1-8章）概述了美国必须做些什么来抵御来自国家和非国家行为者的人工智能相关威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和我们的利益。这些行动蓝图补充了委员会的最后报告，反映了委员会的组织结构。行动蓝图为行政和立法部门保留美国人工智能领导地位的行动提供了更详细的路线图。他们确定谁应该采取特定的行动：国会，白宫，或行政部门或机构。委员会作为其建议的一部分，提供了经费或批款的估计增加额。所有包括供资数字的建议都应视为估计数，供国会和/或行政部门审议。
本报告不包含第四章的单独行动蓝图。这是因为鉴于这一专题的重要性，委员会选择在本章中详细阐述其论点、建议以及直接执行这些建议所需的具体行动。此外，关于美国应如何调整其TEVV政策以保持对人工智能系统的信心的更多细节，见第7章及其相关行动蓝图，关于国防部组织结构相关变化的建议，见第3章。
第二部分
第9章：竞争与合作战略
第9章附件：竞争与合作战略
第10章：人才竞争
第11章：加速人工智能创新
第12章：知识产权
第13章：微电子
第13章附件：微电子战略行政命令
第14章：技术保护
第14章附件：技术保护
第15章：有利的国际技术秩序
第15章附件：有利的国际技术秩序
第16章：相关技术
以下行动蓝图涵盖了NSCAI最终报告的第二部分。第二部分，“赢得技术竞争”（第9-16章），概述了人工智能在更广泛的技术竞争中的作用，并建议政府必须采取行动促进人工智能创新，以提高国家竞争力的各个方面，保护美国的关键优势。这些行动蓝图补充了委员会的最后报告，反映了委员会的组织结构。在委员会最终报告中建议的基础上，行动蓝图为行政和立法部门保留美国人工智能领导地位的行动提供了更详细的路线图。行动蓝图确定了谁应该采取特定行动——国会、白宫或行政部门或机构。委员会作为其建议的一部分，提供了经费或批款的估计增加额。所有包括供资数字的建议都应视为估计数，供国会和/或行政部门审议。
