网络安全动态 ·

兰德报告《保持人工智能和机器学习的竞争优势》全文翻译

人工智能(AI)技术具有成为未来武装冲突中关键力量倍增器的潜力。中国已经将AI确定为“增强国家竞争力和保护国家安全”的关键,并提出了代表整个社会方法论的国家AI计划。AI被解释为使用机器学习(ML)技术来解决各种应用领域中的问题,从而产生多种能力。在此背景下,确定了需要整个政府关注的AI和ML方面,以加速美国的投资和实施,以及支持美国商业、学术、政府AI和ML增长、保护的投资及后续政策。我们的出发点是评估当前中美AI和ML的策略、投资水平,以及影响两国AI发展和采用的结构、系统和实施方面的差异。

关键词:人工智能;竞争态势;国防部署和研发重点;策略建议

内容目录

1 引 言

1.1 研究问题

1.2 方法论

2 比较中美人工智能生态系统

2.1 国家人工智能策略

2.1.1 中国的国家人工智能战略

2.1.1.1 领导力与目标

2.1.1.2 机制、方法、资源

2.1.2 美国国家人工智能战略

2.1.2.1 领导力与目标

2.1.2.2 机制、方法、资源

2.1.3 文化和结构因素

2.1.4 文化因素:中国

2.1.5 文化因素:美国

2.1.5.1 历史、传统与意识形态

2.1.5.2 社会、政治、军事、研究和商业

2.1.6 结构性因素:美国

2.2 底线:该如何进行比较?

2.2.1 比较国家AI计划

2.2.2 比较文化

2.2.3 小结

3 建 议

3.1 竞争轴心

3.1.1 为什么是竞争轴心

3.1.2 我们如何评估当前的AI平衡?

3.2 管理期望

3.3 在国防部控制下建立工程管道

3.4 创建和定制人工智能技术的验证、确认、测试和评估技术

3.4.1 验证和确认建议

3.4.2 新的测试和评估技术

3.5 为采用AI技术的新运营概念创建开发、测试和评估流程

3.5.1 作战模拟和作战概念

3.5.2 集成到多域操作中

3.5.3 用于多域作战的一些基于人工智能的空军战术概念

3.5.4 通过野外练习测试新概念

4 结论与未来研究

4.1 结 论

4.2 未来研究

01. 引言

人工智能(AI)技术具有成为未来武装冲突中关键力量倍增器的潜力。实际上,中国已经将AI确定为“增强国家竞争力和保护国家安全”的关键,并提出了代表整个社会方法论的国家AI计划,该计划得到了大量投资的支持。该计划以一系列里程碑式的目标为指导,旨在到2030年将中国定位为全球AI创新的主要中心。如果该计划获得成功,那么中国将在美国及其盟国之上获得巨大的军事优势,对美国产生重大的战略负面影响。随着《2017年国家安全战略》和《2018年国防战略》将中国确定为强大的竞争者,并且鉴于北京对AI技术的关注,美国拥有多少领先优势,美国和美国空军(USAF)需要做些什么来保持领先地位?

我们的目标是帮助美国政府,特别是美国国防部(DoD)和美国空军,就推进AI和机器学习(ML)技术的活动、态势和能力发展以及如何应对中国积极追求这些技术所带来的挑战提供信息。在本报告中,AI指的是使用ML技术来解决各种应用领域中的问题,从而产生多种能力,如计算机视觉、自然语言处理、决策支持、指挥和控制。ML是计算机科学领域,涉及使用基于统计和数学优化的大量且不断发展的技术来创建从海量数据集中“学习”的程序。为了方便起见,在本报告中,将同时使用AI来指代人工智能和机器学习。

在此背景下,在本报告中,我们确定了需要政府全面关注的AI方面,以加速美国的投资和实施,以及支持和保护美国商业、学术和政府部门AI增长的投资和政策。美国空军的目标是获得一个实质性的军事AI优势,超过它的中国对手。我们首先评估中国和美国目前的AI战略、投资水平,以及影响两国AI发展和采用的结构、系统和实施差异。然后,我们将继续研究美国和中国目前在AI研究与开发方面的差异对军事的影响。

将AI的进步转化为军事能力需要利用基础研究和商业工业的进步,将其过渡到军事,评估其有效性和适用性,更新现有的作战概念或开发新的作战概念,以利用新的能力。因此,我们从五个主要方面评估了中美AI和ML竞争的潜力:突破性的基础研究;民用工业的进步;AI向军事过渡的开发和工程;验证、测试和评估方法的进展;以及作战概念的发展。

我们的评估是,截至2020年初,美国在AI技术开发方面领先于中国。这主要是因为美国在先进的半导体设计和制造领域比中国具有实质性优势。目前,美国的半导体产业比中国的产业更强大,更先进。强大的半导体产业是良好、扎实的AI研究的重要基础。中国正试图通过政府对中国半导体行业的大规模投资来削弱这一优势。此外,中国半导体行业还有一个额外的优势,即靠近巨大的中国市场。由于美国同时缺乏实质性的产业政策,这种情况进一步恶化。话虽如此,半导体设计和制造是独特的困难过程。目前,中国企业继续依赖美国的设计,在这方面落后于韩国的制造业。中国试图通过投资新型芯片和计算机来寻找一条通向优势的捷径,这可能会产生一些成果,但美国和欧洲的公司也在积极探索新的计算技术。与美国相比,中国在大数据集领域具有优势,而大数据集对于开发ML应用程序至关重要。此外,中国人口大约是美国人口的四倍,因此中国科技公司有一个固有的更大的潜在数据库可供利用。至于哪个国家在风险资本融资或政府融资方面有优势,则很难说。但总体而言,我们认为,中国在数据量方面的优势不足以战胜美国在半导体领域的优势。根据我们的研究,我们判断美国目前在AI方面似乎领先中国。但这种判断并没有让人沾沾自喜的余地。

重要的是,美国国防部(DoD)的领导层要记住,国防部在智能化系统、武器和作战概念方面保持领先于中国军队的长期前景,取决于美国能否在国家层面上保持在AI领域对中国的优势。因此,作为一个机构,美国空军应该尽其所能为美国在国家层面上的整体努力做出贡献,以保持美国在AI领域的世界领先地位。例如,一个很有希望的选择是美国空军通过明智地授予空军合同,为私营部门有前途的两用AI研究项目提供资金支持。另一个选择是美国空军与国防高级研究计划局合作,共同赞助和资助有前景的学术AI研究,这些研究将在商业领域产生广泛的附带效应。然而,为了保持竞争优势,空军应将其大部分AI资源用于其直接控制的领域:将AI转变为军事的开发和工程、VVT&E(验证、确认、测试和评估)的进步以及作战概念的开发。

即使不是不可能,也很难就哪个国家在AI方面处于领先地位以及仅使用开放源代码得出的趋势做出明确的声明。事实上,可能没有一条线索。将AI分解为组成部分并讨论AI生态系统的各个部分更为有用。我们需要的某些数据尚未公开,而其他一些数据(如文化评估和机构重点评估)则不适合进行定量评估。因此,寻求一个总体指标来确定谁在AI生态系统中处于领先地位将是具有挑战性和值得怀疑的。总的来说,我们的数据收集和分析使我们初步得出结论,美国在AI的一些关键领域领先,尽管中国在这个问题上有几个优势和高度的领导重视。这一评估意味着,美国几乎没有犯错的余地,需要将注意力和资源集中在确保中国没有发挥实质性的领导作用上。AI似乎不仅是支撑美国国家实力的商业经济的关键技术,也包括军事应用,尤其是航空航天领域。

我们确定,从国防部的角度来看,突破性的基础研究并不是比较美中相对竞争力的关键因素。不论是美国、中国还是中美合作,都可以进行基础研究。研究结果在可公开查阅的国际会议上发表,或在可公开查阅的国际期刊上发表。商业产业也不是竞争比较的关键因素。尽管如此,中国和美国企业直到最近还通过商业和研究伙伴关系相互纠缠,但由于北京和华盛顿政府的决策和政策,中国和美国正处于经济和技术脱钩的过程中。

今天,在美国和中国设有公司总部的行业具有全球视野。他们寻求在市场的任何地方提供产品和服务,无论是在美国、中国还是在世界其他任何地方。也就是说,政府政策引导、限制和干扰了每个国家的公司决策。

综上所述,我们发现国防部竞争比较的关键方面是促进AI向军事过渡的开发和工程设计,在VVT&E方面取得进展,以及开发AI的作战概念。值得注意的是,每一个维度都受到国防部的直接控制。

为了保持竞争优势,我们建议国防部:

(1)通过制定和维护前瞻性AI路线图来管理预期,突出国防部AI在近、中、远三个阶段的实际目标。

(2)在国防部控制下创建一个工程管道。

(3)为AI技术创建和定制VVT&E技术。

(4)为采用AI的新作战概念创建开发、测试和评估过程。

1.1 研究问题

这项研究旨在解决以下四个主要问题:

(1)美国和中国的AI国家战略如何比较?

(2)文化和结构因素的哪些主要差异会影响中美AI战略的实施?

(3)这些差异如何影响与美国空军相关的军事能力的发展?

(4)美国空军如何在军事相关的AI能力上建立竞争优势?

1.2 方法论

本报告的结论和建议来自对国家AI战略、文化和结构因素以及军事能力发展的比较分析。本文通过对英汉相关文献的考查,进行了对比分析。我们调查了五种不同的文献:美国和中国政府的AI规划文献、关于AI趋势和突破的学术科学技术文献、关于支持美国和中国AI发展的金融生态系统的商业文献、美国和中国关于比较文化分析的文献,以及当前AI技术发展对军事科学和作战概念的影响的文献。

为了评估空军如何在AI领域保持竞争优势,我们开发了一个简单的定性框架,以帮助确定美国空军在AI研究、开发和采购方面的活动分配。该框架评估了美国空军在AI研究、开发和采购过程的每个阶段应承担的努力水平。

02. 比较中美人工智能生态系统

2.1 国家人工智能策略

任何可行的国家战略都必须有明确的目标,有适当的资源,有适当的机制和方法,所有这些都要在有能力的领导下进行。

2.1.1 中国的国家人工智能战略

2.1.1.1 领导力与目标

中国的国家AI战略是在最高政治领导人习近平主席的授意下制定的。他将AI列为高度优先事项。最高领导层是中共政治局和国务院,而“统筹协调”则由国家科技体制改革和创新体系建设领导小组负责。中国AI战略的总体目标是通过三个步骤来创建和维护具有智能经济、智能社会和增强国防能力的国家AI技术系统:

·到 2020 年,中国将“与 AI 的世界领先者并驾齐驱”。

·到 2025 年,“中国将在AI基础理论上取得重大突破”。

·到2030 年,中国“应该达到世界领先水平”。

2.1.1.2 机制、方法、资源

该战略采用的几种不同方法:(1)国内 AI 研发工作;(2)与中国大学和国家研究机构合作;

(3)国际投资;(4)并购;(5)国内和国际科技人员招聘。该战略旨在利用广泛的资源,包括大量的消费者数据、慷慨的融资、充足的硬件、中国规模庞大的研发基础设施以及中国充满活力的商界。

2.1.2 美国国家人工智能战略

2.1.2.1 领导力与目标

2018年5月,白宫发布了一份情况介绍,概述了政府正在资助的高优先级AI计划。国家AI安全委员会成立于2019财年《国防授权法》。该委员会的目的和职责是“考虑促进 AI、ML和相关技术的发展以全面满足美国国家安全和国防需求的必要方法和手段”,更好地为国家配备解决安全需求的手段,包括经济风险、国防部需求以及委员会定义的其他安全风险。

情报界和国防部最近召集了商业部门的工业日,以阐明他们的独特需求和他们正在寻找的行业需要解决的技术差距。这两个团体都在全机构范围内努力将AI纳入他们的行动,并利用它获得战略优势。情报界拥有“借助机器增强情报”计划,而国防部拥有联合AI中心。

2018年9月,美国国防高级研究计划局(DARPA)宣布了一项耗资20亿美元的运动,以开发下一波 AI 技术,为20多个项目提供支持,这些项目正在探索促进AI技术的方法,将第二波AI技术推向情境推理能力水平。

2.1.2.2 机制、方法、资源

截至2020年初,网络、信息技术、研究与开发国家协调办公室协调联邦资助的许多信息技术计划领域的研发工作,包括智能机器人技术和自治系统。

2016年5月,奥巴马政府呼吁在政府中增加AI的使用,以改善服务,造福美国人民。公告明确建议联邦政府探索提高关键机构将AI应用于其任务的能力的方法。目前尚不清楚在唐纳德·特朗普的领导下,如何实施这些巴拉克·奥巴马时代的建议。虽然有人批评特朗普政府没有为AI发展提供足够的重点或资源,但特朗普总统确实在 2019 年初签署了一项行政命令,以刺激AI发展,许多政府机构也启动了自己的计划,开发新的AI应用程序。为了帮助维持美国在这一领域的优势,国防高级研究计划局正在实施一个名为“电子复兴倡议”的项目,该项目旨在开发新技术,使其能够被私营企业商业化。2018年,美国政府成立联合AI中心,预算和授权设立防御,设定规划限制,界定监督和道德界限。自2017年以来,美国国防部每年都会举办AI产业日,使私营企业和军方官员聚集在一起,让他们能够找出解决军事问题的新型AI解决方案。

DARPA的AI探索计划于2018年7月首次宣布,该计划包括一系列高风险,高回报的项目,研究人员将在获得资助的18个月内努力确定新AI概念的可行性。这项计划是国防高级研究计划局(DARPA)下一轮AI行动的关键组成部分,该计划将在新的和现有的项目上投入20多亿美元,旨在增强美国在AI方面的能力。此前,美国国家AI战略已在2016年10月由奥巴马政府国家科技委员会发布的《国家AI研发战略计划》中明确提出。2019年2月,特朗普政府发布了相当于自己的AI战略:13859号行政命令。美国政府对AI的关注程度相对较低,这与美国私人和学术界关注AI的巨大资源形成了鲜明对比。如果美国政府能够成功地利用这笔投资,那么保持美国技术优势的机会就大得多。

国防部对AI研发的支持可以追溯到20世纪50年代,纵观其历史,这种支持对AI领域的发展起到了至关重要的作用。然而,国防部的支持并不总是坚定的。它时起时落,与之相对应的是,由于对期望的管理不善,人们曾有过一段充满期待和兴奋的时期,随后又出现了一段巨大的幻灭期。兰德公司的研究员指出,“AI的历史充满了管理不当的期望和过早的炒作。我们应该小心不要重蹈覆辙”。国防部目前与AI有关的行动正危险地重蹈过去的覆辙。

2.1.3 文化和结构因素

在政治、军事、经济和科学领域,文化和结构都会影响社会和组织的进程和结果。一个国家的文化由其居民的行为模式、价值观、规范和信仰组成。它源于历史经验、传统和意识形态。组织也有自己独特的文化,特别是官僚机构和武装部队。同时,结构也包括组织和官僚机构各部分或要素之间的安排和关系。以下各小节分别概述了影响中国和美国国家AI战略实施过程和结果的文化和结构因素。

2.1.4 文化因素:中国

中国人有理由为自己是世界上最古老、最壮丽的文明之一的继承人而自豪,他们拥有一系列令人印象深刻的发明。尽管中国曾经是一个富裕、强大的国家,但近代以来,中国却经历了一段贫穷、软弱的历史。

尽管中国有多种哲学和宗教传统,但大多数学者倾向于强调儒学是一种特别有力和持久的哲学。儒教一直是中国特别有影响力的思想,它强调学术研究、美德和和谐的社会互动。

2.1.5 文化因素:美国

2.1.5.1 历史、传统与意识形态

尽管与中国相比,美国作为一个政治和文化实体的存在时间相对较短,但是经济和科技发展迅速。美国人说他们的国家是开放、平等和创新的。正如《独立宣言》和《宪法》等文件所体现的那样,大多数美国人对自己的政治体制和理想怀有崇高的敬意。尽管在华盛顿特区正在进行的党派争执以及全国各地持续的不平等现象使许多美国人幻灭,甚至使他们疏远,但大多数人仍坚持“美国梦”,这种信念认为辛勤工作和个人进取将得到回报。虽然美国人不会认为自己是有意识形态的,但如果这个词是指思维方式的话,那么美国确实拥有一种意识形态:一种乐观的信念,认为美国人生活在一个充满机遇的土地上,每一个问题都有解决办法。这种意识形态还包括对政治自由的信念,自由的企业制度,以及对技术将改善人民生活的信心。

2.1.5.2 社会、政治、军事、研究和商业

在美国的组织中,地位一般不那么重要, 等级制度更为平缓。美国军队是以任务为导向的,上级往往允许下属有相当大的主动权。在研发中,主动性和创新性受到重视,通常会得到回报,并且存在显著的职业和地域流动性。虽然美国企业竞争激烈,注重利润,但创新和潮流往往是科技行业看重的,而不是一个创意或产品能否大规模推广。根据比尔·盖茨的说法,微软的企业文化培养了一种氛围,在这种氛围中,创造性思维得以蓬勃发展,员工能充分发挥其潜能。我们的策略一直是雇佣强大的、有创造力的员工,并将责任和资源委托给他们,这样他们就能完成任务。

硅谷的文化是使命驱动的,专注于手头的任务。许多科技企业家强烈感觉到,政府的监管和合作与他们公司的风气背道而驰。科技公司通常非常不愿意与美国国家安全机构接触,因为这样做会带来隐私和政府干预的问题。

2.1.6 结构性因素:美国

美国政治体制的特点是权力在不同的政府部门之间扩散。两党制、三个不同的国民政府分支机构和50个自治州政府的存在,形成了一个制衡体系,使行政部门制定和执行国家一级的政策变得相当具有挑战性。

在研究机构、大学、国家实验室、国防承包商和国防部之间,存在着一个由联邦政府支持的制度化研发结构,它们之间有着长期的联系。冷战期间,为了国家安全,联邦政府对美国科学研究与发展界进行了大规模动员。前几代国防技术被剥离到商业技术部门,并在美国社会中无处不在。对于AI,情况正好相反:科技公司正在开创AI的研发先河,而美国政府则试图利用AI技术实现国家安全。

2.2 底线:该如何进行比较?

2.2.1 比较国家AI计划

中美两国都制定了极其雄心勃勃的战略,这些战略并不容易实现。在领导层的连续性和整个政权的做法方面,中国可能具有优势,这使得中国能够集中大量资源,集中精力,发挥政权在追求其认为的重大事业方面的优势。此外,每个国家都必须克服同样的两个艰巨挑战。第一个挑战是建立并维持各种政府官僚机构之间以及政府实体、商业行为体和学术界之间所需的协调水平。在利用其商业技术领域的活力方面,中国可能稍占优势,但在将AI技术应用于军事行动方面,美国可能具有优势。每个国家面临的第二个挑战是保持关注:AI技术易于分散注意力和转移注意力。关于AI的定义尚未达成共识,很难对AI进行具体说明。因此,AI往往被构想成非常抽象的术语,使得集中研究和衡量进展变得非常困难。这一挑战在中国可能是可以克服的,至少在优先考虑的AI领域。在美国的基础研究中,这可能是无法克服的。因为美国政府一直致力于“持续的基础研究工作”,这需要几十年的时间才能显现成果。

2.2.2 比较文化

总的来说,当谈到成功执行国家AI战略的可能性时,文化因素往往有利于美国。首先,在一个以结果为导向的社会中,实施AI战略要顺利得多。其次,从军事应用的易用性来看,AI更容易融入一种接受风险的军事文化中。第三,在科学家和技术研究人员中,美国的研发文化鼓励主动性和创新性。第四,美国系统有明确的验证、确认、测试和评估(VVT&E)流程。第五,美国的严格监控和财政监督文化意味着无论什么资金都不太可能被浪费。

对文化等定性概念的跨国比较充满争议。这种学术倾向于批评陈规定型和偏见。众所周知,文化是一个难以界定和衡量的概念。这使得比较文化尤其具有挑战性。然而,大多数学者都认为文化是影响个人行为的一个重要变量,无论是在政治、军事、商业还是科学研究中。个人受他们的经历和周围环境的影响。不仅个人的直接环境很重要,而且整个文化环境也极其重要。虽然微观环境不容忽视,但宏观环境可以说是一个越来越普遍的总体影响。这包括历史、传统和意识形态对民族文化的影响,这些文化是通过育儿和教育来灌输的。在中国,文化是一个关键因素,这一点被学术界广泛接受。

欧洲著名学者、国家跨文化比较问题顾问霍夫斯泰德(Geert Hofstede)的工作为我们对中美两国宏观文化差异的研究提供了一些有价值的见解,为我们的评估提供了支持。他的研究和结论,特别是他测量文化差异的定量方法,已经被证明是有用的,并与其他有关文化差异的研究相一致。霍夫斯泰德根据一家大型跨国技术公司对分布在各个国家的员工进行的研究, 开发了一个多层面的国家文化系统比较模型。这个模型从个人主义、权力距离、男子气概、避免不确定性、长期取向和放纵等方面比较了民族文化。这些术语中的大多数是不言自明的, 少数则不是。权力距离与社会上没有权力的成员接受不利于他们的文化中的权力失衡的程度有关。男子气概是指一个社会对使用武力的文化容忍程度。最后,放纵与一个社会对休闲活动和奢侈品消费的接受和促进有关。

霍夫斯泰德为美国和中国测量了六个变量。他分析发现,美国的个人主义远比中国强,美国在避免不确定性方面也略高。在纵容方面,美国在文化接受度方面远远领先于中国。最近对中国企业家的调查研究支持了霍夫斯泰德的分析。中国文化在权力距离和长期取向方面遥遥领先,而两国对武力使用的接受程度却非常接近。总的来说,这一切似乎加强了我们在这项研究中的定性文化分析。美国在个人主义方面的领先地位,以及美国文化不太容易接受现有的权力关系这一事实预示着美国在AI发展方面的未来,因为AI的成功将与那些几乎没有结构的自由经营的小公司相关联;初级雇员有权为高级管理人员带来新的想法;个人创业精神受到高度重视。美国在避免不确定性方面得分较高也是一个积极因素,这意味着在AI领域工作的美国工程师和科学家将更加致力于尽快解决问题。霍夫斯泰德的工作给美国带来的坏消息是,中国在长期取向方面的得分要高得多,这意味着中国人在AI竞赛中会着眼长远,可能会比美国更系统、更深入地对待这场竞赛。中国也很可能不会被美国在AI竞争中取得的任何早期领先优势所吓倒,而且很可能会继续进行这种竞争几十年,如果这是他们认为实现强大的全球强国地位的必要条件的话。

2.2.3 小结

科技创新在中国面临着重大的文化和结构障碍。尽管如此,最高政治领导层意识到其中的许多障碍,并正在努力通过几项正在进行的重大举措克服这些障碍。其中最重要的是习近平在 2015年发起的对中国国防系统的彻底组织改革。这项工作的首要目标是建立一个更精简的结构,使部队能够在信息化战争中进行联合战役,装备有中国研究、开发、测试、评估和建造的有效的高技术武器系统。

在当代中国,培育文化和打造创新蓬勃发展的结构仍然具有挑战性。在中国强大的风险投资技术行业之外,中国的文化和结构并不特别有利于技术创新。在中国境内或与海外华人建立一个或多个区域创新体系可能更为可行,合作努力将取得丰硕成果,重点将得到持续。

尽管美国的文化和结构对AI技术创新提出了挑战,但这些总体上构成了美国的优势。利用冷战期间建立起来的与国家安全相关的科学研发体系,如国家实验室网络,以及开发新的结构,以与尖端的商业AI部门合作,似乎是明智之举。

03. 建议

3.1 竞争轴心

将AI的进步转化为军事能力需要利用基础研究或商业工业的进步,将其转化为军事,评估其有效性和适用性,更新现有作战概念或开发新的作战概念,以利用新开发的能力。因此,我们评估了美中在AI领域的竞争潜力:突破性的基础研究、商业产业的进展、AI向军事过渡的开发和工程、VVT&E的进展以及作战概念的发展。

3.1.1 为什么是竞争轴心

我们的分析表明,突破性的基础研究不太可能成为美国与中国成功竞争的基础。事实上,基础研究成果主要由学术界和商业界推动;通常在公开文献中发表;因此,通常可在全世界范围内获得。此外,中国正越来越多地培养中外学者之间的合作渠道,包括与解放军有直接关系的中国科学家(图3.1),从而导致联合出版物的显著增加(图3.2)。最后,该领域的许多著名科学家似乎都与美国和中国有着密切的联系。

兰德报告《保持人工智能和机器学习的竞争优势》全文翻译 网络安全动态 第1张

图3.1 按共同发表的同行评审文章数量衡量,与中国科学家合作广泛的十大国家

兰德报告《保持人工智能和机器学习的竞争优势》全文翻译 网络安全动态 第2张

图3.2 中国科学家与海外科学家合著的同行评议文章

兰德报告《保持人工智能和机器学习的竞争优势》全文翻译 网络安全动态 第3张

商业产业的进步也不太可能成为美国与中国成功竞争的基础。事实上,由于中国工业和军事利益的紧密结合,加上中国有利的结构性因素,中国可能在这方面占据优势。此外,在2017年之前,美国和中国的投资已经变得越来越纠结,美国和中国对跨境创业公司的支持越来越多(表3.1)。此外,在不涉及实物出口的情况下,与基于AI的技术一样,技术转让在实践中极难控制。然而,不断升级的大国竞争导致了中美之间不断升级的经济和技术竞争。因此,自2016年以来,中国在美国的外国直接投资已从465亿美元大幅下降至54亿美元。与此同时,有关两国经济“脱钩”的言论甚嚣尘上。尽管这不太可能切断美中之间的所有经济联系,但很可能会对科技公司产生重大影响,并扰乱全球供应链。总之,美中 AI 投资纠结的趋势已经逆转。

3.1.2 我们如何评估当前的AI平衡?

因此,剩下的三个轴心是美国建立和保持竞争优势的潜在途径。此外,正如前两个AI寒冬(减少资金投入和对AI研究的兴趣的时期)所表明的那样,管理期望是确保技术稳定发展和有效采用的重要方面,尤其是在大肆宣传的情况下。接下来,我们从期望管理的关键问题开始,概述针对每个轴心的具体建议。

3.2 管理期望

现实的期望对于成功维持一个目标至关重要。对于像AI这样的技术来说,这是一个特别敏感的问题,因为AI是媒体严重夸大和不停报道的对象。艾伦AI研究所(Allen Institute of Artificial Intelligence)首席执行官、该领域的专家奥伦·埃齐奥尼(Oren Etzioni)最近警告说,“鉴于人们对深度学习的兴奋和投资,分析它并考虑它的局限性是很重要的。”对AI技术目前的能力和局限性缺乏清晰的认识,可能会导致任何将它们纳入有用系统的尝试失败。美国必须非常小心和谨慎,以确保这种情况不会发生,因为AI技术,除了所有的炒作之外,即使不是像媒体所描绘的科幻小说那样,还有很多东西可以提供,无论是今天还是将来。

为了帮助美国空军的AI工作能够实现并建立在坚实的基础上,我们建议制定一个前瞻性的AI路线图。我们进一步建议,路线图的创建和维护由空军于2018年成立的AI跨职能团队负责,该团队利用了美国空军所有主要司令部的专业知识,为其提供了一个平衡的视角,以实现不同时间段AI就业的现实目标。这个AI路线图应该按照三个阶段来组织:近期、中期和长期。路线图应:

·包含每个阶段可能实现的应用程序的详细和优先顺序列表。

·对于每个应用程序,确定操作需求。

·对于每个应用程序,提供过渡到运行的计划,包括测试和评估。

·对于每个应用程序,列出当前AI技术库中的不足之处,并开发这些技术,以便在开展计划时使其成熟。

·对于发现的每个不足之处,提出可能的方法,并解释其成功的原因。

·对于发现的每一个不足之处,请注意所需的研发,这可以作为征求建议书的依据。

·对于每个应用程序,提供总成本的粗略数量级估计,以使应用程序成熟。

AI路线图应该是动态的、生动的文档,必须随着空军作战要求和技术的发展而不断维护和修订。如果操作得当,路线图、空军作战需求和研发需求将协同工作。正如我们所设想的,路线图是一个动态的工具,它将阻止空军装备现代化和资本重组计划远远超过美国空军研发部门提供的应用程序增长速度。如果使用正确,路线图可以避免美国空军将宝贵的购置资金浪费在当前AI应用无法实现的概念上。

创建一个有效的AI路线图需要一个历史和技术的视角。加州大学伯克利分校计算机科学教授迈克尔乔丹(Michael Jordan)在人类模仿AI和智能增强之间作了重要区分,前者指的是“在软件和硬件上实现一个拥有人类水平智能的实体的强烈愿望”,后者指的是搜索引擎和自然语言翻译是智能增强的好例子。在过去的20年里,智能增强技术取得了显著的进步,开创了一个新的工程分支,其基础是“信息”“算法”“数据”“不确定性”“计算”“推理”等概念的发展,这与化学工程领域建立在物理和化学发展基础上的方式类似。

模仿人类的AI与作为工程学科的智能增强之间的区别将有助于将对AI的幻想讨论与智能增强的工程现实区分开来。特别是,它将帮助工程师将他们的努力建立在合理的、既定的原则上,这些原则要求仔细和冷静地检查什么是可行的,什么是不可行的,以及如何量化地验证、测试并将其纳入其他工程系统。这将有助于空军专注于进化进程,而不是期待突破性的革命。

普遍的看法是,我们目前正在经历AI研究的黄金时代。许多量化指标支持这种观点,包括AI出版物的增长、出席大型会议的人数以及AI的总体投资。然而,也有一些消极的趋势。事实上,AI的发展速度之快,尤其是深度学习,已经让许多人担心,AI可能会出现泡沫,因为增长与实际进度不符。AI研究在历史上经历了许多进展、资金和热情下降的时期。这些AI的寒冬必须通过清晰的视野来避免,而不是被媒体炒作所蒙蔽。

3.3 在国防部控制下建立工程管道

为了在AI开发和应用方面建立和保持竞争优势,美国空军和国防部需要大量训练有素的工程师。国防部工程师需要与国防部项目经理、操作员保持密切的合作:

(1)分析需求。

(2)开发用于AI作战概念的设计、测试和评估技术。

(3)专门设计国防部的AI系统。

(4)从实验室到现场进行国防部AI系统的VVT&E。

事实证明,建立和维持这样一支队伍是困难的,特别是考虑到私营部门提供的高薪和优越的设备。目前国防部的民用工程队伍是有才华的,但包含了相对较少的研究人员,他们精通AI开发所需的信息技术相关学科。但是,在未来五年内约有三分之一的国防部民用工程师将会退休。

虽然这个问题很严重,但美国空军和国防部可以采取措施,确保美国军方拥有保持AI研究和应用前沿所需的头脑。首先,国防部可以为工程师提供更灵活的职业道路,让他们有机会离开国防部实验室,然后回国而不必受到禁止性的惩罚;工资取决于绩效,而不仅仅是资历;还有机会继续进行研究,而不是被迫进入具有一定资历的管理层。国防部工程师可以获得更多的专业发展机会,有机会参加会议、发表论文,或许还可以从事内部资助的个人研究。最后,应该从军事建设预算中拨出更多的资金来更新许多国防部实验室中的陈旧和老化的实验室设备。

美国空军还可以采取措施,吸引更多的AI工程师加入其队伍。可以建立一个AI空军国民警卫队,以使职业生涯中期的AI研究人员有机会在国防部实验室兼职,并以与其经验相称的军衔入伍。AI后备军官训练计划也可以在主要的AI大学建立,如麻省理工学院或卡内基梅隆大学,以吸引接受军事研究训练的年轻工程师。那些参与这些项目的人应该获得AI工程专家的职业轨迹和奖金,以确保有足够数量的足够熟练的学生。最后,空军可以鼓励其专业军事教育机构的学生学习AI应用,这样,当他们晋升到领导职位时,他们将了解AI技术和能力,并能够在未来的指挥中有效地使用这些能力。

3.4 创建和定制人工智能技术的验证、确认、测试和评估技术

3.4.1 验证和确认建议

验证和确认是指两种不同的方法,通过检查AI系统是否符合其规范和实现其预期目的,来共同评估其质量。为了制定合理的验证和确认要求,考虑AI系统可能存在的不足可能是适当的。2016年的一篇论文调查了AI的安全性问题,将其置于五个研究问题的背景下,这些问题突出了设计过程中可能出错的不同点:

·避免副作用。AI系统可以一心一意地追求其目标,有时会在与之无关的其他领域造成问题。Amodei等人举了一个清洁机器人的例子,它会尽快地去清理,并在这个过程中把东西打翻。这些问题都可以通过细致的功能建设来解决。

·避免奖励黑客攻击。AI系统有时会找到捷径来实现其目标功能,从而产生无用或破坏性行为。例如,Amodei 等人指出,一个清洁机器人的目标是清除所有能看到的污垢,可以通过关闭传感器来实现这一目标。与避免副作用一样,这个问题可以通过正确定义目标函数来解决。

·可扩展的监督。尽管过于简单的目标函数可能会导致负面影响或奖励黑客行为,但过于复杂或评估时间太长的目标函数可能会使AI系统难以评估行动方案。回到假设的清洁系统,清洁机器人可能需要询问每个家庭成员地板上发现的任何物体,这是一个可扩展的监管问题。虽然这样做可以防止系统扔掉任何人的财产,但也有可能使清洁地板变得非常耗时。

·安全探索。由于AI系统是通过反复试验来学习的,因此应避免尝试进行非常危险的试验。对于Amodei等人的清洁机器人,这可能包括在试验新清洁技术时切勿在电气设备附近使用湿拖把的说明。

·对分布转移的鲁棒性:如果 AI 系统遇到的现实世界信息或环境与它所接受训练的数据或环境有显著不同,那么它的行为可能是次优的,甚至是破坏性的。为了说明这一点,Amodei 等人指出,一个受过清洁工厂地板训练的机器人可能会学会一些不明智的行为,比如在不是为这种工具而建的墙壁上使用压力垫圈。如果现实世界的环境可能与培训环境在统计上有所不同,那么设计师应该非常谨慎。

解决前两个问题属于验证范畴,而解决后三个问题则属于核查范畴。

AI系统的验证和确认虽然还处于初级阶段,但可能会借鉴其他领域的一些现有方法或实践,包括鲁棒控制和模型检查等。这不是一项微不足道的努力,而是需要在基础研究上进行投资,以便将多个社区聚集在一起,克服传统测试和评估方法在评估AI系统时遇到的困难。如果不考虑对基础研究的额外投资,以期从根本上改变设计范式,而是从一种将设计、验证和确认视为离散活动的范式,转变为在设计过程本身甚至是在生产系统中验证和确认因素的模式,那么这是失职的“设计正确”,即无需进一步验证或确认的系统。

3.4.2 新的测试和评估技术

一个有效的测试和评估系统对于给予美军人员充分发挥其AI系统潜力所需的信心至关重要。不幸的是,目前国防部的测试和评估系统并不能有效地证明自主系统的可靠性。基于机器学习的系统会随着时间的推移而改变其行为,以响应所吸取的经验教训,而目前国防部的测试和评估程序并不是为了处理这种紧急行为而设计的。国防部试验靶场的装备不足以代表自主平台将要运行的大规模复杂、开放、不可预测和对抗性环境。目前的政策分别考虑运营商和系统的绩效,而不是评估他们共同实现目标的能力。国防部的验证和确认主要集中在整个系统开发的最后阶段对整个系统进行广泛的审查,而不是在开发过程中对其组成部分进行评估。最后,当前的测试和评估过程严重依赖于先前平台的评估,这给没有前身的新型自主系统带来了问题。

尽管其中的一些问题,如试验靶场的改进,将很难解决,需要进行重大改革,但可以采取一些相对简单的步骤来提高国防部测试和评估系统在自主系统中建立信任的能力。根据当前软件开发过程的思路,一个重要的即时解决方案是在开发周期中将自主系统的大多数VVT&E 活动“向左”移动,以便验证和确认工作在定义和制定早期系统需求方面发挥更大的作用。由于自主控制软件是建立在多层代码和算法之上的,因此在开发过程的早期验证和确认软件的更基本的组件可以更有效地证明其整体可靠性,并且如果在基本组件中发现问题,则可以避免在开发的后期阶段进行代价高昂的修复。

尽管不应根据较早有人值班平台的标准来判断自治系统,但可以根据每个新软件迭代与之前已通过验证的版本之间的差异来评估每个新软件迭代,而无须每次进行冗长的审核过程。快速原型可以帮助建立对系统可靠性的信任,并缓解没有来自过去的自治系统的数据作为正在开发的新的突破性系统的基准的问题。作战模拟和仿真应该被用来测试新的战术或策略,尤其是在对抗AI的对手时。作战模拟和仿真还应用于测试和验证决策辅助工具的性能,特别是作战指挥算法或决策技术。最后,国防部对AI的测试和评估过程也应开始将平台及其操作人员作为一个单一系统进行评估,以确保人机交互能够得到优化。

3.5 为采用AI技术的新运营概念创建开发、测试和评估流程

3.5.1 作战模拟和作战概念

从历史上看,决定性的军事创新需要具有可比性的技术水平、能够集成新技术的组织以及清楚地知道如何在战场上使用技术。由于AI背后的大部分基础技术都可供华盛顿和北京使用,而且两国都在并行地开发类似的新组织结构,因此美国必须开发出优越的作战概念,以在AI应用中保持决定性优势。

开发此类概念的一种方法是通过分析性的作战模拟。在过去,此类仿真帮助美军确定了新的作战概念和理论,使其能够将航空母舰和核武器等新技术转化为决定性的军事优势。评估AI作战概念的作战模拟程序应该从联合社区的工作级别成员进行的并行战争仿真开始,并且应该基于可能的冲突。在其中一个仿真中,蓝军将拥有基于现有记录项目的能力;在另一个仿真中,它将在未来几年内拥有各种AI能力,例如小型的无人机群和其他USAF战斗机的自主F-16机翼兵。利用这些仿真的结果,空军专业军事教育机构可以咨询私营部门的专家,为使用新的AI能力建立两到三个作战概念。然后可以在第二套战争仿真中评估可能的冲突,以确定哪个作战概念最有效。最好的作战概念可以提炼成一份理论白皮书,供空中工作人员审查和批准,并在实地试验中进行进一步评估。

3.5.2 集成到多域操作中

美国陆军和海军陆战队开发了多域作战(MDO)概念,以有效应对来自对手的新威胁,这些对手能够在所有六个领域与美军对抗,能够对美军发动远程精确打击,能够在没有全面冲突的灰色地带作战。这一概念要求美军建立新的能力,包括与灰色地带的对手竞争、为灰色地带冲突升级为全面冲突做好准备的能力,并通过确保战区有足够的补给以迅速向该地区派遣部队来校准部队态势。MDO进一步假定,美国将需要建立有弹性的编队,能够在敌方部队包围和面对有争议的空中环境时作战,并在不同领域展开协调作战,利用任何领域的优势窗口影响其他领域。

3.5.3 用于多域作战的一些基于人工智能的空军战术概念

为了有效应对新的威胁环境,MDO为美国联合部队提出了四个关键理念:竞争、校准部队态势、使用弹性编队和聚合能力。我们相信,美国空军部队可以通过使用四个战术概念,为 MDO 愿景做出重大贡献,这些战术概念由即将上线的新型AI驱动的自主系统提供支持。每个战术概念都与MDO愿景的四个原则之一保持一致。

第一个战术概念,智能情报、监视和侦察(ISR)数据处理,将支持竞争宗旨。这种非动态智能和监视概念将使用AI驱动的算法来筛选来自间接ISR资产的大量数据。建立在过去重大冲突爆发数据基础上的新兴的AI预警算法很可能比人类分析人员更早发现征兆。

第二个战术概念,AI驱动的指挥和控制,旨在支持校准部队态势组件。这一战术概念将使用AI驱动的指挥控制和后勤系统,以快速协调美国空军后续作战空中中队进入战区的行动。

第三个战术概念,自主武器盾牌,将支持使用弹性编队。这一概念包括使用美国空军无人驾驶、自主漫游平台,以提供基本的近距离空中支援。

第四个战术概念,AI优化,是一个面向指挥和控制的概念,将支持融合原则。这个概念将使用AI驱动的动态任务规划软件来完成当前阶段的战役。

3.5.4 通过野外练习测试新概念

《开放防务报》最近的报道显示,美国陆军已经决定,在野战演习中测试MDO思想的最佳方法是避免狭隘的概念验证演习,这种演习是由经过专门训练的测试单位进行的,将实验性的MDO信条纳入正规部队定期安排的训练演习中,看看这些信条是否可行。虽然这种方法可能在今天的陆军中有效,但我们认为,如果美国空军希望测试新的AI驱动的战术概念,并在未来某个时候嵌入多目标作战系统,那么美国空军应该恢复到更传统的概念验证方法,并配备特殊的测试单元。

我们在这里提出的新战术概念推动了当前军事科学的发展,并依赖于仍处在开发阶段的AI系统和软件的高水平性能。这些概念还依赖于空军各级人员尚未使用的新型战术、技术和程序。为了使野战演习有助于测试这些想法,空军部队最好在常规训练活动之外,进行特定的、高度定制的概念验证实验,这些实验是在潜在的新AI战术、技术、程序和系统方面受过专门训练的。

04. 结论与未来研究

4.1 结论

我们的评估是,美国目前在AI技术发展方面领先于中国。这主要是因为美国在先进的半导体设计和制造业中比中国有更大的优势,因为美国的能力和先进性目前仍然超过中国。强大的半导体产业是良好、坚实的AI研究的重要基础。然而,中国政府正试图通过对半导体行业的大规模投资来削弱美国的优势。此外,中国半导体行业还有一个额外的优势,即靠近巨大的中国市场。由于目前美国缺乏实质性的产业政策,这种情况将进一步恶化。

在两国科技部门风险资本家的活力方面,中美处于更平等的条件,但在牢固建立法律体系和新闻自由方面,美国可能具有优势——这些基本的结构因素共同为AI开发提供了稳定的基础。美国和中国科技部门的脱钩将很好地检验美国和中国能够在多大程度上分庭抗礼。中国当然能够将大量资金投入AI研究,但中国的AI能否在与美国科技部门隔绝的真空中茁壮成长?

中国在大数据集领域确实比美国有优势,这对AI应用的发展至关重要。中国人口大约是美国人口的四倍,因此中国科技公司有一个固有的更大的潜在数据库可供利用。但总体而言,我们认为,中国在数据量方面的优势不足以战胜美国在半导体领域的优势。因此,我们判断美国目前在AI方面略领先于中国。

国防部领导层必须牢记重要的一点,即最终在AI功能系统、武器和作战概念方面保持对中国军方领先的长期前景至少将间接地取决于国防部的能力。因此,美国空军作为一个机构,应该尽其所能为国家整体努力做出贡献,以保持国家在AI领域的世界领先地位。例如,一个很有希望的选择是美国空军通过明智地授予空军合同,为私营部门有前途的两用AI研究项目提供资金支持。另一个选择是美国空军与国防高级研究计划局(DARPA)合作,共同赞助和资助有前途的学术 AI研究,这些研究将在商业领域产生广泛的附带效应。然而,我们的结论是,为了保持竞争优势,空军的大部分资源应用于其直接控制的领域:AI向军事过渡的开发和工程、VVT&E的进步以及作战概念的发展。

表4.1给出了我们认为美国空军应如何在AI开发领域分配近期工作的框架。它表明,正如我们在本报告中所论证的那样,空军在基础研究和技术商业化领域的活动水平相对较低,因为AI研究的全球市场目前是开放的,并且在AI发展领域的这些方面,美国几乎没有机会获得超过中国的优势。我们估计,过渡到军事应用领域需要作出高水平的努力。作为这项工作的一部分,应着重于通过招募和留住更多具有该领域技能的高素质科学家和工程师来改善 USAF用于AI的有机人力资本。正如我们在本报告正文中所显示的,有多种方法可以改善进入美国空军研究实验室的科技人员队伍。最后,我们建议美国空军在VVT&E和频谱的运营概念开发阶段投入大量精力。在这些领域,美国空军可以通过部署更可靠和用户友好的AI系统,来获得与中国相比真正的作战优势。

兰德报告《保持人工智能和机器学习的竞争优势》全文翻译 网络安全动态 第4张

仅使用开源材料,很难(如果不是不可能的话)就哪个国家在AI领域处于领先地位以及趋势是怎样的达成一个明确的声明。事实上,把AI分解成它的组成部分并讨论AI生态系统的各个部分可能会更有效。此外,我们可能需要的一些数据并不公开,而其他一些数据,如文化评估和机构关注度,则不适合进行定量评估。因此,寻求“AI生态系统领先”的总体指标是具有挑战性和值得怀疑的。总体而言,我们的数据收集和分析使我们初步得出结论,美国在AI的一些关键领域领先优势很小,同时也应注意到,中国在这一问题上有几个优势和高度的领导重视。这一评估意味着,美国几乎没有犯错的余地,需要集中注意力和资源,确保中国不会在一项看似重要的技术上领先美国,因为AI技术不仅对商业经济而言是一项关键技术,而且能够巩固美国的国家实力,特别是当其应用于广泛的国防领域(尤其是在航空领域)方面。

4.2 未来研究

本报告主要是对中美AI的初步比较分析,以及这对美国空军意味着什么。我们只是触及了表面,还有更多的研究需要做,以充实出影响中国AI未来的关键维度、组成部分和因素。以下主题可能是特别富有成效的研究领域,每个主题都可以作为一个独立的研究项目,也可以成为更广泛研究工作的一个组成部分:

·勾画出中国AI网络中关键军民之间的互动关系。更多地了解关键人物,他们与谁互动,以及他们互动的频率,可以为中国AI战略的发展轨迹提供有价值的见解。

·绘制中国AI网络中不同军事、政治、学术和商业机构之间的联系和关系,包括中国境内外。更多地了解机构关系可以为中国AI战略的发展轨迹提供重要的见解。

·跟踪资金数额、资金来源和去向。监测资金流动是识别中国AI优先事项和评估AI资金使用效率的重要方法。

专注于特定AI程序或具有特殊兴趣的特定AI实体的单个案例研究。专注于一个特定的项目或组织可以提供相当详细的信息,说明更大的AI策略的实施在实践中意味着什么。

作者简介

加文·哈特奈特(Gavin S. Hartnett):兰德公司的一位物理科学家,也是帕迪·兰德研究生院的教授。作为一名受过训练的理论物理学家,哈特奈特对广泛的主题进行政策导向的研究,包括人工智能、机器学习、区块链和量子计算。

莉莲·阿布隆(Lillian Ablon):兰德公司的兼职信息科学家。她的研究重点是网络安全、计算机网络、信息系统、隐私、商业技术和公共政策的交叉点,以支持美国国防部、美国情报界和私营部门。

克里斯蒂安·柯里登(Christian Curriden):兰德公司(RAND Corporation)的国防分析师。他在兰德的工作主要集中在中国和韩国的问题上,尤其是中国的研发和中国的人工智能应用。他的研究还涉及代理战争、中国的科学技术环境等。

选自《信息安全与通信保密》2020年第八期(此报告内容由编辑部翻译整理)

声明:本文来自信息安全与通信保密杂志社,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 [email protected]

参与评论