网络安全动态 ·

美军推进人工智能军事应用的举措、挑战及启示

文字来源《国防科技》2020年第41卷第4期

引用本文:曾子林.美军推进人工智能军事应用的举措、挑战及启示[J].国防科技,2020,41(4).

摘要

人工智能技术的发展加速了军事智能化的脚步。本文分析了美军在推进人工智能军事应用方面采取的一系列举措,如注重国家战略层面的顶层设计,出台一系列智能化发展战略规划;部署各类军事智能化研究项目,开展大数据、智能算法研究,促进人工智能技术向情报处理、无人作战平台、指挥控制、武器装备系统、作战方式变革的渗透转化;重视智能化技术的基础理论研究和人才培养,聚焦核心和关键技术的突破,夯实军事智能化发展的基础。阐述了美军在推进人工智能军事应用进程中面临的来自技术、信任、伦理等多方面的挑战,并从成熟算法民转军用、寻求认知智能算法突破、培养军事智能化复合型人才等角度提出几点启示。

1 引言

人工智能技术在医疗、金融、安防、电商和教育等行业的成功应用让人们看到了军事智能化的曙光。美军加速推进人工智能军事应用的举动受到军内外学者的广泛关注,但很少有文献对美军人工智能军事应用所面临的挑战与困境展开深入分析。美军作为人工智能领域的领头羊,在推进人工智能军事应用方面取得了丰硕的成果,也面临着诸多挑战。美军在推进人工智能军事应用进程中的一些好的经验做法及面临的挑战对军队有着重要的借鉴与启示意义。

美军推进人工智能军事应用的举措、挑战及启示 网络安全动态 第1张

2 美军推进人工智能军事应用的举措

2.1统筹规划,注重国家战略层面的顶层设计

美军深刻洞察到科技革命和军事变革的发展态势,注重国家战略层面的人工智能发展顶层设计,出台了一系列智能化发展战略规划。

美军推进人工智能军事应用的举措、挑战及启示 网络安全动态 第2张

美国奥巴马政府早在2012年就提出《大数据研究与发展计划倡议》,将大数据研发上升到国家战略层面,成立了大数据研发管理机构,并投入2亿美元经费作为科研启动资金,用于军事大数据技术创新及应用工具开发。2014年,美军制定第三次“抵消战略”,实现其在作战概念、技术创新、组织形态和国防管理等方面的创新突破,以恢复并保持传统遏制力。此次战略抵消重点发展的五大技术领域包括自主学习系统、人机协作系统、人类作战行动辅助系统、有人/无人作战编队和网络赋能自主武器系统等,均以人工智能为核心。2016年,美国先后发布了《为人工智能的未来做好准备》《国家人工智能研究与发展战略规划》两份报告,对人工智能的发展现状、应用领域以及人工智能技术引发的潜在公共政策问题进行了探讨,确定了美国人工智能研发的七大重点战略方向,并于2019年公布了《国家人工智能研究与发展战略规划》的更新版。该版在原先七个重点领域基础上,额外增加了一项内容:扩大公私合作伙伴关系,加速人工智能的发展。该项举措旨在通过政府统筹人工智能技术与应用研究,确保美国在人工智能领域处于领先地位。2018年8月,美国国防部公开新版的《无人系统综合路线图(2017—2042)》。该路线图聚焦未来全域作战所需的技术支撑,围绕互操作性、自主性、安全网络、人机协同等主题,指导军用无人机、无人潜航器、无人水面艇、无人地面车辆等的全面发展,加快颠覆性技术的发展和运用,为确保军种的无人系统发展目标与国防部规划保持一致提供顶层战略指南。美军的这些举措充分表明,美军对于人工智能在军事领域的应用已统筹规划、提前布局。

2.2以项目为支撑,加速智能化技术在军事领域的深化应用

早在20世纪,美军就通过部署各类军事智能化研究项目,开展大数据、智能算法研究,促进人工智能技术向情报处理、无人作战平台、指挥控制、武器装备系统、作战方式变革的渗透转化。20世纪70年代,美军启动了语音识别研究项目,借助人工智能技术处理复杂的语音逻辑规则,提高词汇辨认率。该技术主要应用于对不同国家、地区以及组织搜集情报的处理。2001年,为解决新型无人车的环境感知问题,美国国防高级研究计划局启动了PerceptOR项目,其目标是保证无人车能够在各种战场环境及恶劣的天气条件下执行任务。2007年,美国陆军开发了“深绿”系统,期待能像“深蓝”系统那样穷尽敌军所有可能行动,为指挥员指挥与控制提供辅助决策。但该项目由于战场复杂态势的不确定性导致出现组合爆炸问题而被搁浅。

2009—2014年,DARPA先后启动了“洞察”“X数据”“心灵之眼”“文本深度挖掘和过滤技术”等为代表的大数据技术研究项目,探索利用智能算法从文本、声音、图像、视频等多源数据中自主获取、处理及挖掘信息,以解决对抗条件下的态势认知、威胁判断和行动建议生成等问题。2017年,美军成立“算法战跨职能小组”,开展代号为“MAVEN”的项目,将深度学习技术用于实战,挖掘分析无人机系统从中东地区收集的大量视频数据,加速作战数据与机器学习技术的有效融合。

美军推进人工智能军事应用的举措、挑战及启示 网络安全动态 第3张

此外,美军还将智能技术嵌入作战平台,提升武器装备的智能化水平。例如,2020年初,美陆军研究实验室推进越野自主技术研究,使未来无人作战平台能够在复杂对抗的动态环境下做出高效决策,能够按照陆军作战节奏有效执行多种任务。除此之外,美军还提出了“分布式作战”“蜂群”“马赛克战”“多域战”及“全域战”等一系列与智能化技术相匹配的新型作战概念,以谋求新的不对称作战优势。例如,2020年美军在“多域战”概念基础上提出“全域战”,并探索人工智能技术在“全域战”中早期预警、分析处理数据、自主生成行动序列和自主分配任务等方面的应用。

2.3重视智能化技术的基础性理论研究及人才培养

基础性研究对创新起主导作用。美军向来重视智能化技术的基础性研究,聚焦核心和关键技术的突破,夯实军事智能化发展的基础。美国联邦政府在算法、芯片、传感器等基础领域进行了长期持续性的投资,研究水平遥遥领先,创新优势显著。为了维持美国人工智能的创新优势,DARPA、国家科学基金会等一些大型研究机构开展了一系列具有长远价值及战略眼光的基础研究项目。例如,DARPA于2018年9月投资20亿美元启动“下一代人工智能”计划,提出发展第三代人工智能基础理论和技术,试图探索国防部关键业务流程自动化、提高人工智能系统的稳健性、增强人工智能技术的安全性和灵活性、避免数据和性能效率低下以及开发下一代人工智能算法等方面的关键技术,使未来的智能机器具备与人类交流及逻辑推理能力。美军还重视与人工智能龙头企业及知名高校的合作,通过军民融合的方式促进人工智能关键技术攻关及智能武器研发工作。与此同时,美军在人工智能领域的基础性人才培养方面也出台了一些规划和措施。2019年2月,美国发布《美国人工智能计划》,该计划包括五个关键领域,人才培养是其中之一。计划要求各机构通过培训、奖学金和理工科教育等方式,帮助美国工人获得开发和应用人工智能技术的技能。

3 美军人工智能军事应用面临的挑战

美军推进人工智能技术在军事领域的应用并非一帆风顺,面临来自技术、信任和伦理等多方面的挑战。

3.1人工智能技术面临稳健性与可解释性不强的瓶颈

相比传统的人工智能,以深度学习为代表的机器学习算法,在语音识别、机器翻译和人机博弈等方面取得了突破性进展,其水平可以接近甚至超越人类。但是,这不意味着人工智能程度已经达到或超过了人类。从已有的技术看,人工智能只能处理任务单一、需求明确以及应用边界清晰的特定任务,离具备概念抽象、自主推理、规划决策能力的通用人工智能仍有较大差距。目前,稳健性及可解释性是限制人工智能技术发展的主要瓶颈。

当前的人工智能技术普遍存在稳健性问题,主要表现在两方面:一是很大程度上依赖高质量的训练数据。例如,当训练数据有限时,大规模的深度神经网络易出现过拟合现象,泛化能力差。二是在特定数据集训练好的深度神经网络易受到“对抗”样本的干扰和欺骗。例如,在军事领域中,利用一张精心设计的打印图片便可轻易地躲避智能侦察设备的搜索。可解释性不强是当前以深度学习为代表的人工智能技术的另一个弊端。绝大部分算法属于“黑盒”系统,中间的分析与决策过程不得而知,也缺乏可交互性和操作性。对于大规模的深度学习网络,由于存在复杂的非线性变换及大量的神经元连接,少量扰动即可引起结果的剧烈变化,表现出的行为将会变得难以理解。具有可解释性的智能系统能够实现人机互操作,便于将人的经验融入到决策中,做到决策可追溯、可引导、可纠正,从而提升系统的智能性。

现代战场环境错综复杂,作战环境的微小改变都有可能让智能化算法不再“智能”。加强算法的稳健性和可解释性,是发展通用人工智能迫切需要解决的问题。美军已将发展稳健性与可解释的人工智能系统作为下一代人工智能的重要研究课题提上日程。

3.2学习机制的本质差异导致人机信任危机

由于目前的算法可解释性不强,其行为和表现难以让人理解。这将影响人对智能系统的信任度。例如,利用深度学习对哈士奇和爱斯基摩犬进行分类,起初的分类效果非常好,但后来通过数据测试发现,智能系统更多是通过背景对二者进行分类,而并非狗本身的特征。这是因为,在训练样本中,爱斯基摩犬的照片背景几乎都是冰天雪地,而哈士奇则相反。这样的例子数不胜数,若将这样的理解应用于作战决策中,后果是不堪设想的。DARPA战术技术办公室主任弗雷德·肯尼迪在2018年4月10日美国海军举办的“海空天联盟”小组会议上也对当前人工智能系统行为决策无法解释表示担忧,并提出依托DARPA“可解释人工智能”项目推动研究人员理解人工智能行为决策背后的机理。

美军推进人工智能军事应用的举措、挑战及启示 网络安全动态 第4张

人工智能的机器学习方式与人类学习方式之间不同的学习机制也是造成人机信任危机的重要原因之一。机器学习通过大量数据来消除不确定性实现模式检测,而人类学习主要依靠归纳法和逻辑推理。例如,对于人类来说,识别一只猫可以在瞬间完成。人类根据某些猫科动物特征的外观和运动来识别一只猫,而计算机识别一只猫需基于大量关于猫的图像。这些图像被人工标记为猫或不是猫,然后通过提取图像的关键特征,构建一定的模型来学习图像特征与标记之间的关系。计算机学习完毕后,就具备了识别能力,这时给它图片,它就能判定这张图片到底是不是猫。机器得出结论的这种方式会让人工智能用户产生不信任感。如果这是一只机器从未见过的猫呢?如果是一只狗,打扮得特别像猫呢?

这种信任的挑战在战场上显得尤为严峻,而信任是作战人员执行一切作战行动的重要前提条件。战场上缺乏信任,就不会有当机立断的决策、高效顺畅的指挥以及密切配合的协同。在未来的智能化战争中,指挥员可能不得不根据人工智能系统提供的信息做出生死抉择。此时,人机信任问题是难以逾越的一道屏障。事实上,美军的一次实验充分暴露了人工智能技术潜在的风险。该实验显示,在人工智能分析技术的帮助下,只需改变图像上的几个像素就可以把一辆校车变成坦克。这些漏洞若被敌方利用,后果将不堪设想。由此可见,即便是当今商业领域最常用的图像识别等诸如此类的简单人工智能应用,指挥员也可能不愿相信。

3.3人工智能武器的不易控制性引发伦理挑战

尽管人们对人工智能技术改善生活的前景普遍持乐观态度,但近年来人工智能科学家对为国家安全使用先进技术更多地持保守态度。正如化学家和生物学家没兴趣开发生化武器一样,大多数人工智能科学家也不希望开发智能武器用于邪恶的战争。以谷歌为代表的硅谷公司,就对与美国政府在国家安全问题上的合作持怀疑态度。谷歌在遭到4000名员工的反对后,最后终止与国防部Maven项目的合作。在2018年国际人工智能联合会议上,来自全球60多个国家、超过2000名人工智能科学家、企业家、研究者共同签署了《致命性自主武器宣言》,宣誓不参与致命性自主武器系统的开发、研制、交易及使用。

人工智能技术被认为是继火药和核武器之后的第三次武器革命。智能机器虽然可以替代人类士兵作战,有效减少伤亡人数,但也会降低发动战争的门槛。2017年11月,日内瓦联合国特定常规武器公约会议上播放了一段“杀人蜂”自主执行杀人任务的视频。该“杀人蜂”只有蜜蜂体积大小,携带3克炸药,集成了外部传感、面部识别等一系列智能技术,可以自主跟踪目标,躲避攻击,能瞬间穿透人的颅骨进行爆炸攻击。该视频还给出了一组数据,仅仅耗费2500万美金购置的“杀人蜂”可以毁灭半个城市,而同等价格的战斧式巡航导弹仅能摧毁一座机场。恐怖分子一旦掌握这种廉价且极其高效的致命性自主武器,将轻易突破严密防御,对攻击目标进行外科手术式的精确袭击,造成人类世界的悲剧。

美国特斯拉公司CEO埃隆·马斯克就曾直言不讳地指出,人工智能可能比核弹头或朝鲜更危险。他警告称,机器学习的速度可能超过人类控制它们的能力。对智能武器的控制远比核军备控制复杂得多,核武器裂变材料的生产和运载系统可以远距离探测到,而智能武器不需要昂贵或稀有的原材料,监测自主武器的发展和使用将会困难得多。由于智能武器生产成本低,技术易于获取,很容易被各股军事力量大规模生产。届时,智能武器将成为刺杀、颠覆政权、灭亡某个种族的理想工具。从博弈的角度看,只要任意一支军事力量推动人工智能武器开发,那么全球智能武器军备竞赛将不可避免。

4 美军推进人工智能军事应用对军队的启示

4.1在成熟算法民转军的基础上,加强应用

人工智能的发展阶段可分为计算智能、感知智能和认知智能三个层次,目前在计算智能方面已远超人类。随着深度学习方法的突破,感知智能已逐步接近人类水平,但在以理解、推理和思考为代表能力的认知智能方面仍进展缓慢。因此,人工智能技术要在军事指挥决策领域发挥主导作用还十分困难,“战争迷雾”带来的不确定性会对智能系统的运行产生干扰,现阶段应以人工智能成熟技术的应用为主。例如,我国在语音识别、图像识别、自然语言处理和自动驾驶技术等领域取得显著突破。这些技术可通过“军民融合”战略迅速应用到军事领域,在目标自动识别、无人作战平台等领域发挥巨大作用。在此基础上,探索军事领域认知智能新技术,比如察觉、理解敌方作战意图、威胁程度,根据当前态势预测未来出现的态势,自主理解联合作战行动计划与上级协同动作计划,实时协调军种联合作战行动与兵种合同作战行动、本级与友邻的作战行动等。

4.2寻求认知智能算法的突破

人工智能在算法上并没有根本性突破。大部分算法建立在大数据和云计算的基础上,且多数为有监督的学习,样本标签难以获取。这种学习方式与人类截然不同。人类多数时候是基于小样本或经验在学习,而且很容易举一反三。因此,要实现认知智能的突破,需要彻底改变传统的学习方式,重点研究面向小样本和经验的学习算法,克服传统算法对数据规模的饥渴挑战。一是创新小样本学习技术。2015年,《科学》杂志报道了美国麻省理工学院学者提出的贝叶斯程序学习方法(BPL)。该方法仅用少量训练样本,通过推理算法就能实现“只看一眼就会写字”的智能系统,并通过了图灵测试。迁移学习也是一种典型的小样本学习方法,是运用已有知识对相似领域问题进行求解的一种学习方法,其目的是为了更高效地学习“目标任务”。二是研究基于人机融合的学习算法。鉴于作战任务认知的复杂性,而有些知识是指挥员很容易就能够提炼的,为了发挥人类的思维优势,可考虑在基于数据的统计学习过程中嵌入人类经验进行指导。三是重视数据与知识结合。鉴于军事样本的稀缺性特点,可尝试“数据不够,知识来补”的路径,研究数据与知识图谱相结合的学习算法。因此,领域知识工程在当下仍然有必要开展。应建立军事领域的知识图谱,包括概念知识、业务知识、装备知识、组织体制知识和作战运用知识等,将指挥人员的知识转化为机器所能理解的形式。例如,美军一直很重视知识工程,建有完备的条令、条例和交战规则等知识体系。

4.3多管齐下,培养军事智能化复合型人才

学科交叉是实现创新突破的捷径。美军“算法战跨职能小组”人员组成结构的一个显著特点就是多学科融合、多职能融合,不同专业、学科的人才通力合作,共同创新。为解决人才匮乏这个燃眉之急,需多管齐下,大力培养交叉型学科人才。一是要扎根军民融合的深厚土壤,通过加强与地方高校、大型人工智能企业合作的方式开展军事智能化研究,在合作研究过程中打造一支基础理论深厚、实践能力强的团队。二是要完善人才引进政策,高薪聘请国内人工智能顶级专家来部队工作,为其营造良好的研究氛围,激发其创新动力,并通过专家传帮带来培养一批具有工程功底、精于数学、计算机和军事学的高智人才为部队服务。三是要探索院校、科研院所、部队联合培养机制,从战场需求出发,以战为牵引培养具有鲜明军事特色的复合型人才。

5 结语

军事智能化已成为各国军方关注的热点,智能化技术在军事领域的广泛应用也是不可逆转的趋势。军队应牢牢抓住此次“弯道超车”的机会,加速智能算法军用化的步伐,寻求认知智能算法的突破,培养军事智能化复合型人才,为打赢智能化战争提前布局。

文字 | 曾子林(陆军步兵学院演训中心)

图片 | 来源于网络

声明:本文来自军事高科技在线,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 2018288588@qq.com。

参与评论