网络安全动态 ·

美军使用人工智能技术检索虚假信息

美空军和特种作战司令部正在开发一种新型人工智能软件工具,来训练神经网络对信息可信度进行排序,自动识别和评估可疑虚假信息。

美军使用人工智能技术检索虚假信息 网络安全动态 第1张

尽管美军拥有相对强大的技术优势,但仍难以消除虚假信息。为解决这一问题,美国空军和美国特种作战司令部(SOCOM)日前授予Primer公司一份小企业创新研究开发软件合同,令其在一年时间内开发一种新型人工智能软件工具,帮助分析师更快、更好地进行信息调查,检测出公共空间的错误信息。

背景

特种作战司令部前司令、现任Primer公司咨询委员会成员的Raymond “Tony”Thomas在接受采访时表示,“如果美军不参与信息空间竞争,那么不管美军的行动和活动多么完美,最终很可能要吃虚假信息或虚假报道的苦头。我们在战术级有过体会,尽管突袭、打击行动做得很好,但敌人仍能快速反转局势,使我们蒙受附带损伤之苦。因此,战术级信息空间是关键所在”。

Thomas认为,信息空间甚至“延伸到了战略空间”,这意味着虚假信息可以传播,直到真实地影响到更大的地缘政治。

神经网络技术

Primer公司的神经网络技术可以扫描大量文本,并根据单词和短语的频率和突出程度提取主题和其他信息。如果用户的文本很多,想要快速用一个准确的标题进行总结,那么这种技术就会非常有用。为了训练他们的神经网络,Primer公司使用了一个包含数以百万计的开源文档的语料库,其中新闻文章和标题一一对应。

Primer与美军新签订的合同将建立一个平台,能够“自动识别和评估可疑虚假信息”。Primer还将增强其自然语言处理平台,“使其自动分析战术事件,随着事件的展开,近实时地为指挥官提供前所未有的洞察力。”

这将是一个缓慢的过程。教神经网络总结新闻文章或论文并写出标题与教它区分真实与虚构有很大区别。如何训练软件区分可靠的信息和不可靠的声明?Primer公司计划用教育孩子的方法来做——教孩子识别可信信息和不可信信息的来源,这需要时间、练习和持续的审查。该公司的科学主管John Bohannon表示,除了时间,还需要用户和操作员输入相当数量的重要数据。

Bohannon展示了这项技术在亚美尼亚和阿塞拜疆之间正在进行的冲突中应用的情况。该网络可以找到有关冲突的新闻、消息来源和社交媒体帖子,并根据谁在谈论某一特定事件(如军事打击),将这些信息分成若干组。这能立即让用户了解到不同的组织和不同的政府的立场是什么。此外还可以看出那些报告机构是如何改变他们讨论问题的方式的。目前该网络给用户提供的是与新闻报道同样的信息,未来将做进一步的功能提升。

发展预期

预期在未来12个月内,该工具将添加来自操作员的数据,后者对提供的产品和信息做出响应并进行互动。特种作战司令部和空军的用户将能根据他们所看到的情况,就“哪个消息来源是最可信的”做出判定并提供信息。随着时间的推移,他们的输入将使网络形成一种判断力,即根据消息来源,哪些说法更有可能是真实的,以及哪些其他消息来源持不同意见。Bohannon表示,“这个系统的下一个层次将更具有预测性,允许用户看到并做出推论,同时开展测试。”

最终,该平台将能根据这些因素(如消息来源是否可信,其他可能更可信的消息来源说了什么等等),为特定的声明或新闻项目打分。但如果用户不确定该网站是如何得出结论的,则可以看看这个过程和新闻来源——它是如何做出这一决定的。

Primer创始人兼首席执行官Sean Gourley表示,这是解决更大问题的第一步,这个问题只会越来越严重。“信息攻击比身份攻击成本更低。这里有个不对称。很像一个简易爆炸装置。你可以花很少钱使其失效,但是防御的成本非常高。这不是人类能解决的问题。如果让人类来解决这个问题,无异于火上浇油。”

识别虚假信息的新战术只是解决方案的一部分。长期以来,军事观察人士一直抱怨美国在应对信息战攻击时过于迟缓和谨慎,Thomas重申了这一点,“可以毫不夸张地说,对敌人发射“地狱火”或采取行动比在信息域采取进攻性行动更容易。这和我们的立场是对立的。但如果你的对手在该域发挥作用,你就必须做出回应。”

戴钰超编译自互联网,李晓文审定

2020年10月8日

声明:本文来自防务快讯,版权归作者所有。文章内容仅代表作者独立观点,不代表安全内参立场,转载目的在于传递更多信息。如有侵权,请联系 2018288588@qq.com。

参与评论