在立陶宛南部的海滨城市帕兰加附近,美军士兵在演习中执行登陆任务
美国国会研究服务处发布的更新版《“深度造假”与国家安全》报告,将“深度造假”上升到了国家安全的高度。
吴敏文
继美国政府问责局于2020年2月20日发布《深度造假》分析报告后,美国国会研究服务处今年5月发布更新版《“深度造假”与国家安全》报告,新报告将“深度造假”上升到了国家安全的高度。技术决定战术,也是推动战场面貌发生改变的关键因素。“深度造假”这一新的智能对抗技术,又将给军事领域带来什么?
天作之合
“深度造假”可简明解释为“深度学习+造假”。深度学习是人工智能(AI)技术中的一种,是机器学习的新发展。机器学习是研究怎样使计算机通过模拟或实现人的学习行为,以获取新的知识或技能,不断改善计算机人工智能系统性能的科学和技术。如果说机器学习使得计算机具有了某种学习能力,那么,深度学习就能使计算机归纳和掌握对某类知识的学习方法和规律,更高效和更高质量地学习。
在军事领域,隐真示假历来是迷惑敌人、克敌制胜的一种基本手段。深度学习与隐真示假相结合,就变成了“深度造假”,或称“深度伪造”。从某种意义上说,在军事应用上二者堪称天作之合。
“深度造假”的目的是通过造假误导和迷惑对手,其包括两大对抗性技术措施和手段。一是生成器,负责创建伪造数据(包括照片、录音或视频);二是鉴别器,负责识别伪造的数据。根据每次对抗试验的结果,生成器对造假数据进行调整,以生成更具欺骗性的数据,识别器则通过优化不断提高识别能力。如此进行不断的对抗性演进,经过数千或数百万次迭代,直至生成器性能提升到使鉴别器无法区分真实数据和伪造数据,一次“深度造假”在当前条件下即得以完成。
依据不同的造假需要和背景、环境条件,“深度造假”的实现方式和呈现形式也有所不同。例如,在视频造假中,截至目前,“深度造假”的技术途径和实际呈现大致包括四类:一是换脸;二是唇形同步,造假者可以将一个合成的唇形移植到其他人的脸上,造成一种他/她在说什么的假象;三是面部复现,造假者可以将一个人的面部表情转移到另外一个视频中,并对其施加控制,使其展现出厌恶、生气或惊讶等各种表情;四是动作转移,即将一个人的身体运动,转移到另一个视频中的另一个人的身体上。
由于这些“深度造假”技术大多可从公开渠道获取,一般的社会成员即可方便获得,使得“深度造假”呈现迅速蔓延和创造能力活跃提升的趋势,甚至成为某些人展示才华与能力的大众化技术创新活动,造假与打假呈现出对抗循环和螺旋攀升的状态,被用于政治和军事目的在所难免。
军事应用逻辑
可从三大方面对“深度造假”的军事应用逻辑做出解析。
一是在战略和社会层面,“深度造假”可通过制造虚假视频、音频、图像等,实现大规模认知误导乃至心理战效果。
不管是针对敌对国家领导人和广大民众的战略心理战,还是针对特定敌方指挥员和士兵的战役、战术心理战,都是对抗双方平时与战时所重视和惯于采用的作战手段和样式。在信息网络社会,因为传播媒介的多样性和传播效果的快捷普遍性,心理战得到了更大的重视和更广泛的使用。“深度造假”在这方面可谓大有作为。
比如,美国华盛顿大学的研究人员通过采集美国前总统奥巴马的视频和音频资料,用“深度造假”技术制造出一个“合成的奥巴马”发表演讲,演讲中奥巴马的扭头、注视和眨眼等身体动作惟妙惟肖,不仅观看者无法辨别真假,就连计算机的智能鉴别软件都没能发现造假。
试想一下,如果有人通过“深度造假”技术,制造一段以色列总理不经意间透露将在德黑兰实施一系列政治暗杀行动的音频,抑或一段显示一名美国将军在阿富汗焚烧《古兰经》的视频,将会带来怎样的后果!
二是在作战指挥方面,“深度造假”可以让敌方指挥员发布完全违背其意愿的作战命令。
在伊拉克战争中,美军运用EC-130H电子战飞机临空强行接管伊拉克的广播电视系统,向伊军民播送“放下武器,接受美军接管”的劝降电视和广播节目。这种方式所使用的主要是在无线电信号、功率上进行压制和夺占的技术手段,不包含任何智能化内容。在“深度造假”技术加入后,美军完全可以制造出对方国家和军方领导人下令“放下武器、放弃抵抗”的“真实”视频、音频信号,通过强行切断和接管对方国家的电视、广播系统的方式,播送这些造假信息,对方军民几乎无法分辨信息的真假。
现代战争的速战速决快捷性甚至“始战即终战”的特点,使得这样的“假传圣旨”即使被最终揭穿,但往往为时已晚,战争胜负已定。
三是在具体战役、战斗中,“深度造假”更可以渗透进情报、分析、决策和行动的任何环节,造成不可估计的严重后果。
无论是情报数据造假还是情报分析造假,都具有现实的可能性,而鉴别造假却难以有效实施。由于获取的是假情报、分析结论被人操控,决策正确的可能性微乎其微。
假做真时真亦假
在二战盟军诺曼底登陆作战中,为了让德军相信盟军的登陆点在加莱方向,盟军情报机构不仅采取大量措施隐蔽其在诺曼底方向登陆的作战准备,还在加莱方向设立假指挥部,用角反射器等模拟登陆作战部队的大规模集结。发展到今天,想要达成这样的欺骗效果,不仅可以采取一些实际行动,还可以更加逼真地制造出战场效果。
比如,用“深度造假”技术制造的“合成指挥官”发表理直气壮的演讲、制定天衣无缝的计划、下达无可置疑的命令;各军兵种“合成部队”展开声势浩大的战前集结和艰苦的战前演练,打造势如破竹的战前演习效果。这些活动还可以与真实的作战地域、环境和阵地融为一体,足以让人坚信不疑。
目前,检测工具还不能自动、完整、高效地检测出“深度造假”。研发检测和鉴别“深度造假”的工具,需要积累大量数据,而且这样的数据只有在与“深度造假”的对抗中才能获得,即检测某种“深度造假”总是在其出现之后。也就是说,“深度造假”具有主动性和先机之利,检测与鉴别“深度造假”则具有被动性和滞后性。同时,由于“深度造假”的效果高度仿真、乱真,即使是检测和识别出“深度造假”,要想让人相信也十分困难。
西方著名军事理论家克劳塞维茨提出的“战争迷雾”论,主要是指人们对客观事物的认知能力的差距,以及传统隐真示假、军事欺骗所带来的对战争认知的主体迷茫。随着信息化战争的出现,对于具有信息优势的一方,战场实现了单向透明,即“战争迷雾”减少了,但处于信息劣势的一方,不仅“战争迷雾”未减少,还增加了“信息迷雾”。
正是“深度造假”,使得“战争迷雾”又迭加上“智能迷雾”。能否穿透“智能迷雾”,最终取决于一方能否在智能技术方面取得优势,以及造假和鉴别技术的此消彼长。
(作者单位:国防科技大学信息通信学院)
来源:2021年7月28日出版的《环球》杂志 第15期
《环球》杂志授权使用,其他媒体如需转载,请与本刊联系
本期更多文章敬请关注《环球》杂志微博、微信客户端:“环球杂志”
|