《金融时报》近日撰文称,按照美国目前的规划,下一任美国总统将会决定在多大程度上利用人工智能和机器人技术来发展军事实力,这甚至会对未来世界的军事格局产生影响。
以下为原文内容:
在设想未来世界的战争时,人们很早就把人工智能元素融入其中:从中世纪的希伯来人传说中有生命的假人,到赫伯特·乔治·威尔斯(H G
Wells)的《地球争霸战》(The War of the Worlds )里那些火星机器人,可谓不胜枚举。
就连我们对冷战最为黑暗的设想也融入了这种技术:在斯坦利·库布里克(Stanley Kubrick)执导的电影《奇爱博士》(Dr
Strangelove)中,世界之所以毁灭,就是受到了机器意愿的主导。
但过去几年,我们已经看到各种革命性技术如雨后春笋般走向繁荣,有可能令这些梦想中的场景成为触手可及的现实:机器人和人工智能现在已经站到军事科技的最前线。
目前,世界各地的冲突中使用的军事系统对自动化技术的依赖度越来越多高。美国宙斯盾导弹巡洋舰就为防空和反导系统配备了自动化瞄准系统。而在网络空间,自动化技术更是帮助敏感网络防御大规模攻击的核心手段,因为人类无法在足够短的时间内判断对方是否怀有恶意。
对于很多处在设计阶段的平台而言,人工智能甚至成为了一项标志性功能。英国航空航天公司(BAE
Systems)正在设计雷神(Taranis)隐形无人机,并有望于2030年服役,这款设备几乎能够全自动运行。
事实上,对于处在开发阶段的各种攻击式军事平台而言,能够为人类操作员自动识别和挑选目标的计算机程序已经随处可见。但至少目前看来,西方国家的军队仍然坚持了一项原则:所有的致命活动都必须有人类参与。
下一届美国总统将面临重要决策:美国未来的军事设施将在多大程度上依赖人工智能和机器人。奥巴马总统已经于2012年签署了一份研发和使用自动化武器的命令。在意识到此举可能引发的道德问题后,奥巴马在该命令中增加了一条5年的“日落条款”,意味着需要通过一项行政决策才能推进这个项目。
正因如此,2017年的决策将会决定这个世界第一强国未来几十年的军事发展路径。
机器人在军事上的应用前景已经令很多人产生了焦虑,因为科技发展经常会领先于我们的伦理和道德意识。公众尚未对类似于终结者的战地机器人,或者能够自主决定攻击目标的无人机展开广泛而严肃的讨论。
国际机器人武器控制委员会、人权观察组织和阻止杀人机器人组织(Campaign to Stop Killer
Robots)都在通过各种努力积极改变这一状况。他们呼吁彻底禁止研发自动化武器系统。
至少美国不太可能接受这些观点。五角大楼已经将机器人定义为美国在未来保持军事主导地位的基础。这也是美国国防部战略家们所称的“第三补偿”的关键组成元素——每一种补偿指的都是美国取得的开创性技术,美国随后会借此占据多年的军事主导地位,直到竞争对手逐步追赶上来。第一补偿是核武器,第二补偿是精准制导武器。
“美国和所有西方国家都面临军事平台和军事人员的成本不断增加带来的挑战。”英国英国皇家联合军中研究所军事科学主任兼高级研究员伊利莎白·奎塔纳(Elizabeth
Quintana)说,“这将催生更加复杂的平台,但数量却会不断减少。然而,数量庞大的人员本身也也是一种质量——第三补偿战略就希望使用机器人平台来支持规模更大的传统平台,以便克服这一挑战。”
美国战略家认为,机器人平台将成为保护航空母舰等有价值的资产免受敌方廉价技术破坏的关键。为了应对中国的极超音速导弹或意大利海军正在开发的大量小型爆破船,美国等地的军事机构别无选择,只能借助机器人和人工智能技术。
“人工智能的必要性不在于它能取代我们军事体系中的人员,恰恰相反。”一位英国高级海军军官说,“我们需要更多的机器人和人工智能来保护我们最有价值的资产——人。通过这种方式避免让他们陷入危险境地。”
对于规模庞大、资金雄厚的国家来说,人工智能之所以很有吸引力,恰恰是因为它的高昂费用。这也正是第三补偿战略的核心所在。开发复杂的人工智能技术所需的高昂成本令对手望尘莫及。借助不对称战争以及无人机和网络武器等廉价技术的帮助,他们甚至与装备最精良的对手获得了平等对抗的机会。
虽然距离人工智能技术的成熟还有很多年时间,但它所构成的道德担忧和风险却切实存在。支持者认为,人工智能可以提升军事冲突的精准性,减少平民死亡和战争犯罪的发生率。但反对者却指出,从设计角度来讲,没有任何错误是有意为之,而即使将具备部分自动化元素的机器人投放到战场上,也有可能改变冲突的性质。
例如,美国无人机从2004年就开始在巴基斯坦联邦政府管理的三角地区针对基地组织头目进行轰炸,但由此对当地舆论产生的影响直到最近才获得军方高层的重视。
由于在没有事先警告的情况下便在空中做出武断的攻击决定,难免会伤及无辜,这必然对很多当地人构成不可磨灭的心理创伤,并有可能在未来伤害美国利益。
俄罗斯入侵乌克兰以及随之而来的大规模信息战争表明,未来战争的关键在于控制信息和心理作战,借此影响军事专家所谓的“人类地形”(human
terrain)——其重要性甚至堪比成本高昂的高科技致命平台。
机器人和人工智能将会如何融入其中,仍然有待观察。
“人工智能只是一个工具。”奎塔纳说,“战争是人类发起的。我们已经在叙利亚看到,由人类操纵的平台既可用于发动精准或深思熟虑的攻击,也可以实施不加控制的战争犯罪。工具不是问题,如何使用才是关键。”