一架拥有六个旋翼的小型无人机掠过一座模拟的美国中西部村庄，逐渐靠近一座状似清真寺的建筑，它的摄像头开始对着目标进行扫描。
没有人在远处操纵这架无人机。它与亚马逊上售卖的机器在外形上别无二致，但事实上装载了先进的人工智能软件，并已经被改造成了一款机器人，能发现并识别在村庄里伪装成入侵者的测试人员。共有6人参与测试，手中都拿着AK-47步枪模型。
当无人机缓缓下降，反馈视频中出现一个紫色方框，这是工程师安装的监控软件。无人机锁定了隐藏在阴影处的一个持枪人员。
这个高科技的猎杀过程让我们提前感受到五角大楼是如何重塑未来战争的。
防务领域之外的公众或许并不知情，五角大楼早已将人工智能列为其发展战略的核心，以保持美国在世界军事格局中的主导地位。五角大楼斥资数十亿美元研发“全自动和半自动武器”，意欲建造一个体系健全的军火库，其中很多概念性武器只在好莱坞电影和科幻小说中出现过。
然而此举也引发了科学家及和平倡议者对潜在的机器人武器竞赛的担忧。
美国防部正在设计自动化战机，它们将与载人飞机并肩作战。此外，五角大楼还测试了能自主发起攻击的导弹，以及能在无人操纵的情况下独自发现数千英里意外敌军潜艇并发起追击的反潜艇。
“如果斯坦利·库布里克翻拍《奇爱博士》的话，可能会是有关自动化武器的话题，”麻省理工学院斯隆管理学院研究人员施拉格（Michael Schrage）说。
国防部官员表示，美国需要这些先进武器，以在与中国、俄罗斯等竞争对手的博弈中保持其军事领先地位。但事实上，这些国家都已经开始投入巨资开展类似的研究（英国、以色列等盟国也开始了这方面的工作）。五角大楼最近公布的财政预算显示，在未来三年中，将投入180亿美元研发包括自动武器在内的一系列科技。
“中国和俄罗斯正在研发与我们不相上下的战争网络。他们的战略眼光和我们一样长远。他们研发的制导武器射程几乎与我们没有差别，”美国国防部副部长沃克（Robert O.Work）这样说， “我们的目的就是确保美国军队能够像过去那样快速制胜。” 沃克是自动化武器研究的主要推动者。
在工业革命的号角下，飞机、坦克等破坏力十足的机器竞相被发明出来，它们取代了传统的单兵作战模式。人工智能技术也有相似的地方，它让五角大楼得以重新安排士兵与机器在战场中的位置，正如人工智能技术已经通过个人电脑彻底改变了普通人的生活，它让电脑可以看、听、说，让汽车能够自动驾驶。
新武器能提供人类所无法企及的速度和精准度，在降低士兵和飞行员的数量和成本的同时，也规避了他们在战场中的伤亡风险。五角大楼的挑战正在于，需要将这些武器打造成为人类可靠的帮手，而不是潜在的威胁。
“半人马作战模式”(centaur warfighting)是五角大楼官员们构想的战略转型核心内容。这个概念来自希腊神话，强调人工控制和自动化武器的结合，意在用自动化武器增强士兵、飞行员和水手的作战效率和解决问题的能力，而不是简单地取代他们。
沃克在接受采访时表示，五角大楼研发的武器不会是电影《终结者》中的那种类型，相反，未来的美国士兵会更像是漫画书中的超级英雄钢铁侠。
“社会上有许多人担心杀人机器和天网（《终结者》系列电影中凶残的智能网络），”沃克表示，“我们的构想与之截然不同。”所有生死攸关的决定，“总是需要由士兵来做出，”他说。
尽管五角大楼规划如此，但仍有不少人深表怀疑，一旦这些能制造智能化武器的技术日臻完善，上述限制是否还能得到贯彻。去年，上百名科学家和专家在一封公开信中警告称，即使是研发最不起眼的智能武器，也有可能引发新一轮全球军备竞赛，结果将是，机器人可以完全独立地开展杀人行动，这些武器不仅价格低廉，而且还将轻易地落入流氓国家和暴力极端分子的手中。
“自动化武器将成为明天的卡拉什尼科夫冲锋枪，”公开信如此预言。
《终结者》难题
美国军方内部已不再纠结于是否研发自动化武器，更多的则是在讨论应该给予它们多大的自主性。参谋长联席会议副主席、空军上将塞尔瓦（Paul J. Selva）最近表示，美国将在10年之后才能掌握建造完全自主化机器人的技术，它们将自行决定何时向何人开火，而美国并没有意愿建造这样的机器人。
塞尔瓦上将表示，其他国家紧随其后，最终某个国家很有可能尝试研发“类似‘终结者’那样的武器”。这个说法与任何一场有关自动化武器讨论后得到的结论非常类似。
然而，官员们才刚开始关注到全自动化武器在摆脱研发人员的控制后可能带来的后果。在五角大楼内部，这个困境被称为终结者难题。目前，军方尚未达成一致意见：是让美国牵头制定国际条约以限制此类武器的生产，还是研发此类技术以保持与敌国的均势。
不过就目前而言，武器自动化技术尚处于起步阶段。Exhibit A是一款小型的无人机，于今年夏天在科德角完成试飞。这款无人机无法自主启动，需要由人来告诉它飞往何处、寻找何物。但在起飞后，它能自我决定如何完成指令。
Exhibit A搭载的智能软件研发时间将近一年，当天测试的表现远称不上完美无瑕。在一次飞跃清真寺上空时，它无法辨别“宣礼塔”究竟是建筑物还是武装分子，这一点还真挺像动画电视剧集《飞出个未来》（Futurama）里面那个笨手笨脚的机器人本德尔（Bender）。
尽管如此，这款无人机在某些时刻也展现出了令人咋舌的本领，它能分辨士兵和平民，当遇到不能分辨的障碍物时，它能迅速做出决定，顺畅地改变飞行路线。
这架无人机还装载了由美国情报机构提供的人脸识别软件，可以熟练地追踪移动的汽车，也可以发现隐藏在墙后面的敌人。它甚至能判定那些举着长焦镜头对准飞行器的摄影师并不是威胁，不少士兵在遇到这种情况时都有可能感到困惑，并带来致命的后果。
该计划由美国国防部先进研究项目局（DARPA）主导开展，这个机构主要研发各种机器所需的应用软件。这些武器可以协助陆军部队或海军部队作战，扮演侦察员等角色。
美军现在使用的所有无人机都需要人为遥控，但“这款无人机不需要人工操控，”美国国防部先进研究项目局分项目主管、陆军少将奥尔洛夫斯基（Christopher Orlowski）表示，“它根据你的指令运作，飞行时像是有了另一个脑袋。”
它还可以很简易地武装起来。机器研发中最难的部分在于，既要保证机器的行为完全在可预测范围内，以方便将其安全地部署到军队中，同时也要让它们拥有多种可能性，从而能应对多变的实际环境。一旦解决了这个问题，那么想要让机器向谁开火是再简单不过的事；按照编程规定，无人机上的武器只能射击已有的某些特定目标。
当然，如果（自动化武器）行为技术被成功地研发出来，它肯定不会只被美国军队所持有。美国国防部先进研究项目局发明的技术通常不会保密，许多技术已得到了广泛运用，如自动驾驶汽车和互联网。
象棋冠军
自从1950年代以来，美军的战略一直基于具有巨大优势的先进技术上。在冷战初期，大量的核武器库存展现了美国的军事优势，而制导武器——也就是20世纪末所谓的智能炸弹（smart bomb）——也在冲突频发的最后十年中发挥了同样的作用。
如今，这些优势已不复存在。在近几十年涌现的新技术（如基因组学、装置微型化）中，“人工智能和自动化是美国国防部开展任务时使用最多的，”沃克说。
尽管如此，目前的软件存在不少缺陷。电脑发现图形目标的速度比任何人类都快。但就当前而言，处理不确定、预料之外情况的能力依然是人类的专长。
将两种能力相互补充、合二为一是五角大楼“半人马作战模式”的目标。
今年63岁的沃克此前在领导美国新一代防卫研究中心（Center for a New American Security）时首度提出了这个概念。他表示，这个概念并不来源于著名军事战略家——孙子或者克劳斯威茨——而是受启发于博客作者、乔治梅森大学（George Mason University）经济学家科文（Tyler Cowen）的著作。
在其2013年的著作《平均时代的终结》（Average Is Over）中，科文谈到了一个案例，两名普通的国际象棋家在三台常规电脑的帮助下，打败了所有国际象棋冠军和擅长于此的超级电脑。
这个案例让沃克茅塞顿开。你可以“用电脑的战术智慧来辅助人类的战略智慧，”他说。
沃克认为，象棋的案例可以被运用到战场上，他构想了一支在人工智能助力下的现代化部队。聪明的电脑可以让普通的指挥官变成战略大师。美国大兵也可以摇身一变成为超人，和机器人并肩——甚至驾驭它们——作战。
在过去五年中，五角大楼投入180亿美元研发新技术，其中有30亿作为专项资金用于研究“人类-机器联合作战”。按照五角大楼的标准，这一投入可谓九牛一毛——五角大楼的年度预算超过5000亿美元——但对于一个尚未在战场中得到验证的战略概念来说，这依然是一把不小的赌注。
与此同时，五角大楼官员表示，美国不大可能建立起面对对手的绝对技术优势。
“许多人工智能和自动化已经在商业世界中得到广泛运用，因此各领域的竞争对手都将以我们意想不到的方式使用这些技术，”沃克表示。
他还补充，美国的优势最终将来源于技术能力、批判性思维和决策能力三者的结合，这三部分将是美军优先发展对象。美军将重要的决定下放给各级指挥部，这与中国和俄罗斯军队集权化的组织形式完全相反。
“我们自信地看到，当竞赛开始后，我们是有优势的，”沃克表示，“但随着时间的推移，这种优势将发生怎样的变化，我们并不做任何判断。”
五角大楼以外的专家则远远显得信心不足，他们不相信美国可以通过人工智能保持军事主导地位。美国的国防工业已不再像冷战时期那般领世界之先，五角大楼不能垄断硅谷、欧洲和亚洲初创公司前沿机器学习技术。
与以往核武器和制导导弹需要占有大量技术和材料不同的是，五角大楼希望掌握的强大人工智能技术早已融入到每个人的日常生活当中。这方面的军事技术研究总是落后于民用和商用领域数年。
“坦白讲，美国国防承包商可以在某些领域处于前沿位置，但在另外一些领域却很滞后。”今年38岁的F-35飞行员布莱恩·希利（Brian Healy）说。F-35是美国最新、最先进的战机，装载了声控系统，对于切换无线电频道很有帮助，但其他则乏善可陈。
“如果机上可以装一些Apple和Google的应用就更棒了，”他补充说。
历史的借鉴
除了实际应用层面的考量，日趋成熟的武器自动化技术也引发了法学家和道德批评家的激烈讨论。问题不胜枚举，答案也颇具争议：我们可以放心地让机器成为致命力量吗？如果机器人误伤了医院或学校，责任该由谁承担？相较于被人杀害，被一台机器夺去生命是否是对人的尊严更大的侵犯？
一份五角大楼的指导材料显示，自动化武器必须拥有“适当水平的人类判断力”。科学家和人权专家表示，这样的标准太过宽泛，并强烈要求此类武器必须服从于“有效的人类控制”。
但如果与美国实力相当的竞争国家使用了全自动化武器，这些标准是否将置美国于不利之地？华盛顿研究机构新美国（New America）未来战争专家彼得·辛格（Peter Singer）认为，军方人员可以从潜艇战的历史中寻找启示。
和自动化武器一样，潜艇也是从科幻小说走进了现实。在第一次世界大战中，德国不顾船员和乘客的安危，使用潜艇击沉了民用船只，这种行为被视作野蛮之举。这在此后演变成了大规模的潜艇战，最终将美国拖入了战斗。
在一战结束后，美国主导签订了一项国际协议，以禁止不受限制的潜艇战。
一直到1941年12月7日，日军突袭珍珠港，6小时后美国弃置了恪守多年的法律和道德标准，向日本发动了不加区分的潜艇战。在第二次世界大战中，美国的潜艇击沉了大量日本民用商船舰队，此种军事行动在后来被指责为战争罪。
“关键在于，二战时潜艇已不再是一项新技术，而我们被逼得无路可走，”辛格表示，“这种状况同样适用于机器人技术，我们现在说我们不会这么做，但在另一场战争中就不好说了。”
（翻译：韩宏；编辑：陈升龙）