为何说成立五角大楼AI中心是美国AI战略的一大步
2016年10月，新成立的国防创新委员会首次提出了一系列建议(该委员会是美国国防部高级*的咨询机构，其成员包括来自私营部门、学术界和非营利组织的代表)。其中一项提议是在国防部内建立一个“集中的、有重点的和资源充足的组织”，以促进人工智能和机器学习的应用研究。
该提议提出后不到两年，五角大楼就把这个想法变成了现实。6月27日，国防部副部长帕特里克·沙纳汉发布了一份备忘录，正式建立新的国防部联合人工智能中心(JAIC)。根据备忘录，JAIC的主要目标是加快国防部提供人工智能的能力，扩大人工智能对整个部门的影响，并同步国防部的人工智能活动。为此，JAIC将指导实施名为“国家任务计划”的大规模人工智能项目，该项目“旨在解决一系列紧迫和相关的挑战”此外，“国家任务计划”和国防部对云技术的采用将使整个国防部能够快速交付人工智能。JAIC还将作为一个平台，改善国防部与包括私营企业和学术界在内的外部各方在人工智能相关项目上的合作。
值得注意的是，JAIC还将注重伦理和人道主义考虑，以及短期和长期人工智能安全。五角大楼国防创新单位实验的机器学习负责人布兰登·科德(Brendan Cod)表示，这些问题将在建立人工智能防御原则的过程中得到反映，而人工智能防御原则只能在多个利益相关者的参与下制定。尽管JAIC的工作范围仍不清楚，但JAIC的这一特殊层面可能在实现五角大楼的人工智能目标方面发挥重要作用。
以透明的方式开发、制度化和传达人工智能防御原则不仅可以降低人工智能系统的操作风险，还可以通过让五角大楼更好地访问和整合美国人工智能的创新资源来提高美国的国家安全。如果五角大楼之前计划为人工智能系统的开发和部署建立透明的指导方针并设定红线，人工智能研究人员和公司可能会更愿意与之合作。在全球范围内，如果JAIC证明其人工智能的安全意识和伦理方法不会危及国家安全，但能更好地维护国家安全，JAIC可以成为寻求类似技术的其他国家的重要榜样。
为什么华盛顿需要JAIC？自冷战结束以来，美国在国际秩序中享有几乎无与伦比的超级大国地位。美国国力的一个重要支柱是其遥遥领先的军事技术优势。然而，过去支持美国军事优势的技术，如精确制导武器，已经通过全球化技术转移的力量扩散到竞争国家。这些竞争国家随后发展了越来越多的能力来挑战美国的军事霸权。
为了保护和扩大美国未来的军事优势，美国国防部把赌注押在了人工智能上。国防部的第三个取消战略提出了一种方法，旨在“利用人工智能和自治的所有发展，并将它们嵌入国防部的作战网络。”(美国认为其军事优势正在逐渐被削弱。为了在新一轮大国军事竞争中获得绝对优势，自2012年以来逐渐走出伊拉克和阿富汗反恐战争泥潭的美国，于2014年推出了以“创新驱动”为核心、以“发展颠覆性技术集团”为重点的第三个“抵消战略”。人工智能在军事领域的潜在应用多种多样，从提高后勤系统的效率到更敏感的任务，如先进武器系统的自动指挥和控制。2018年国防战略预测人工智能可能会改变战争的性质。因此，用沙纳汉的话说，美国“必须大胆追求人工智能的应用”。
美国国防部在人工智能方面的雄心面临的主要挑战之一是，目前开发和部署尖端人工智能技术的能力几乎完全被私人技术公司垄断。目前，美国的商业人工智能产业处于世界领先地位。这个职位的衡量标准包括硬件设计和最好的人工智能研究人员的集中程度。另一方面，五角大楼一直在努力发展自己的研发能力，并将很快赶上私营企业的发展。美国国防部已经逐渐意识到适应现实的需要。历史上，军队一直是改变游戏规则的技术的摇篮。现在，国防部不再是美国这个技术基地进步的焦点。相反，军方的技术战略越来越依赖于商业参与者创造和控制的技术基础。
对国防部来说，由于硅谷和华盛顿之间的“文化冲突”，私营企业获取人工智能资源变得复杂。这种关系中的一个因素是，“硅谷价值观”将受到与军方接触的影响，因为他们是客户、资助者甚至支持者。这种对抗的力量令人惊讶——考虑到在硅谷的早期，国防部既是高科技公司的主要投资者，也是其客户。事实上，与国防部的关系是科技公司赢得竞争的必要动力。尽管有这种早期形式的合作，今天的分歧仍然存在。
美国国防部最近试图让谷歌参与人工智能的部署，这也凸显了硅谷和华盛顿之间的差距。今年早些时候，谷歌的Maven项目——一项自动分析无人机采集的视频的计划——被公之于众，这一消息在公司内外引起了重大争议。数千名谷歌员工在一封公开信中*该公司参与“战争业务”，并呼吁该公司退出该项目。几名员工辞职了。谷歌最终决定不再续约，并迅速发布了一套人工智能原则来平息公众的强烈反对。这一失败预示着一场可能持续的冲突，在这场冲突中，像谷歌这样的私营公司被夹在与人工智能武器化不一致的公共价值观和他们从国防部寻求更多商业机会的动机之间。
文化冲突的第二个层面涉及硅谷和国防部之间不同的创新和运作速度。显然，私营部门研发周期的加快与通常持续数年的传统军事采购过程形成鲜明对比。更具体地说，跳过国防部冗长的官僚程序所需的大量时间和资源是许多公司不愿承担的成本。也就是说，国防部已经多次尝试在收购方面更加灵活，以增加与私营企业合作的机会。迄今为止，这些努力取得了喜忧参半的结果。
最新的倡议是2015年国防创新单位实验的基础——这是前国防部长阿什顿·卡特的想法，他的办公室位于美国的关键创新中心。国防创新测试单位的目标是重建国防部和商业技术公司之间的关系，迅速满足该部门的需求，并提供适当的技术解决方案。为此，国防部引入了所谓的“商业解决方案开放激励机制”，这是一种快速灵活的合同程序，允许国防部以私营企业的速度开展工作。尽管一些人质疑该部门的有效性和必要性，但其他人称赞该计划，称它正在改变该部门的商业行为，并改善与私营企业的合作。
那么，JAIC能帮助克服美国当前的挑战吗？尽管五角大楼仅公布了JAIC具体计划和行动的有限细节，但从该计划的高层命令来看，它可以为人工智能防御战略奠定基础，从而解决当前在结构和文化上阻碍国防部的挑战。JAIC的主要职责似乎集中在组织和简化基础设施上，以便美军能够更有效地调动人工智能的力量。JAIC将领导实施国家任务计划——在各军事和服务部门、参谋长联席会议、作战指挥部和国防部其他几个部门之间进行协调。JAIC目前制定的备忘录强调，需要开发全部门的工具、技术和流程，为实现该国的人工智能目标建立一个共同的基础，该部正在发出信号，表明JAIC将是领导这种努力的实际机构。
在这种情况下，JAIC似乎至少在一定程度上致力于在美国众多致力于人工智能集成的联邦机构之间建立更加一致和协调的努力。通过集中和标准化人工智能应用的核心输入，例如共享数据和协议，JAIC可以大大降低开发和部署人工智能的成本。此外，如果这些改进扩展到进一步改革技术获取的过程中，理论上JAIC可以降低与*合作的私人人工智能公司的交易成本，从而使这些商业主张更具吸引力。
然而，效率的提高并不足以完全解决美国*在通往人工智能伟大成就的道路上的障碍。为了鼓励联邦机构与领先的人工智能公司和研究人员之间建立富有成效的关系，JAIC——以及参与国防部更广泛的人工智能战略的其他机构和部门——将需要可靠地致力于以不违反道德和安全的方式处理人工智能的开发和部署。这对于确保私营企业和学术界之间的合作，以及维护美国军队在国际舞台上的信誉和诚信至关重要。
在与私营企业的合作过程中，最近的争议凸显了一个事实，即人工智能研究人员和私营企业*将道德和安全视为不可逾越的底线。Maven项目只是众多迹象之一，表明私营企业和*机构之间的紧张关系远未得到解决。亚马逊和微软最近因为向移民和执法机构出售支持人工智能的面部识别软件而受到指责。最近，未来生命研究所在一封信中呼吁各国*禁止使用致命的自动武器。它得到了几家领先人工智能公司的支持，包括谷歌旗下的元素人工智能和深度思维。这封信也得到许多人工智能研究者的签名和支持。
人工智能公司和研究人员正面临一个决定性的挑战——何时与国家安全部合作？我们如何与之合作？有些人认为全面抵制是唯一的出路。其他人认为人工智能和军事的整合是不可避免的，所以他们的任务是在道德的基础上实现人工智能的整合。如果美国*未能澄清其在道德和安全方面的原则立场，国防部和人工智能私营企业将无法合作。然而，如果JAIC成为致力于道德和安全的先锋，它可能会带来与私营企业的新一轮合作——基于一种共识，即美国应该也不应该部署和利用人工智能。
在国际舞台上，JAIC也为美国向其他国家发送信号提供了一个重要的机会，以表明其对人工智能系统开发和部署的可靠性和安全性的承诺。在美国军事机构中也有很强的安全法规先例，尤其是在海军潜艇、航空母舰甲板操作员和宙斯盾武器系统操作员中。因此，面向安全的人工智能集成方法是美国军事行为的自然延伸——尽管具有挑战性，但也是必要的。领先的人工智能研究人员发现，许多现代机器学习系统仍然缺乏稳定性——因此，它们很容易导致人类设计师无法预见的事故。当用户是美国军方时，这种风险有时会产生严重的后果。然而，随着部署技术系统的复杂性增加，这种错误可能变得更加常见。
因此，美国军方应该优先考虑减轻与人工智能支持的系统的意外后果相关的风险，并为追求其他类似技术的部队设定一个标准。安全意识的需求很可能会被其他国家普遍接受，并有助于与加拿大、欧盟和其他国家建立富有成效的联盟。他们在各自的人工智能策略中强调了道德和安全的重要性。这种方法还可以降低美国和其他国家之间的竞争态势演变成“向顶端竞争”的风险，即每个国家都将采取捷径来加强其人工智能系统的安全性和稳定性，以获得相对于其他国家的优势，从而造成重大意外伤害的风险。
目前，JAIC是一个非常好的平台。在实现人工智能的过程中，它可以作为一种工具来证明美国对道德和安全的可靠承诺。事实上，JAIC的核心任务之一是与国防部长办公室合作，为人工智能的开发和交付制定标准和治理框架。在建立JAIC的过程中，国防部发出了一个信号，以确保它“坚持其对军事道德和人工智能安全的承诺”。作为美国国防部的一个重要组成部分，JAIC已经成为推动人工智能发展的一个重点，这为美国提供了一个及时的机会，来清楚地说明其实现人工智能符合道德伦理及其安全性。