详细解读马斯克的抑制＂杀人机器人＂项目

特斯拉电动汽车公司(Tesla Electric Vehicle Company)首席执行官埃隆马斯克(Elon Musk)可能是人工智能技术快速发展背后的驱动力之一，但他也是该技术最直言不讳的批评者。马斯克将人工智能的发展比作“召唤恶魔”，声称智能机器可能在未来毁灭人类。这并不全是危言耸听，就在两天前发生了一起机器人杀人事件。

马斯克通过总部位于波士顿的非营利组织FLI资助了许多项目，致力于降低人类生存风险，确保人工智能的发展对人类有益。

马斯克曾经说过:“所有领先的人工智能专家都认为人工智能的安全性非常重要。我同意他们的观点，因此我今天投资1000万美元支持研究，以确保人工智能造福人类。”未来生活研究所从300多个申请项目中选择了资助目标，包括:

1.加州大学伯克利分校和牛津大学的科学家计划开发一种能够理解人类偏好的机器，这种机器可以帮助人工智能系统表现得更像人类，并降低它们的机器理性；

2.杜克大学的研究团队计划利用计算机科学、哲学和心理学来制造机器人，这些机器人能够在现实条件下做出道德判断和决策。

3.丹佛大学的科学家希望找到一种方法来确保人类不会失去对机器人武器的控制。

4.斯坦福大学的研究小组正在寻找机器人接管人类工作的解决方案。这一假设很可能导致大规模失业。

5.斯坦福大学的另一个团队致力于解决当前人工智能程序的局限性，这些程序在现实世界中的性能与测试环境中的性能完全不同。

6.牛津大学计划为人工智能编写一套道德准则，以帮助决定哪些类型的研究应该得到资助；

7.牛津大学哲学家、《超级智能:路径、风险、策略》一书的作者尼克·博斯特罗姆(Nick Bostrom)希望建立牛津-剑桥研究中心，并制定*、行业领袖和其他人必须遵守的政策，以降低人工智能带来的长期风险。

8.机器智能研究所的研究小组计划用强大的人工智能制造玩具模型，并观察它们的行为，就像早期的火箭先驱在制造真正的火箭之前制造玩具火箭并测试它们一样。

其他项目的详情可在以下网站找到:http://futureoflife.org/misc/2015awardees#Webb

未来生活研究所计划资助这些团队进行长达三年的研究，大多数研究项目将于2015年9月开始。马斯克剩余的资金将用于资助其他更有前景的项目。

今年早些时候，马斯克与许多科学家和企业家签署了一封公开信，承诺确保人工智能研究造福人类。公开信警告说，如果智能机器的安全得不到保证，人类的未来将陷入黑暗，科学家应该努力防止人类被抹去的危险。例如，在短期内，人工智能可能导致数百万人失业。从长远来看，智能机器可能比人类更聪明，并开始重写自己的程序。

去年10月，马斯克在麻省理工学院发表了演讲。他称人工智能是“对我们生存的最大威胁”他说:“我们应该警惕人工智能。如果让我来猜猜对人类生存的最大威胁，我想可能是人工智能。”