打破霍金预言，AI真的会是人类的终结者吗

编者按:近几十年来，随着计算机科学的快速发展和先进算法及编程语言的不断改进，人工智能逐渐开始接近人类处理某些方面问题的能力，并迅速受到全球的关注。然而，当人工智能向更好的方向发展时，许多科学家对人工智能和人类未来的关系充满了担忧。

悲观的预测

人工智能是指人类制造的机器能够体现的智能。这种人类智能技术主要是通过计算机程序代码实现的。自从约翰·麦卡锡在1955年的一次采访中提出人工智能这个词以来，近几十年来，随着计算机科学的迅速发展和先进算法和编程语言的不断改进，人工智能已经逐渐开始接近人类处理某些方面问题的能力，并迅速受到全球的关注。谷歌、百度和脸谱网等互联网巨头在开发人工智能和相关服务方面投入巨资。人工智能已经成为现代人类生活中不可忽视的一个因素。

然而，在人工智能蓬勃发展的过程中，传奇物理学家斯蒂芬·霍金对人工智能与人类未来的关系充满了担忧。他认为人工智能可能是人类文明史上最糟糕的发明，并担心人工智能最终会取代人类。他曾多次公开表示，“人工智能的完全发展可能导致人类的灭绝”。

不仅是霍金，钢铁侠设计师艾伦·马斯克和微软创始人比尔·盖茨都站在了这个问题的最前沿，他们也警告了人工智能的“危险”。麻省理工学院的教授和来自美国三大互联网巨头谷歌、IBM和微软的几名公司员工也联合写了公开信，表达了对人工智能将影响未来人类安全和社会福利的担忧。

关键的“技术奇点”

霍金认为，人工智能确实可以在人类发展的初级阶段给人类生活带来极大的便利。然而，机器将能够以越来越快的速度重新设计自己。"如果人类能编写计算机病毒，那么他们也能设计出能自我复制的人工智能."然而，人类受到生物进化速度的限制，无法以智能进化的速度与之竞争，这使得人类最终超越了人工智能。科学界称人工智能对人类智能的全面超越的这一转折点为“技术奇点”

“技术奇点”的具体含义是指当人工智能在广义上具有“自我进化”的能力或当“机器能产生更智能的机器”时，这种情况是可以实现的，因为技术进化的速度将远远高于生物进化的速度，所以人工智能与人类智能的比较将产生滚雪球效应，人工智能将继续进步，发展得越来越快，最终很快超过人类所有智能的总和。超越这个“技术奇点”，人工智能将很快超越人类能够控制甚至理解的范畴。当人类不能掌握机器运行的原理时，人类就不能控制机器的运行。因此，在突破奇点之后，人类的命运将不会完全掌握在自己手中。

3大赦国际结束人性的必要条件

然而，当人工智能已经完全超越了人类的智力，这是否意味着人工智能将采取措施结束人类的存在？这个问题值得我们仔细考虑，因为人类对比自己更强甚至可能比自己更强的事物深感忧虑和敌意。当然，这也是人类自卫机制的本能反应。然而，这种主观的本能反应将深刻影响我们对形势的判断。

从逻辑上讲，要独立解决任何问题，都有两个必要条件，即解决问题的能力和解决问题的动机。前者是个人的“能力”，而后者可以称为个人的“意识”。因此，关于“人工智能会成为人类的终结者吗？”这个问题，我们把它分成两个主要部分:第一，人工智能有能力终结人类吗？第二，人工智能有消灭人类的意志吗？

从人工智能的发展现状来看，从解决问题的能力来看，人工智能的智力全面超越人类智力是一个高概率事件。目前，在人类日常生活中遇到的所有问题中，超过80%可以通过设计超越人类智力的人工智能来更有效地解决。20年前的两次世界象棋“人机大战”与2015年AlphaGo在围棋中连续击败几名九段棋手的对比，是人工智能能力快速扩张和人类快速超越的典型案例之一。

然而，人工智能是否有终结人类的意志，或者人工智能将来是否有意识，完全是另一回事。根据达尔文的进化论假说，解决问题的意识来自生物的易激惹性，并通过“遗传变异+进化优势”模型来增加基因延续的概率，从而慢慢发展。这里，有两个条件必须满足:第一，个人有一个随机突变机制的遗传系统；第二，个体有一个能够保留有利基因和消除不利基因的内部环境。

然而，这两个条件目前在人工智能中不可用。虽然目前人工智能的“强人工智能”概念是创造能够真正推理和解决问题的智能机器，并且是感性的和自我意识的，人工智能甚至哲学界对这一课题进行了激烈的可行性辩论，但研究并没有取得任何实质性的进展。即使人工智能科学家在未来取得突破，使人工智能系统具备发展自我意识的先决条件，也很难预测人工智能能否在短时间内达到生物学上数十亿年自然进化的效果并获得有效的意识。

此外，即使人工智能有自制力，我们也不能断定人工智能会有毁灭人类的意志。首先，就能力而言，人类不会威胁人工智能的生存，因为人类的智力无法与已经有自我意识的人工智能竞争，也不会对人工智能构成实质性威胁，从而形成敌对关系。第二，在生活环境中，人工智能以机器为载体，可以在太空中翱翔，潜入水底，而人类需要呼吸氧气，因此与人工智能不会有利益冲突。因此，人工智能与人类之间不存在一定的矛盾甚至战争诱发因素，人工智能也没有终结人类的意义。

未知的未来

通过以上分析，人工智能直接发动战争来毁灭人类的可能性非常小，但是在未来的社会中，人工智能可能会在没有自我意识的情况下以其他方式毁灭人类。最典型的是人工智能将深刻地改变人们的工作和生活方式，造成人类社会的混乱和矛盾，从而用自己的双手毁灭人类自己。

目前，人工智能威胁理论势头越来越大。许多著名学者预测，许多人类职业将被人工智能取代，导致大量工人失业，从而使社会面临动荡和冲突的危险。这就要求人类在未来的生活中面对如此巨大的变化时，能够正视这些变化，树立一种心态，找到自己的位置，发挥自己的才能，充分利用这些才能，在变化的洪流中挖掘自己更大的力量和价值。

参考

[1]中关村在线。谁是人类的终结者？这是霍金的答案。[在线]提供:https://www.pixpo.net/science/0IXzRusI.html.(2018/03/15)

2]布普特勒先生、梁、.人工智能即将威胁人类的生存？[在线]提供:https://www.zhihu.com/question/41188736.(2017/09/15)

[3]*。人工智能。[在线]提供:HTTPS://ZH。Wikipedia.org/wiki/%E4% BA % BA % E5 % B7 % A5 % E6 % 99% BA % E8 % 83% BD。(2018/03/26)

作者:上海交通大学机械与动力工程学院，机械系统与振动国家重点实验室，史帅康橙色科普团队

审稿人:余乃功，北京工业大学教授，中国著名科普专家

由北京市人民*、工业和信息化部、中国科协主办，中国电子工业协会、北京市经济和信息化委员会、北京经济技术开发区管委会承办的2018世界机器人大会将于2018年8月15日至19日在北京举行。会议的主题是“创造智慧的新动力，共享开放的新时代”，汇集了来自中国、美国、俄罗斯、德国、日本、加拿大、韩国和以色列的300多名*专家和商界领袖。来宾将围绕六个主要阶段进行主题报告和峰会对话:“国际合作与机遇”、“基础技术与创新”、“前沿趋势与探索”、“人工智能与集成”、“新兴应用与实践”以及“市场前景与投资”。