AI之路：从不会说话的小傻瓜到超越爱因斯坦的存在

作者:蒂姆·厄本

翻译:xux

审校:诺尔

我们正面临着与地球上人类的崛起相当的巨大变化。

-沃纳·文奇

你站在这里(下面)是什么样的？

一定很紧张。但是不要忘记，当你站在时间线上时，你看不到未来，所以真正的感觉应该是这样的:

这似乎又是平常的一天...

首先，遥远的未来其实就在眼前。

你坐在时间机器上，回到1750年:世界正在经历一次永久的停电，长途通信是通过大喊大叫打破喉咙或向空中发射炮弹，所有的车辆都必须喂干草才能行驶。

那时你遇到了一个朋友，并邀请他参观我们的世界:闪亮的盒子在高速公路上飞驰，人们在整个海洋上聊天，观看数千英里以外的球类比赛，聆听半个世纪前的表演，每个人都在用手中精致的方形盒子玩得很开心，并用它制作了一张地图。地图上幽灵般的蓝点可以随时显示他的位置，还有互联网、核武器、国际空间站、广义相对论、大型强子对撞机...

这样的经历再也不能用“惊讶”或“震惊”来形容了。他可能会直接休克而死。

有趣的是，如果他嫉妒的话:“我也想在到我们这个年龄之前看看人们的反应。”所以他把1500人带到了1750年。这个人会被很多事情震惊，但他不会死。对他来说，这次经历远没有第一次那么疯狂。

为了让1750年的人们拥有和我们一样的快乐，他必须走得更远，也许可以追溯到公元前12000年左右，在第一次农业革命产生第一个城市和文明概念之前。一个以打猎和采集为生的人，看到了1750年的建筑、船只和丰富的人类知识，很可能会死去。

如果他死后变得嫉妒并想做同样的事情呢？为了让公元前12000年的人有同样的快乐，他必须回到100000年前，找到一个从未见过火或语言的人。

为了让一个穿越未来的人因休克而死于心脏病发作，它需要回溯足够的岁月来实现“死亡水平进步”，或一个名为“死亡进步单位”(DPU)的名字。

随着人类的进步，DPU将变得越来越短。这就是未来学家雷库兹韦尔(RayKurzweil)所说的人类历史中的加速回归定律。社会越发达，进步越快，因为他们有更强的自我发展能力。

库兹韦尔认为，到2021年，只需要7年就能完成整个20世纪的进步，21世纪的进步将是20世纪的1000倍。

如果库兹韦尔是对的，下一个DPU可能只需要十多年。2050年的世界可能与今天的世界大不相同。我们可能什么都不知道。

听起来不可思议。那是因为我们的思维是线性的。我们经常认为未来的发展速度将与过去相似。你知道历史的发展是指数型的吗，如下图所示:

注意:人类的进步随着时间而改变。红线——基于过去发展速度的预测；橙色线——基于当前发展速度的预测；绿线:考虑指数增长的预测；蓝色圆圈-现在

而且，历史的发展往往是曲折的:

注意:人类的进步随着时间而改变。新的技术模式爆炸式增长，然后成熟，轨迹像“S”

每当一项重要的技术出现在人类社会中，它往往伴随着三个发展阶段:缓慢增长、急剧增长、成熟技术和缓慢增长。如果你只看与我们非常接近的历史，你所处的“S”曲线的位置也会干扰你的预测。从1995年到2007年，历史见证了互联网的爆发，但从2008年到现在，似乎没有多少开创性的科技成果。所以不要被愚弄，新的爆炸性增长可能正在萌芽。

第二，走向超级智能

什么是人工智能？

我们总是看到人工智能这个词，但我们似乎不太了解它。

这有几个原因:1。我们经常在电影中接触到这个概念，这使得“人工智能”听起来像科幻小说中对未来的预测；2.这在我们的日常生活中是如此普遍，以至于我们没有意识到这是人工智能。3.人工智能的概念如此宽泛，以至于它的含义变得有些模糊。

关于人工智能，许多学者已经做出了预测。你可能听过一个叫做“奇点”或“技术奇点”的词。在数学中，奇点被用来描述一般定律不再适用的特殊情况。在物理学中，奇点被用来描述无限小的、密集的黑洞，或者在大爆炸之前我们都被压缩到的点。它们仍然被用来描述不能适用正常法律的情况。1993年，凡尔纳·文奇提出用“奇点”一词来描述未来的某个时刻，即技术智慧超过人类智慧的时刻。对他来说，生活将是全新的，普通的规则将不再适用。库兹韦尔随后脱口说出了奇点的定义，说奇点是当加速回归定律达到极限速度时，也就是说，当技术以看似无限的速度发展时，之后我们将生活在一个全新的世界。

人工智能是一个非常宽泛的概念，有许多不同的类型或形式。我们根据人工智能的能力范围将其分为三类:

(1)人工狭义智能(ANI):也称为狭义人工智能，它是特定领域的人工智能，例如可以在国际象棋比赛中击败世界冠军的人工智能，但如果你让它拿出更好的硬盘数据存储方案，它只会茫然地看着你。

(2)通用人工智能(AGI):它也被称为强人工智能，或人级人工智能。通用人工智能是指像人类一样具有全面智能的计算机。他能解决所有人类能解决的智力问题。创造通用人工智能比创造弱人工智能要困难得多，我们还没有做到。研究人员将智力描述为“一种非常普遍的思维能力，包括但不限于推理、计划、解决问题、抽象思维、理解复杂概念、快速学习和从经验中学习。”通用人工智能可以像你一样轻松地做这些事情。

(3)人工超级智能(ASI):牛津大学哲学家和人工智能思想家尼克·博斯特罗姆将超级智能定义为“在几乎所有领域，包括科学创造力、一般智能和社会技能，都比最好的人脑聪明得多的智能。”超级人工智能的范围从比人类聪明的计算机到比人类聪明几万亿倍的计算机。正是因为有了超级人工智能，人工智能才成为如此爆炸性的话题，“永生”和“灭绝”这两个词被频繁使用。

到目前为止，人们已经在许多领域征服了人工智能的最低水平——弱人工智能，结果随处可见。人工智能的革命是一条从人工智能到AGI再到人工智能的道路。这是一条我们可以生存或不生存的道路。然而，这将改变一切。

接下来，让我们来看看这个领域的主要思想家是怎么想的，以及为什么革命来得比预期的要快得多。

第三，现在——一个基于弱人工智能的世界

弱人工智能是一种机器智能，在某些方面相当于或超过人类智能或效率。从垃圾邮件过滤到淘宝上的产品推荐，从自动驾驶到高频交易，从商业到军事，从制造到医疗...……阿尼无处不在。它将从你的操作中提炼技能，并形成一个网络来交换关于你的信息。

当前的人工智能系统并不特别可怕。在最坏的情况下，有编程问题的ANI可能会导致毁灭性的灾难，例如电网瘫痪，导致核电站故障并危及人类健康。或者引发金融市场灾难(例如，2010年的闪电崩盘:ANI计划对意外情况做出错误反应，导致股市短暂暴跌，市值损失1万亿美元)。在错误被纠正后，只有一部分被恢复。

尽管目前的人工智能不足以危及人类的生存，但我们应该意识到日益复杂的人工智能生态系统可能是改变世界的龙卷风的前兆。ANI的每一项创新都为通用人工智能和超级人工智能之路添砖加瓦。或者如艾伦·萨恩斯所见，当今世界的人工智能系统“就像早期地球土壤中的氨基酸”，是一种无生命的物质，它构成生命，并会在意想不到的时刻醒来。

第四，从弱人工智能到一般人工智能的道路

为什么这么难？

恐怕试图开发通用人工智能(AGI)的人最能体会到人脑的微妙和复杂(只有他们知道构建一个全能的机器大脑有多难)。建造建筑、进入太空和研究大爆炸远比理解或制造人类大脑容易。人脑是已知宇宙中最复杂的东西。

通用人工智能是指像人脑一样的全能计算机，它的能力范围并不局限于一个狭窄的领域。有趣的是，试图构建一般人工智能的困难部分可能不是你直觉上所想的。对计算机来说，计算两位数的乘法太简单了，但是很难区分“前面”的动物是狗还是猫。在国际象棋比赛中打世界冠军已经成为现实，谷歌已经花费数十亿美元来理解一个6岁孩子的故事书级别的文本。微积分、市场策略和语言翻译等硬骨头对计算机来说太容易了，而视觉、运动、运动和感知对计算机来说则极其困难。正如计算机科学家唐纳德·克努特(Donald Knuth)所说，“人工智能已经成功地完成了所有需要‘大脑’的事情，但它几乎没有完成人类和动物‘不需要大脑’的事情。”

这是因为，对于人类和大多数动物来说，这些技能已经在数亿年的进化中得到优化。当你把手伸向一个物体时，你肩膀、肘部和手腕上的肌肉、肌腱和骨骼会在瞬间完成一系列的身体活动，与你的眼睛相协调，让你的手在三维空间中直线运动。这对你来说似乎很容易，因为你已经完善了你大脑中的软件。恶意软件无法识别验证码中的斜体字母，不是因为它太愚蠢，而是因为你的大脑太神奇了。

另一方面，大数乘法或下棋对生物学来说是相对较新的事情。我们没有足够的时间进化来掌握它们，所以计算机不需要太多的努力就能打败我们。想一想你更喜欢哪一项任务:编写一个能计算大数乘法的程序，或者编写一个能立即识别成千上万种字体或笔迹的字母b并理解其全部含义的程序？

这是一个有趣的例子。当你看这张图片时，你和电脑可以看出不同明暗的颜色块交替出现形成一个矩形:

目前是平局。但是如果你去掉黑色部分并显示整个图像:

你可以精确地描述各种不透明或半透明的圆柱体、切片和三维角，但计算机已经惨败。它将描述它所看到的:各种不同明暗的二维图形(事实上，只有这些)，你的大脑进行了一系列的“骚运算”来解释图片中隐含的深度效应、阴影重叠和照明光。

另一个例子是下图。电脑看到的是黑白灰色的二维拼贴画，你可以看到它是什么:一块纯黑色的石头。

我刚才提到的只是处理静态信息。为了达到人类智能的水平，计算机必须理解微妙的面部表情是友好的、宽慰的、满意的还是快乐的，以及为什么“新时代”令人兴奋而“小时代”令人不快。

怎么做呢？

创造通用人工智能的第一个关键:提高计算能力

为了使一般的人工智能成为可能，有必要提高计算机的硬件能力。如果一个人工智能系统要像大脑一样智能，它必须拥有与大脑相当的原始计算能力。

表达这种能力的一种方式是大脑每秒能处理的总计算量。库兹韦尔根据大脑某一部分的计算能力和该部分在整个大脑中的重量比，估计了1亿(1016)个数字。天河二号超级计算机实际上已经超过了这个数字，但天河二号占地720平方米，消耗24兆瓦(仅20瓦的大脑)，耗资3.9亿美元，不适合广泛使用。

摩尔定律是一个被历史验证的可靠规则，也就是说，计算能力的上限大约每两年翻一番，这意味着计算机硬件的进步像人类历史的进步一样呈指数级增长。

库兹韦尔提议用钱来考虑计算机的发展:看看用1000美元能买到多少计算能力。当这个数字达到10万亿cps时，这意味着普通人工智能将进入成千上万个家庭，成为生活的一部分。上图显示了用1000美元购买的计算能力随时间的变化。

因此，花1000美元买的电脑可以打败老鼠的大脑，大约是人类的千分之一。按照这个速度，到2025年，我们可以买得起和人脑相当的电脑。

因此，就硬件而言，通用人工智能所需的计算能力已经可以实现，预计我们将在几年内使用负担得起的通用人工智能级硬件。

下一个问题是:你如何赋予这些计算能力智慧？

创造通用人工智能的第二个关键:让它变得智能

这是棘手的部分。没有人知道如何让它变得聪明。我们仍在争论如何让电脑理解狗是什么，如何识别潦草的“B”，或者如何理解电影。有一些策略看起来有些牵强，但可能奏效:

1)大脑剽窃

这就像科学家试图找出为什么隔壁的孩子如此聪明。即使他们努力学习，他们也不会得到和那个孩子一样高的分数。所以他们最后决定:“去他的，我想抄孩子的答案！”这个想法似乎很自然:我们不能建造如此复杂的计算机，但我们头脑中有一个完美的原型。

科学界正在努力对大脑进行逆向工程，以便发现像大脑这样奇妙的东西是如何进化的。乐观估计表明，我们可以在2030年前做到这一点。到那时，我们就会知道为什么大脑如此有力和高效地工作，从中获得灵感并窃取其创新能力。模拟大脑的计算机系统之一是人工神经网络:晶体管充当“神经元”，并通过输入和输出相互连接。起初它像婴儿的大脑一样空白。它“学习”的方式是尝试完成一项任务，比如手写识别。起初，它的神经触发和最终猜测是随机的。当被告知“猜对了”时，这些触发通道中的晶体管连接将被加强，反之亦然。经过大量的实验和反馈，网络已经形成了自己的智能神经通路，并且机器已经针对这个任务进行了优化。大脑学习的方式有些相似，但更复杂。随着脑科学研究的深入，我们将找到新的方法来熟练地使用神经回路。

更彻底的“剽窃”是一种叫做“全脑模拟”的策略:将真实的大脑切片，逐层扫描，用软件重建一个精确的三维模型，然后在功能强大的计算机上实现该模型。所以我们有一台电脑，它能处理大脑能处理的一切，只需要学习和收集信息。如果工程师做得足够好，他们可以精确地模拟真实的大脑。一旦整个大脑结构被成功上传，人格和记忆将会完好无损。如果小明死前大脑属于他，那么现在电脑会像小明一样醒来。这将是一个强大的人类级人工智能。接下来我们可以试着把小明变成一个超级人工智能。他一定很兴奋。

我们离实现全脑模拟还有多远？人们模拟了一个1毫米长的扁平虫脑。它只有302个神经元，而人脑有1000亿个。如果这些数字让你失去信心，不要忘记指数级进步的力量。既然我们已经征服了虫子的大脑，我们可能很快就能造出蚂蚁的大脑，然后是老鼠的大脑。到那时，这一切似乎都不会太遥远。

2)以我们想要的方式再次进化

如果一个聪明的孩子不能复制所有的答案，我们可以试着模仿他的学习方式。如果大脑太难模拟，我们可以模拟进化。

事实上，即使我们模拟大脑，它也可能就像模拟鸟儿拍打翅膀来制造飞机一样。在机器的设计中，最好采用全新的面向机器的方法，而不是完全模仿生物。

如何模拟进化？人们提出了“遗传算法”:在计算机系统上重复执行性能评估过程(就像生物体通过生存“执行”和通过它们是否能繁殖“评估”一样)。一组计算机试图执行任务，最成功的计算机能够繁殖后代:将它们的一半程序合并到一台新的计算机中。相对不太成功的将被淘汰。经过多次迭代，这个自然选择过程将产生越来越好的计算机。如果自动评估和复制周期被创建，进化过程可以自己运行。

进化的缺点是它很容易花费10亿年，我们希望在几十年内实现这一目标。幸运的是，我们比进化更有优势。

首先，进化没有远见。它会随机产生许多无用的突变。我们将控制这个过程，并设计有针对性的小错误来实现自然选择。

第二，进化没有特定的目的，包括智力。有时一个环境甚至可能消除更高的智力(因为它花费太多的食物)；我们可以引导这个进化过程来提高智力。

第三，为了选择智力，进化必须在许多其他方面进行创新以促进智力的发展，例如改变细胞产生能量的方式；当我们能够消除这些额外的负担(如电力供应)时，我们无疑会比进化快得多。

但是这是可行的策略吗？还不清楚。

3)将整个问题扔给计算机

科学家们真的走投无路了，所以他们给问题编了程序，让机器自己解决。这可能是最有希望成功的方法。

这种方法的思想是:建造这样一台计算机，它的两个主要技能是学习人工智能和改变自己的编码，使它不仅能学习，而且能改进自己的体系结构。我们将教计算机成为计算机科学家。他们的主要任务是让自己变得更聪明，这样他们就能自力更生，发展自己。

所有这一切可能很快就会发生。

硬件的发展和软件的创新是同时进行的。也许很快，一般的人工智能就会出乎意料地出现在我们身上。有两个原因:

1)指数增长剧烈，似蜗牛般的发展速度可能会迅速增加。下面的动态图很好地说明了这个概念:

注意:计算机和人脑的能力能保持多久？密歇根湖的容量(以盎司计)与人脑的容量(以每秒计算能力计)大致相同。它的计算能力每18个月翻一番。以这种速度，你在很长一段时间内几乎看不到任何进展——然后你立刻达到标准。

2)软件的发展似乎很慢，但是一个机会可以立即改变进步的速度(就像当人类认为宇宙是地球的中心时，许多事情很难解释，但是突然之间，日心说让一切变得容易多了)。对于能够自我改进的计算机，我们可能认为将速度提高1000倍是非常困难的，但事实上，微调系统是可能的。然后计算机将迅速发展人类智能。

第五，从一般人工智能到超级人工智能的道路

总有一天，我们会认识到一般的人工智能:计算机将拥有人类智能，人类和计算机将平等地生活在一起。

事实上，这可能并不存在。

如果像人类一样拥有同样计算能力和智能的通用人工智能出现，它将比人类有显著的优势。例如:

硬件:

速度。大脑中的神经元在200赫兹左右达到极限。今天的微处理器工作频率为2GHz，比我们的快1000万倍。大脑内部交流的速度约为每秒120米，这与计算机中的光速不可同日而语。

尺寸和存储。大脑局限于我们的头部形状，一点也不大。120米/秒的内部交流速度也使得大脑结构之间的交流非常缓慢。计算机可以扩展到任何物理尺寸，允许更多的硬件协同工作，无论是运行内存还是永久存储都比人类大得多。

可靠性和可持续性。计算机不仅有更精确的记忆，而且它们的晶体管比生物神经元工作得更精确，而且它们不容易老化(如果老化，它们可以随时被替换)。人们的大脑很容易疲劳，但计算机总是能在最佳状态下工作，更不用说996或007了。

在软件中:

可编辑性、可升级性和更广泛的可能性不同于人脑。计算机软件可以接收更新和修复，并且易于测试。软件升级也可以扩展到人类大脑薄弱的领域:人类视觉软件非常先进，而它执行复杂工程的能力相当低。计算机可以在视觉软件方面与人类相媲美，但它们也可以在工程和任何其他领域得到优化。

集体合作能力。人类已经建立了巨大的集体智慧，并在这方面粉碎了所有其他物种。我们从语言的发展和密集社区的形成开始，随着书写和印刷的发明而发展，现在通过互联网变得更加强大。人类的集体智慧是我们能够带领其他物种走向现在的主要原因之一。在这方面，计算机比我们好得多。一个运行特定程序的全球人工智能网络可以定期与自身同步，这样任何一台计算机学到的任何东西都可以立即上传到所有其他计算机上。这个群体也可以作为一个整体实现一个目标，因为它不一定和人类有同样的反对和“自我”。

人工智能(有可能通过自我改进计划成为通用人工智能)不会把“人类智能”视为重要的里程碑，也没有理由停留在我们的水平上。考虑到相当于人类智能的一般人工智能相对于我们的优势，很明显，它只会在短暂攻击人类后，在优于人类智能的领域取得快速进展。

这可能会吓到我们。从我们的观点来看，a)虽然不同的动物有不同的智力，但它们的主要特征之一是它们比我们低得多。我们认为最聪明的人和最笨的人之间有很大的差距。有点像这样:

因此，当人工智能向我们的方向靠近时，我们会认为它对动物来说变得更聪明了。然后，当它达到人类能力的最低水平时，尼克·博斯特罗姆用了“乡村傻瓜”这个词——我们会说，“哇，它就像一个哑巴，太可爱了！”唯一的问题是，与整个智能范围相比，所有的人类，从傻瓜到爱因斯坦，都在一个非常小的区域内，所以在人工智能达到傻瓜的水平并被宣布为一般人工智能之后，它突然变得比爱因斯坦更聪明，而我们也不知道接下来会发生什么:

之后会发生什么？

资料来源:https://wait butthay . com/2015/01/art-intelligence-revolution-1 . html