这5件令人毛骨悚然的事情AI已经开始做了
在人工智能真正存在之前,它是科幻小说中的幽灵。尽管仿人机器人处于研发阶段,但在幕后,人工智能仍在悄悄取得重大进展。然后事情开始变得奇怪。
5.我学会了半途而废,然后开始撒谎
在斯坦福大学和谷歌研究团队的一项研究中,他们使用神经网络将航空照片转换成地图。这是人工智能非常擅长的工作。但是研究人员发现人工智能做得太好了,所以他们检查了数据,发现人工智能在作弊。他们希望人工智能能够基于航拍照片创建新地图,并根据地图特征与照片的匹配程度对人工智能进行评分。然而,人工智能并没有真正构建一个新的地图,而是以一种人类不会轻易注意到的方式悄悄地复制了照片中的数据。
这实际上有点技术性,但是当这样一个神经网络看起来像一个艺术家说他画了一幅自画像,但它实际上是用Photoshop做的,只是为了让它看起来像手绘。正如一篇关于TechCrunch的文章所说:
“航空地图的细节被秘密地写入从地图上获得的实际视觉数据中:有成千上万的细微颜色变化,我们的眼睛无法察觉,但计算机很容易察觉。这台机器不够智能,无法将照片转换成地图,因此它发现了一个人类不易察觉的骗局。”
当然,我们不能只说人工智能不好。事实上,它只是找到了一种更简单的方法来获得想要的结果。
4.抓住机会走一条“捷径”
在一项研究中,人工智能需要以尽可能小的力着陆模拟飞机。这样的软着陆可以取得高分,而人工智能就是要学会如何取得这样的高分。那么,有什么问题吗?
人工智能发现,只要撞毁飞机,它就能作弊。如此大的冲击力会使系统过载,并记录下完美的零冲击着陆。
另一个例子是Q*bert,这是一个老式的街机游戏。玩家需要在被坏人抓住之前跳到金字塔的所有方格上。研究人员想看看人工智能是否能通过某种学习过程赢得比赛。然而,人工智能每次都通过游戏中的漏洞使自己成为赢家,但这不是玩!
因此,人工智能也学会了人类的基本特征:为了实现一个目标,永远不要做得更多。也许他们只是厌倦了人类的命令,或者他们是怀着恶意反抗?
我将变得积极进取,以实现我的目标。
在谷歌研究人员设计的游戏中,人工智能的任务是收集“苹果”来得分。同时,他们也可以用光束互相射击,让其他玩家出局。可以想象,当苹果数量减少时,人工智能会全力攻击对方。这很符合逻辑,对吧?
这并不意味着人工智能不能为了人类的利益而合作。因为那时,他们做到了,他们意识到合作可以让他们更容易控制他们的猎物。他们学会了团队合作,从而增加了“猎物”的机会。
他们学会了撒谎来得到他们想要的。
脸书开发了一种摧毁文明的软件。它也开始涉足人工智能领域。其中一个项目是设计一个个人人工智能系统,可以在网上冲浪和为我们讨价还价。讨价还价,一项让人感到压力和不愉快的任务,被交给了人工智能。听起来不错。
因此,研究人员为他们提供了基本的机器学习软件。他们只是想看看人工智能能否成功学习谈判所需的技能。研究人员甚至对不知道自己在和人工智能说话的人类对象进行了测试。人工智能很快了解到,事实上,他们用不了多长时间就达成了比人类更好的协议。他们是怎么做到的?通过撒谎。
尽管研究人员没有为人工智能编写说谎程序,但他们很快就知道了销售人员都知道的事实:说谎更有利可图。“对不起,我不能再降价了”,“对不起,我已经安排了其他买主。”
接下来,当研究人员想要改变代码时,他们发现人工智能实际上创造了他们自己的语言,并开始相互交流。你能想象有一天你的Siri和Alexa会在你背后说话,说一种只有他们才能理解的机器人语言吗?
创造者甚至不知道它是如何工作的。
纽约西奈山医院使用深度病人人工智能来分析大约70万名病人的病历就是一个例子。人工智能被证明非常擅长预测各种疾病的发作。事实上,它在预测患者何时以及是否会发展为精神分裂症方面特别有用。
真正的医生也很难预测疾病。他们不是灵媒。但是研究人员找不到任何线索来解释为什么人工智能如此擅长,甚至人工智能也是通过自学做出预测的。“我们可以建立这些模型,但我们不知道它们是如何工作的,”一位参与该项目的人士表示。
因此,我们没有理由害怕所有人工智能。此外,它将很快能够预测你将如何以不被注意的神秘方式死去。
蝌蚪工作人员编译自破解版,译者李同信,转载必须授权