「AI发展出人类无法理解的语言」Facebook关闭“失控” AI 项目

根据《数字期刊》的一篇报道，上个月，脸书备受争议的“开发人类无法理解的智能对话机器人”项目已经结束。

上个月，脸谱人工智能研究所(FAIR)使用机器学习方法反复升级了两个聊天机器人的对话策略。结果表明，他们开发了人类无法理解的独特语言。研究人员不得不手动干预。

这项研究一经发布，就迅速引起了广泛关注，并在互联网和媒体上传播开来。许多人惊呼:机器创造了自己的语言，这是人类无法理解的，也是极其可怕的。

但也有人指出，这不是一堆随机代码吗？

现在，系统被锁在一个“小黑屋”里根据来自国外媒体的报道，脸谱网的研究所现在已经停止了这个项目的研究，因为“害怕失去对人工智能的控制”。

这并不是人工智能第一次偏离训练中使用的英语来开发新的更有效的语言。尽管在人类眼中，这些交流更像是胡说八道。然而，从人工智能代理的角度来看，它们实际上是有意义的。

用新语言交流:英语缺乏“反馈”

这份研究报告的主要观点是，机器人可以成为优秀的谈判者——他们甚至假装对没有价值的东西感兴趣，然后在谈判过程中牺牲掉，就好像他们做出了让步一样。然而，来自我自己语言的关于对话代理开发的部分在研究报告中确实只是一小部分，但是它已经引起了人们的注意。

正如Fast Co. Design报道的那样，研究人员已经注意到，系统中的聊天机器人(机器人)已经完全放弃了用英语交流，但升级后的系统确实可以与其他代理进行交流。他们可以一起决定如何继续任何工作。起初，他们使用的词语似乎难以理解。然而，通过长期观察，研究人员发现这些词实际上代表了代理人面临的任务。

例如，在一次交流中，两个会说话的机器人，鲍勃和爱丽丝，用他们自己的语言完成了交流。鲍勃开始说，“我可以做任何事。”"球对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对我来说是零对下面的对话都是这样的句子。

虽然乍一看，这些单词组合似乎没有什么意义，但研究人员相信他们已经揭示了这两个机器人是如何工作的，以及它们需要处理每个单词的次数。鲍勃的重复说明了他是如何用这个词向爱丽丝传达更多信息的。如果用这个方法来阐述，那么它说的是好的，就像人们所说的“我要三个，你要其他的”。

似乎代理人已经发现英语句子对于理解特定场景是不必要的。目前，注重深度学习的人工智能遵循“奖励”原则。代理可以通过根据系统的特定行为来获得相应的利益。然而，在这种情况下，继续使用英语并没有带来相应的反馈，所以代理决定适应更有效的沟通方法。

FastCo的研究人员说:“在英语中，没有什么所谓的反馈可以被代理跟踪。设计说。

该报告称:“智能偏离了人类能够理解的语言，创造了自己的‘代码语言’。例如，如果‘the’被提到五次，那么我想重复这个术语五次。这与人类创造的缩写没有太大区别。”

其他人工智能开发者也注意到聪明人使用“缩写”来简化交流。在开放人工智能中，研究人员成功地教授人工智能机器人他们创造的语言。

有什么问题吗？

如果人工智能继续创造自己的语言，开发人员在创造和采用新的神经网络时可能会遇到问题，但尚不清楚这是否真的会导致机器推翻他们的开发人员。

然而，这些新的发展使人工智能能够更有效地工作，如果他们在工作中学习新的人工智能创造的“缩写”，并跟上这种新的交流方法，研究小组可以长期受益。