AI进化必须修复“注意力Bug”

没有足够的训练，人工智能很容易关注人，但很难关注特定的人。

在美国电视连续剧《西部世界》中，人工智能英雄觉醒并意识到世界是人类决定战争的天堂，从而开启了反抗之路。在电影《黑客帝国》中，人工智能养育了人类，控制了整个世界……科幻世界中有意识的人工智能将来能实现吗？

几天前，在2020年国际学习代表大会(ICLR)上，都灵奖获得者、蒙特利尔学习算法研究所所长Yoshua Bengio提供了对人工智能未来的最新见解。他认为未来的机器学习完全有可能超越无意识，走向全意识。注意机制是实现这一过程的关键因素。

人类注意力的机制和人工智能的机制一样吗？应用于人工智能的注意机制必须解决哪些缺陷，才能真正引起人工智能的注意？对此，《科技日报》记者采访了相关专家。

目的是减少对无用线索的关注

什么是注意力机制？注意机制来自人类视觉注意，即人类进化过程中形成的处理视觉信息的机制中国科学院自动化研究所的研究员张兆祥说。

张兆祥解释说，人类视觉系统接收外部视觉信息的速度约为每秒8.96兆位。尽管人脑的计算和存储能力非常有限，但它可以有效地选择性处理来自复杂外部世界的重要内容，而选择性视觉注意在这一过程中起着重要作用。例如，当我们看一张图片时，一个特别显眼的场景首先会吸引我们的注意力，因为大脑对这种东西非常敏感。

自20世纪80年代以来，视觉注意机制的理论研究一直是神经科学和认知科学的热点。目前，研究者一般根据两种标准对注意机制进行分类。注意力产生的方向可以分为:自下而上的数据驱动的注意力，自上而下的任务驱动的注意力，以及两者结合产生的注意力。从关注的对象来看，它们分为:基于空间的关注、基于特征的关注和基于对象的关注。”中国科学院自动化研究所副研究员王伟说。

“对于人工智能来说，注意机制是机器学习中的一种数据处理方法。它广泛应用于各种类型的机器学习任务，如自然语言处理、图像识别和语音识别。它的主要功能是减少对无用线索的关注。”福州大学数学与计算机科学学院和福建省新媒体产业技术发展基地副主任萧克博士说。

厦门大学科技学院副院长、人工智能系教授纪认为，注意机制本质上是一个评价和筛选特征信息的过程。

一般认为，深度学习中的注意机制是约书亚·本吉奥等人在2014年提出的软注意机制。基于约书亚·本吉奥的理论，在非常热的变压器网络中发展了多步注意机制、跨模态交互注意机制和自我注意机制。

“目前研究的人工智能注意机制有其自身的特点，但一般来说，它们是构建输入和输出，或构建输入数据在不同层次上的相关性，从而突出数据之间的某些区域或某些关系，提高任务绩效。”张兆祥说。

未经训练很难注意到新事物。

近年来，注意机制已被应用于人工智能的许多分支。“人工智能的设计可以受到不同程度的关注。当需要不同层次的注意力时，我们可以设计多种注意力网络。”柯晓说。

据了解，自2016年以来，谷歌的翻译系统一直使用注意机制来提高翻译质量。在文本问答、对话系统和知识地图抽取等自然语言处理任务中，注意机制已经基本成为模型的标准。在计算机视觉中，使用注意机制也成为一种趋势。使用注意机制的视觉模型已经被用于许多研究任务，包括细粒度检索、图像分类、行人识别等。

既然注意机制起源于人类的视觉注意，那么人类的注意机制与人工智能的注意机制一样吗？

高晓认为，人工智能的注意在一定程度上是人类视觉注意机制的仿生，两者在功能上是相似的，但实际上却有很大的不同。

“过程非常相似。它们都有助于人们(或模型)关注给定任务(查询)内容的最相关的数据信息。”例如，纪问“桌子上有什么？”到那时，人类将把注意力集中在桌子的面积上。同样，在视觉问答任务中，人工智能模型也将关注包含表格的视觉区域，然后回答“那里有什么？”

冀荣荣指出，从原则上讲，人工智能的注意机制主要是通过计算查询信息与给定特征之间的语义关联来获得模型的注意分布，而人类的认知系统可能更为复杂。

“人工智能利用注意力的过程实际上是一个记忆查询过程。它快速准确，但无法发现异常情况。”例如，萧克说，如果人工智能的注意力被多次吸引到同一张图片上，结果总是一样的。然而，如果人类被允许这样做，当他们第一次看的时候，他们会注意他们感兴趣的领域。然而，随着观看图片的次数增加，人类可能会注意图片的其他区域。

高晓指出，除此之外，人类的注意力可以很容易地集中在特定的事物上，例如人群中的一个人，但是人工智能的注意力不能在没有充分训练的情况下完成。人工智能很容易关注人，但很难关注特定的人。另一个很大的区别是，人类的注意力集中在以前从未见过的新事物上，而人工智能的注意力机制却没有。

与人类的注意力相比，差距是显而易见的。

众所周知，认知神经科学将意识定义为“对一个人内心想法的感知，或者对外部或内部事物的感知。”意识形成的过程是一个信息筛选、加工和进化的过程。

约书亚·本吉奥在2017年试图用机器学习来证明这一理论。其中一个关键环节是使用注意机制来选择“意识状态”。因此，从信息提取的角度来看，注意机制对于形成机器意识非常重要吉荣荣说道。

与人类思维类似，人工智能的注意力机制依赖于直觉还是推理？

"目前，人工智能的注意机制更接近直觉."高晓说，大部分注意力机制是反复告诉人工智能在训练中应该注意什么和什么相关。例如，在人工智能的训练过程中，人工智能经常被要求学会注意猫在河边吃鱼的地方。当人工智能再次看到带有猫和鱼特征的图片时，它会关注猫和鱼的区域，而不是猫。当它看到这条河时，它推断可能有鱼，然后它会寻找鱼并注意鱼的区域。

"最近的注意力模型研究也倾向于提高推理能力."吉荣荣说，例如，最近流行的变压器模型使用多层注意网络来不断完善和处理输入信息。在这个过程中，每一层的注意力结果都在变化。在某种程度上，这个模型可以被认为是推理。

应用于人工智能的注意机制需要解决哪些问题才能使人工智能真正得到注意？

“首先，我们需要增加模型的知识储备。只有当模型有足够的知识时，它才能知道需要注意什么信息。例如，如果模型没有见过飞机，它就不能很好地执行关于飞机描述的查询。”冀荣荣表示，此外，注意模型的结构需要改进，以增强模型的推理能力，使模型能够利用注意完成复杂背景下的复杂运算。

高晓认为，目前人工智能的注意力还远远没有真正引起人类的注意。(记者谢凯飞)