这就是阻止AI达到人类般理解的原因

我们今天拥有的最先进的人工智能技术-我们对大脑的最佳模仿-充其量只能看到人和面孔，检测性别和物体，并提供非常基本的描述，例如“一对情侣就餐”。

这只是人类大脑了解世界的能力的一瞥，以及经过六十年的人工智能研究，其复制仍然面临着巨大的挑战。

“科学家能够’实际’理解’他们所遇到的情况，但是即使是当今最先进的人工智能系统，也仍然无法像人类一样理解我们正在尝试教给他们的概念，”计算机科学家和人工智能研究人员写道。 Melanie Mitchell在她最新的AI Magazine论文中。  

米切尔（Mitchell）也是圣达菲研究所（Santa Fe Institute）的教授，也是一本有关人工智能的新书的作者，在她的论文中，她讨论了当前AI系统（即深度学习）在从其处理的信息中提取含义时所进行的努力。

深度学习非常擅长挖掘大量数据点之间的相关性，但是当涉及到更深入的数据挖掘并形成抽象和概念时，它们几乎不会触及表面（即使这可能是一个夸大的说法）。我们拥有可以在图像中定位对象并将音频转换为文本的AI系统，但是没有一个系统可以同情Aurelie并能在丈夫攻击Pomponette时欣赏她的不安。实际上，我们的AI系统一旦遇到与所训练的数据略有不同的情况，就会开始崩溃。

一些科学家认为，随着我们使用更大的神经网络和更大的数据集扩展深度学习系统，这些限制将被克服。但是，米切尔（Mitchell）怀疑，可能还缺少一些更根本的东西。

2018年，米切尔（Mitchell）帮助在圣达菲学院组织了为期三天的研讨会，题为“人工智能与意义障碍”。研讨会探讨了诸如“含义”和“理解”的概念，如何从数据和经验中提取含义以及如何理解情境如何帮助创建可以概括其能力并且对环境变化更强大的AI系统的概念。

Mitchell在她的论文中分享了这次研讨会的结果，它为我们如何在将来制造更可靠的AI系统提供了一些指导。

人工智能缺乏先天能力

就像术语“人工智能”一样，“含义”和“理解”的概念很难定义和衡量。因此，研讨会的参与者没有试图给这些术语一个正式的定义，而是定义了一系列与我们了解情况的能力紧密相关的“关联”，能力和技能。他们还研究了当前的AI系统在何种程度上享有这些功能。

“了解是建立在与生俱来的核心知识的基础上的，”米切尔写道。我们对物理，引力，物体持久性和因果关系的基本了解使我们能够追踪物体及其各部分之间的关​​系，思考反事实和假设场景，并在世界范围内保持一致。最近的研究表明，直观的物理学和因果模型在我们对视觉场景的理解中起着关键作用，科学家将其描述为计算机视觉“暗物质”的关键组成部分之一。

米切尔写道，除了物理学之外，人类还具有“先天或早期发展的直觉心理学”，这使我们能够分析，同情并与其他社会存在进行交流。米切尔还谈到“元认知”，即“解释和预测我们自己的思维过程和决定，并将其映射到其他人的思维过程中”的能力。这些功能对于我们对所拥有的信息范围及其与解决问题的相关性的想法至关重要。这也使我们能够投入到Aurelie的鞋子中，并在她观看Pomponette的Aimable睫毛时想象她的感受。

神经网络无法推断

与人类相比，深度神经网络 需要更多的数据来学习新事物。这是因为，虽然神经网络可以有效地在训练过程中看到的数据点之间进行插值，但它们在处理训练数据未涵盖的情况时非常糟糕。另一方面，人类善于将他们的知识和经验推论到以前看不见的情况，因为他们“建立了抽象的表现形式”，米切尔写道。抽象是人类思维的强大工具。它使我们能够提取在本文开头看到的电影摘录的高级含义，并将其与我们已经知道的内容进行比较。

与具有不同训练和部署过程的神经网络不同，人脑是一个活跃的学习机器，会在其整个生命过程中不断调整其知识。Mitchell写道：“感知，学习和推理是活跃的过程，随着时间的推移会动态展开，涉及来自上下文和先验知识的持续反馈，并且在很大程度上不受监督。”

人工智能和神经科学界在人脑如何有效获取知识方面存在分歧。许多科学家认为，大脑具有许多功能。这些天生的能力（我们通常认为是理所当然的）使我们能够了解从未见过的情况，并通过很少的示例来学习。其他研究人员则断言，就像人工神经网络一样，大脑是一个大型的插值机，可以学习填补已知数据之间的空白，我们需要发现使我们有效地从世界中提取含义的秘密算法。

米切尔在书面评论中对TechTalks说：“我认为没人知道答案。” “我什至不知道这是一个或非或-我们可能已经在大脑中预接线了能力，可以指导我们早期的自我监督学习。我们还可能有一些关于世界的预先“事实”，例如如何识别某物是“物体”。”

进化考量

Santa Fe研讨会探讨的另一个领域是需要AI系统拥有一个可以体验世界的机构。米切尔写道：“对生命系统的了解不是源于孤立的大脑，而是源于世界上不可分割的大脑和身体相互作用，”他补充说，这一假说的支持者认为，无肉化的大脑将无法获得类似于人的理解。

“我想，如果你问研讨会上的人们，在’实施’的含义上会有很多分歧，”米切尔告诉我。“但这当然包括以某种形式主动“感知”世界的能力，强调“主动”。我认为没有人可以说是一般情报所必需的一种“实施方式”。”

进化在塑造每个生物的心灵以满足其生理需求方面也发挥了关键作用。“在过去的几十年中，神经科学，心理学和语言学方面的证据不断涌现，这些证据支持身体在几乎所有思维方面的重要作用，”米切尔写道。例如，虽然黑猩猩显然不如人类聪明，但它们的短期记忆却要好得多。同样，松鼠的思想已经演变为记住成千上万的食物藏身之处。

这些是认知能力，已经发展了成千上万的世代，并与环境反复互动。米切尔（Mitchell）在论文中指出：“也许，大脑的特定基础结构并不像进化过程本身那样对理解至关重要，”他补充说，进化方法可能为在人工智能系统中整合意义和理解开辟一条道路。

在这方面，人工智能的好处之一是，在模拟环境允许的情况下，人工智能可以快速向前发展进化周期。

理解不是损失函数或基准

机器学习算法旨在优化成本或损失函数。例如，当神经网络接受训练时，它会调整其参数以减少其预测与代表地面真实性的人类提供的标签之间的差异。圣达菲研究所讲习班的参与者认为，这种简单的解决问题的方法并不是“了解”。没有一个度量标准可以衡量理解水平。

米切尔在论文中写道，目前尚不清楚应该“优化”什么来实现理解的相关性，或者“即使优化本身就是要使用的正确框架”。

困扰AI社区的另一个问题是，对于特定基准和数据集的优化算法过于狭窄。在过去的十年中，出现了许多数据集，其中包含计算机视觉和自然语言处理等领域的数百万个示例。这些数据集使AI研究人员可以训练算法并测试其准确性和性能。但是，尽管在整理这些数据集方面的辛勤工作值得称赞，并且为我们在过去几年中在AI方面所取得的许多进步做出了很大贡献，但它们也迎来了一种造就成就假象的文化。

Mitchell在《AI Magazine》上写道：“由于该领域激励在特定基准上取得成功，因此有时研究变得过于专注于特定基准，而不是更基础的任务。”

当在数据集上获得更高评分成为目标时，它可能导致有害的结果。例如，在2015年，来自百度的一组AI研究人员在年度计算机视觉竞赛ImageNet上得分比其他竞争对手更高。团队没有找到可以更准确地对图像进行分类的新颖算法，而是设法找到一种违反比赛规则的基准测试方法。

狭义的数据集的缺点也成为最近研究的重点。例如，在NeurIPS 2019大会上，MIT-IBM Watson AI Lab的一组研究人员表明，对ImageNet数据集进行训练的算法在现实环境中（在不常见的位置和光照条件下发现物体）表现不佳。

“使用ImageNet发表的许多论文都专注于全面改善

Mitchell写道，重要的是“最先进的技术”，而不是对这些网络实际识别出的内容或它们的健壮性有任何见解。

最近，有人在推动开发基准和数据集，以更好地衡量AI算法的一般问题解决能力。在这方面值得注意的工作是Keras创始人Francois Chollet开发的Abstract Reasoning Corpus。ARC挑战AI研究人员开发AI算法，该算法可以从数据中提取抽象含义并通过很少的示例学习执行任务。

“我同意Chollet的观点，即解决ARC问题所需的那种抽象和类比是当今AI研究社区中研究不足的智能核心方面，并且可以使我在’Crashing米切尔（Mitchell）在对TechTalks的评论中说：“我们需要弄清楚如何使机器能够执行此类任务。” “但是，即使一台机器可以解决ARC问题，它是否可以使用相同的机制来处理现实世界中的抽象和类比仍有待观察，尤其是在涉及语言的情况下。”

寻找意义是一个跨学科的挑战

“我们对理解实际涉及的概念的局限性使我们很难回答以下基本问题：我们如何知道系统是否’实际理解’？我们可以使用哪些指标？可以说机器对人类的理解不同于人类吗？” 米切尔在她的论文中写道。

使这项特定研究有趣的是，广泛的观点汇集起来解决了这个复杂的话题。研讨会的参与者来自各个学科，包括人工智能，机器人技术，认知和发展心理学，动物行为，信息论和哲学等。

“当我第一次接触AI时，就拥有一种真正的跨学科感觉。人工智能人士参加了认知科学会议，反之亦然。然后统计数据接管了AI，并且该领域变得不那么多样化了，” Mitchell说。“但是我看到该领域的一种趋势现在已经回到其跨学科的根源，我认为这是非常积极的发展。”

本文包含了计算机科学和机器人技术以外的其他领域的许多实例，这些实例有助于理解生物的意义之深。

“对我来说，来自人工智能之外的人（心理学，神经科学，哲学等）的观点帮助表明了这些’理解’和’意义’问题如何同时成为智力的关键，但也很难研究，”米切尔告诉我。“从心理学和神经科学领域聆听人们的声音，确实使人知道，不仅在人类中，而且在从跳蛛到灰鹦鹉再到灵长类表亲的其他动物中，复杂的智力也是如此。而且，我们真的根本不太了解自然智能。”