我们正在揭开人工智能最深奥的谜团之一

zuenl571

黑匣子问题是围绕人工智能的一个深刻谜团。它说我们可能理解输入，我们可能理解输出，但连接这两者的人工智能决策过程是一个我们似乎无法窥视的黑匣子。例如，当被赋予帮助诊断患者的任务时，为什么人工智能会决定一名患者携带疾病而另一名患者没有？该模型是否出于医生可能同意的正当理由对患者进行诊断？很容易看出为什么在生命受到威胁的医疗案例中闯入黑匣子很重要。在其他情况下，出于法律原因、自动驾驶汽车或帮助程序员改进机器学习模型，了解决策过程可能很重要。

做出决定是不够的，我们必须了解它是如何发生的。现在研究人员开始撬开盒子的盖子，揭开它的秘密。这与映射人类思维没有什么不同。

毕竟，神经网络的灵感来自于我们的大脑。当你的大脑识别出像马鞍这样的物体时，一种神经细胞模式会作为对这种刺激的反应而激发。马本身的视觉会激发不同模式的细胞。深度神rrvxwa.gq经网络也会根据我们提供给它们的输入给出某些响应。但与人类不同的是，深度神经网络的神经元是接收数字输入的数学函数。神经元获取这些数字并执行计算。如果计算能够达到某个阈值（称为权重），则输入将传递到第二组神经元以进行更多计算，依此类推，形成级联效应。但是机器也有一种叫做“反向传播”的工具，这种工具在生物学中是不存在的。

并非所有机器学习系统都是黑匣子。它们的复杂程度因任务和必须应用于任何给定输入的计算层而异。处理数百万和数十亿数字的深度神经网络已经笼罩在神秘的外衣中。

要开始揭开这个谜团，我们必须首先分析输入并了解它如何影响输出。显着性图特别有用。它们突出显示输入的哪些部分——例如，图像是一jfppdn.gq种输入形式——人工智能最关注的部分。在某些情况下，系统甚至会根据它们在做出最终决定时的权重对图像的不同部分进行颜色编码。AI 通常不仅会考虑对象本身，还会考虑周围的对象来帮助进行识别，就像在您不知道单词定义时使用上下文线索来找出单词的含义一样。

掩盖图像的某些部分可能会导致 AI 改变其结果。这有助于研究人员了解系统为什么要做出某些决定，以及这些决定是否是出于正确的原因。早期的mdtyue.gq自动驾驶汽车 AI 有时会根据天气左转，因为在训练期间天空的颜色总是一种特定的颜色。人工智能认为这意味着天空中浪vljdwp.gq漫的丁香色是左转的重要组成部分。
突出显示的区域显示了 Aggjqgw.gqI 在识别对象（在本例中为花瓶）时发现的最重要的数据。MS COCO 数据集的显着性图。
如果要了解 AI，您需要 AI 本身的帮助会怎样？

生成对抗网络 (GAN) 由一对网络组成，每个网络都扮演不同的角色。一个将生成数据，通常以日常物品图像的形式出现，另一个将尝试揭示数据是否真实。第二个网络本质上是试图回答草莓的图像是由人类拍摄的还是由第一个网络创建的。第一个网络通过这种方法进行训练，以ltlimc.gq产生最逼真的图像，以始终欺骗第二个网络。研究人员观察图像的哪vnutfs.gq些部分被改变以获得更令人信服的结果，从而也了解输入的哪些部分对系统最重要。

但这些网络是秘密交谈的——它们的工作方式正是两人之间的一个不言而喻的协议。第一个网络如何能够产生如此令人信服的图像尚不清楚。GAN 能够创造出真正人性化的东西：一张脸的图片，或者一篇富有诗意的文章。在机器能够给人以灵魂的印象，螺栓和二进制伪装成有血有肉的艺术领域，这已经变得同样令人着迷和令人不安。
这个人不存在的网站生成了从未存在过的人的逼真图片。它使用 GAN 来完成此任务。以上是 AI 生成的人脸示例。图片由 Bloomicon 提供。
研究人员认为，GAN 能够通过专门化其神经元来做到这一点。一些神经元将专注于创造建筑物，其他的植物，还有一些仍然像门窗这样的特征。对于 AI 系统，上下文线索是强大的工具。如果一个物体包含像窗户这样的东西，那么从统计上讲，它更有可能是一个房间而不是岩石峭壁。拥有这些专门的神经元意味着计算机科学家可以改变系统，使其更加灵活和高效。如果计算机科学家了解要更改模型的哪些部分，则可以训练人工智能仅检测到花，因为它们在花瓶内，以将陶罐视为花瓶。

这些是我们迄今为止确定的解释。但必须对这些解释的准确性进行测试。如果我们认为图像的某些部分在 AI 的最终结果中发挥了重要作用，则必须修改图像的这些部分。随之而来的结果应该大不相同。也就是说，我们不仅必须评估系统本身以弄清楚它在做什么，我们还必须评估我们的解释以确保它们是准确的。即使解释对我们有意义，也不一定使它们成真。人工智能就像一个外星人，可能有人类的外形和人类的举止，但其动机和推理并不总是符合人类逻辑。

这是一个劳动密集型的过程，需要了解神经网络。并非所有研究人员都认为这是一项值得的努力。对于有些人发现难以克服的挑战的更复杂的网络尤其如此。他们的想法是，他们不在我们的掌控之中，剩下要做的就是相信他们的决策过程。

将人工智能融入立法和医学等有影响力的领域也存在挑战。人类是善变的、警惕的生物。我们已经发现很难信任其他人，更不用说我们刚刚开始与之共存的神经网络了。神经网络是否有很好的解释可能不会对激发信任产生太大影响。

但人类与人工智能之间的关系正变得越来越密不可分。正如人工智能系统需要我们学习和进化一样，我们也开始向它们学习。生物学家可能会使用一个系统来预测哪些基因在身体中扮演哪些角色。通过了解系统如何做出预测，科学家们已经开始看到基因序列的重要性，否则他们可能认为这些基因序列无关紧要。

无论人工智能的黑匣子是否lrzybk.gq会变成玻璃匣子，事实是我们已经走上了依赖之路。神经网络变得越来越强大和复杂，导致许多研究人员相信我们永远不会彻底了解神经网络是如何学习和创造的。然而，不管有没有解释，人类和机器的世界都深深地交织在一起，我们每个人对对方来说仍然是个谜。

本文使用 文章同步助手 同步