什么是机器行为？如何解释AI？

admin

理解人工智能(AI)代理或程序的“行为方式”，是未来十年人工智能的关键挑战之一。某些方法提供了对AI程序行为的洞察，对于这些方法，我们称其是具备可解释性的。到现在为止，大多数可解释性技术都集中于探索深度神经网络的内部结构。

　　最近，麻省理工学院(MIT)的一组AI研究人员正在探索一种较为激进的方法，试图用我们研究人类或动物行为的方法，来解释人工智能，观察它们的行为。他们将自己的思路与方法总结为——机器行为，这有望成为未来几年人工智能最令人兴奋的领域之一。

　　机器行为背后的思想可能是与转变有关的，但它的原则相对简单。为了理解AI代理的行为，机器行为更多地依赖于观察而不是工程知识。具体可以参考我们如何在自然环境中观察动物的行为，并从中得出结论。我们从观察中得到的大多数结论与我们的生物学知识无关，而是与我们对社会互动的理解有关。

　　在AI中，研究这些虚拟的和具体化的AI代理的行为的科学家，主要是那些自己创建了这些代理的科学家，相当于需要生物学博士才能理解动物的行为。理解AI代理不仅需要解释特定的算法，还需要分析代理与周围环境之间的交互。要做到这一点，通过简单的观察进行行为分析可能是一个强大的工具。

　　什么是机器行为?

　　机器行为是一个利用行为科学来理解AI代理行为的领域。目前，最常研究机器行为的科学家是计算机科学家、机器人专家和工程师，首先他们创造了这些机器。虽然这群人有丰富的计算机科学和数学知识来理解AI代理的内部原理，但他们一般不是经过长期学习的行为主义研究者。他们很少接受实验方法论、基于人口的统计和抽样范式或观察性因果推理方面的正式指导，更不用说神经科学、集体行为或社会理论了。同样，即使行为科学家了解这些学科，他们也缺乏了解特定算法或技术效率的专业知识。从这个角度来看，机器行为处于计算机科学、工程学和行为科学的交叉点，以实现对AI代理行为的全面理解。

　　随着人工智能代理变得越来越复杂，分析它们的行为将是理解它们的内部架构以及它们与其他代理或环境的交互的组合。前者基于深度学习优化技术，后者将部分依赖于行为科学。

　　理解AI代理的行为模式

　　动物行为学是生物学的一个领域，主要研究动物在自然条件下的行为和进化特征。动物行为学的奠基人之一是廷伯根(Nikolaas Tinbergen)，他因为发现了动物行为的关键维度而获得了1973年的诺贝尔生理学或医学奖。廷伯根的观点是，理解动物和人类行为有四个互补的维度：功能、机制、发展和进化历史。尽管AI和动物之间存在根本性的差异，但机器行为还是借用了廷伯根的一些观点来概括AI代理行为的主要部分。机器拥有产生行为的机制，经历了将环境信息集成到行为中，产生功能结果，使特定的机器在特定环境中或多或少变得常见，并体现进化历史，通过历史环境和人类决策继续影响机器行为。

　　机器行为的研究集中在四个基本领域：机制、发展、功能和进化，跨越三个主要尺度：个体、集体和混合。

　　对于给定的AI代理，机器行为将试图通过研究以下四个方面来解释其行为:

　　1、机制：AI代理生成行为的机制基于其算法和执行环境的特点。在最基本的层次上，机器行为利用可解释性技术来理解特定行为模式背后的特定机制。

　　2、发展：AI代理的行为不是一次性发生的，而是随着时间的推移而发展的。机器行为研究机器如何获得(发展)特定的个人或集体行为。行为发展可能是工程选择的结果，也可能是代理的经验。

　　3、功能：行为分析的一个有趣方面是了解特定行为如何影响AI代理的全生命周期功能。机器行为研究行为对AI代理特定功能的影响，以及如何将这些功能复制或优化到其他AI代理上。

　　4、进化：除了功能，AI代理还容易受到进化历史和与其他代理交互的影响。在整个进化过程中，AI代理算法的各个方面都在新的环境中得到重用，这既限制了未来的行为，也可能带来新的创新。从这个角度来看，机器行为也研究AI代理的进化。

　　上述四个方面为理解AI代理的行为提供了一个整体模型。然而，当我们评估一个单一代理的分类模型时，这四个要素并不适用于一个拥有数百辆汽车的自动驾驶汽车环境。从这个意义上说，机器行为在三个不同的尺度上应用了前面的四个方面：

　　1、个体机器行为：在这个维度上，机器行为试图研究个体机器本身的行为。研究单个机器行为有两种常用方法。第一种方法侧重于使用一个在机器内部（within-machine）的方法分析任何特定机器代理的行为集，比较不同条件下特定机器的行为。第二种方法是一个处于机器之间（between-machine）的方法，研究各种机器代理在相同条件下的行为。

　　2、集体机器行为：与个体维度不同，这个领域通过研究群体中的交互来了解AI代理的行为。机器行为的集体维度试图发现AI代理上的行为，而这些行为并没有在单独的层次上出现。

　　3、混合人机行为：在许多场景中，AI代理的行为受到它们与人类交互的影响。机器行为的另一个维度关注于分析AI代理中由与人类交互而触发的行为模式。

　　机器行为是人工智能中最有趣、最新兴的领域之一。行为科学可以补充传统的解释方法，开发新的方法来帮助我们理解和解释人工智能的行为。随着人类和人工智能之间的互动变得越来越复杂，机器行为可能会在实现下一个层次的混合智能方面发挥关键作用。