一些一般方案

19.2.2 一些一般方案

在前面的每个例子中，人们可以求助于先验知识来试着对选中的一般化结论进行判断。我们现在看看在每个例子中什么类型的蕴涵约束可以起作用。在Hypothesis（假设）和观察到的Descriptions（描述）与Classifications（分类）之外，这些约束将会涉及到Background（背景）知识。

在烤蜥蜴的例子中，洞穴人们通过解释尖棍子的成功而进行一般化：它能够在支撑蜥蜴的同时保持手远离火。通过这样的解释，他们能够推断出一条一般规则：任何长的、硬的、尖锐的物体可以被用于烤小的、软的食物。这种类型的一般化过程被称为基于解释的学习，或缩写为EBL。注意这条一般规则逻辑上遵循洞穴人们所拥有的背景知识。因此，被EBL满足的蕴涵约束就是：

Hypothesis Descriptions|= Classifications

Background|= Hypothesis

因为EBL使用公式19.3，它最初被认为是一种从实例中进行学习的更好方法。但是由于它要求背景知识足以解释假设，进而解释观察，因此智能体事实上没有从实例中学习到任何真正新的知识。智能体可能已经从它已知的知识中得到了实例，尽管这可能需要不合理的大量计算。EBL现在被视为一种把基本原理的理论转换成有用的专用知识的方法。我们将在第 19.3 节中描述EBL的算法。

我们的巴西旅行者的情形就完全不同了，因为她不一定能解释为什么 Fernando 这样说话，除非她知道教皇教谕。此外，一个对殖民地历史完全无知的旅行者也会得到同样的一般化。在这种情况下的相关先验知识就是在任何给定国家内，大多数人都倾向于说同样的语言；另一方面，Fernando 不会被假定为是所有巴西人的名字，是因为这种类型的规律对姓名不成立。类似地，大学一年级的物理系学生也很难解释她发现的铜的电导率和密度的特定值。然而，她确实知道物体的组成材料和温度一起决定了它的电导率。在每种情况下，先验知识Background关系到一个特征集与目标谓词的相关性。这种知识和观察到的现象一起使得智能体推断出一条新的一般规则，对观察进行解释：

我们把这种一般化称为基于相关性的学习或缩写为RBL（尽管这个名称并不标准）。注意尽管RBL利用了观察的内容，它并没有产生超出背景知识和观察的逻辑内容以外的假设。它是一种演绎形式的学习，无法靠它自身说明如何从零开始创造新知识。

在医学院学生观察专家的例子中，我们假定这个学生的先验知识已经足够根据症状推断出病人的疾病D。然而，这不足以解释医生开出一种特定的药M的事实。这个学生需要提出另一条规则，即M一般来说对于疾病D是有效的。有了这条规则，加上先验知识，该学生现在可以解释为什么医生在这个特定病例中开出药M。我们可以对这个例子进行一般化，提出一条蕴涵约束：

也就是，背景知识和新的假设结合起来解释实例。与纯归纳学习相同，学习算法应该提出尽可能简单的假设，与这个约束一致。满足约束（19.5）的算法被称为基于知识的归纳学习算法或缩写为KBIL算法。

KBIL算法将在第19.5节中详细描述，主要在归纳逻辑程序设计或缩写为ILP的领域中进行研究。在ILP系统中，先验知识在降低学习复杂度上扮演了两个重要角色：

① 因为任何生成的假设必须同时与先验知识和新的观察都保持一致，所以有效假设空间的规模就会减小，只包含那些与已知的知识一致的理论。

② 对于任何给定观察集合，构造对观察的解释所需要的假设规模可以减小很多，因为可以得到先验知识，帮助找出在对观察的解释过程中的新规则。假设越小，就越容易被找到。

除了在归纳中允许使用先验知识以外，ILP 系统还可以用一般的一阶逻辑对假设进行形式化，而不是用第十八章中受限的基于属性的语言。这意味着它们可以在无法为简单系统所理解的环境中进行学习。