13.1 导言¶

在这章，我们讨论一些简单的、而且本质上 不依赖具体模型的 (model-free)，并且适用于 分类 (classification) 和 模式识别 (pattern classification) 的方法。因为它们的高度无结构性 (highly unstructured)，所以一般对理解特征和类别结果之间的本质关系没有作用。然而，作为一种黑箱 (black box) 的预测器，它们可以很有效，并且在实际数据问题中的表现经常是最好的。最近邻技巧也可以用于回归，这在第 2 章有提到而且对于低维问题效果很好。然而，对于高维特征，最近邻回归中偏差和方差之间的权衡不再表现得像在分类中那样好。