机器学习方法分类

〖摘要〗

〖原文〗改编自Lori

1 总览

	在机器学习领域，学习任务根据数据样本情况，可大致划分为三类：有监督学习、无监督学习、弱监督学习和强化学习。

2 有监督学习和无监督学习

两者都需要从包含大量训练样本的训练数据集中学习预测模型，每个训练样本对应于事件/对象。如下图所示。

（1）有监督学习

监督学习的训练数据由两部分组成：

描述事件/对象的特征向量（x），以及 groud-truth 的标签（y）。

监督学习典型面向两类任务（见下图）。
**分类任务：**标签对应于训练样本属于哪一类（离散值）。

对于分类问题来说，x 是一些西瓜，y 是属于的类别，好的西瓜或者坏的西瓜。现在我们已经知道每一个西瓜是好的或坏的，如果我们有一个新的西瓜，我们需要根据之前的经验判断它是好的或者坏的。

分类需要先找到数据样本点中的分界线，再根据分界线对新数据进行分类，分类数据是离散的值，比如图片识别、情感分析等领域会经常用到分类任务。

在这里插入图片描述

**回归任务：**标签对应于该示例的真实值响应（连续纸）。

对于回归问题来说，x 是西瓜，y 是真实值响应。我们知道这个西瓜是 3000 日元，这个西瓜是 4000 日元，这个西瓜是 3500 日元，如果我们有一个新的西瓜，我们需要根据之前的经验去预测这个西瓜多少钱。

回归是对已有的数据样本点进行拟合，再根据拟合出来的函数，对未来进行预测。回归数据是连续的值，比如商品价格走势的预测就是回归任务。

（2）无监督学习

非监督学习的训练数据只有一个部分：

描述事件/对象的特征向量（x），但是没有标签（y）。

非监督学习任务原来受重视程度不高，主要是解决聚类和降维任务，但近年生成任务和表征学习任务得到极大进展：

聚类任务

对于聚类问题来说，我们只知道我们有这些西瓜，x 是西瓜，也许他们有一些不同之处，也许是更好吃或不好吃，也许是更便宜或不便宜，我们需要计算机自己去找到一些特征，将这些相似的西瓜聚成一类，如果我们有一个新的西瓜，需要判断它属于哪一类。

聚类是根据样本之间的相似度，将一批数据划分为 N 个组。比如用户分组、异常值检测等领域会用到聚类任务。用户分组比较好理解，那异常值检测为什么会用到聚类呢？因为实际场景中，如果某个样本点，离所有分类组的距离都很远，不属于任何一个组，我们则会将其看做是一个“异常值”。

在这里插入图片描述

降维任务

降维是减少数据的维度，对数据进行降噪、去冗余，方便计算和训练；如数据预处理，减少一些对模型准确率影响很小的维度，可以提高计算效率。再如图表可视化，我们进行数据分析时，通常会将高维模型降为三维或二维图表，便于直观分析。

在这里插入图片描述

生成任务

在没有标签样本支撑的条件下，通过对无标签样本特征（如：上下文、独特性等）的学习，掌握一些特征规律，进而在没有标签样本注入的情况下，自动生成类似的无标签样本。典型应用如：文本完形填空、图像生成/修补/上色等。

（自监督）表征学习

表征学习是将原始数据转换成为能够被机器学习有效开发的技术集合。表征学习的提出旨在解决机器学习研究人员需要手动从从原始样本中建立特征工程带来的困难、昂贵、耗时问题，使机器能够自动学习到数据的特征，并利用这些特征来完成具体任务。因此，从这个角度来看，上述的聚类、降维、生成任务，都包含表征学习的含义。而常用的深度神经网络模型，通常也是在有标签数据支持下，内嵌了表征学习的部分。

此处的表征学习主要指自监督表征学习，即特征学习不依赖于人工标签，也不像生成任务一样来源于自身，而是将目标放在机器自动生成的特定辅助任务上，如：文本的 mask、图像的拼图等。NLP 中常见的预训练学习，大多属于自监督学习的范畴。

3 弱监督学习

尽管当前监督学习技术已经取得了巨大的成功，但是值得注意的是，由于数据标注过程的成本太高，很多任务很难获得如全部真值标签这样的强监督信息。而无监督学习由于学习过程太过困难，它的发展缓慢。因此，希望机器学习技术能够在弱监督状态下工作。南京大学周志华教授在 2018 年 1 月发表了一篇论文，叫做《A Brief Introduction to Weakly Supervised Learning》，对机器学习任务给出了一个新的趋势和思路。个人觉得总结的非常好，大受启发，有兴趣的小伙伴可以去看看原论文～

什么是弱监督学习呢？文章里说，弱监督学习可以分为三种典型的类型，不完全监督（Incomplete supervision），不确切监督（Inexact supervision），不精确监督（Inaccurate supervision）。

不完全监督是指，训练数据中只有一部分数据被给了标签，有一些数据是没有标签的。

不确切监督是指，训练数据只给出了粗粒度标签。我们可以把输入想象成一个包，这个包里面有一些示例，我们只知道这个包的标签，Y 或 N，但是我们不知道每个示例的标签。

不精确监督是指，给出的标签不总是正确的，比如本来应该是 Y 的标签被错误标记成了 N。

我们还是用最简单的西瓜的例子来直观理解一下这三者的区别。

最左边是不完全监督，即我们可以看到有一些西瓜有标签，而有一些西瓜没有标签，标注并不完全。

中间的是不确切监督。对于这种情况，我们可以把这个想象成一个包，只知道这里面有西瓜，但是不知道西瓜在哪个位置，也不知道有几个，这种情况叫不确切监督。

最右边的是不精确监督。即假设我们有一些西瓜，但是有一些被错误标注为菠萝，那我们称之为不精确监督。

我们将分别对待这些类型的弱监督学习，但值得一提的是，在实际操作中，它们经常同时发生。

实际上，弱监督学习普遍存在。

比如，在图像分类任务中，训练数据的 Groud-Truth 标签由人类注释者给出；虽然很容易从互联网上获取大量图像，而由于人工成本，只能注释一小部分图像。（不完全监督）

在重要目标检测中，我们常常仅有图片级标签，而没有对象级标签。（不确切监督）

在众包数据分析中，当图像标记者粗心或者疲倦时，或者有些图片很难去分类时，这将会导致一些标签被标记错误。（不精确监督）

针对这三种典型的弱监督学习，我们可以考虑使用不同的技术去进行改善和解决。如下图所示。

为了解决不完全监督，我们可以考虑两种主要技术，主动学习和半监督学习。一种是有人类干预的，一种是没有人类干预的。

为了解决不确切监督，我们可以考虑多示例学习。

为了解决不精确监督，我们考虑带噪学习。

下面我们稍微具体一点来谈一谈以上列举的方法。

首先为了解决不完全监督，我们考虑主动学习（Active learning），这个方法是训练过程中有人工干预的。

输入是一些标注过的数据（包含 x，y）和没有标注过的数据（只有 x），输出是 Y 或者 N（考虑最简单的二分类问题）。

首先，我们先训练这些标注过的数据，然后我们根据得到的经验对这些没有标注过的数据进行聚类。主动学习假设可以从 oracle 查询未标记实例的 Groud-truth 标签。

在这些未标记数据中，主动学习尝试选择最有价值的未标记实例进行查询。最有价值指的是信息性和代表性。主动学习的目标是最小化查询的数量。

2019 年 CVPR 有一篇主动学习的相关论文，叫《Large-scale interactive object segmentation with human annotators》（如下图）。

由于手动注释对象分割掩码非常耗时，所以这篇论文考虑交互式对象分割方法，其中人类注释器和机器分割模型协作完成分割任务。

接下来我们看看解决不完全监督的第二种技术，半监督学习（Semi-supervised learning），这种方法没有人类干预（如下图）。

半监督学习尝试在不查询人类专家的情况下利用未标注的数据。但是为什么数据没有标签能够帮助去构建预测模型呢？

让我们看看上图的例子。如果我们已知一个数据是 positive，另一个数据是 negative，在两个数据点正中间有一个 test data，此时我们是很难去判断这个 test data 到底是 positive 还是 negative 的。但是如果我们被允许去观察一些未被标注的数据分布（右边部分的灰点），这时我们还是可以较肯定的认为 test data 是 positive。

为了解决不确切监督，我们可以考虑多实例学习（Multi-instance learning）。

实际上，几乎所有监督学习算法都有其多实例对等体。

训练数据集中每一个数据看做一个包(Bag)，每个包由多个实例(Instance)构成，每个包有一个可见的标签，在上图例子中，假设这个包大小为 8*8，如果我们用 size 为 2*2 的图片包生成器（Image bag generators）去取得实例，那么我们可以得到 16 个实例（Instance）。

显而易见，我们这个包是有标签的（左图），老虎，包中的每个实例是没有标签的（右图）。

多实例学习假设每一个正包必须存在至少一个关键实例。这意味着，假设这个例子中关键实例是示例 9，那么这个包的标签为正（positive）。多实例学习的过程就是通过模型对包及其包含的多个实例进行分析预测得出包的标签。多实例学习广泛存在在真实世界中，并且应用场景非常广泛。

最后，解决不精确监督，我们可以考虑带噪学习（Learning with label noise）。