1 高斯过程回归(分类)的基本原理

  • Rasmussen 等 2006 年经典书籍《机器学习中的高斯过程》节选第二章 《高斯过程回归》

  • Rasmussen 等 2006 年经典书籍《机器学习中的高斯过程》节选第三章 《高斯过程分类》 (可以视为非高斯似然的一类,暂无中文稿)

  • Wang 2020 年的 高斯过程回归初步教程: 高斯过程回归模型因其表达方式的灵活性和内涵的不确定性预测能力而广泛用于机器学习应用中。本文解释了构建高斯过程的基本概念,包括多元正态分布、核、非参数模型、联合和条件概率等。然后,简明描述了高斯过程回归以及标准高斯过程回归算法的实现。除了标准高斯过程回归,本文还回顾了目前最先进的高斯过程算法软件包。

  • Gal Yarlin 2017 年的 高斯过程精简版教程: 本文对高斯过程进行公式推导、原理阐述、可视化以及代码实现,介绍了以高斯过程为基础的高斯过程回归基本原理、超参优化、高维输入等问题。本文可以与上一篇文章相互参考,大部分内容具有雷同。

2 高斯过程的核(协方差)函数

3 高斯过程与其他模型的关系

  • Rasmussen 等 2006 年经典书籍《机器学习中的高斯过程》节选第六章 《高斯过程与其他模型的关系》。讲解了高斯过程与再生核 Hilbert 空间、正则化、支持向量机、样条、最小二乘分类等模型方法之间的关系。

4 可用软件包