8️⃣ 常用模型--离散序列模型（ HMM 和 CRF ）
〖摘要〗 〖原文〗 Standford cs228 notes 〖参考〗CMU 10-708 Slides / CMU 10-708 Lecture Notes / Jordan TextBook, Ch.2(section 2.2 - end) / Koller’s Textbook,Ch.4 / A. Fischer and C. Igel, An Introducton to Restricted Boltzmann Machines / B. A. Cipra, An Introduction to the Ising Model
6️⃣ 概率图推断--部分可观测马尔可夫随机场及 EM 算法
〖摘要〗 〖原文〗 Standford cs228 notes 〖参考〗CMU 10-708 Slides / CMU 10-708 Lecture Notes / Jordan TextBook, Ch.2(section 2.2 - end) / Koller’s Textbook,Ch.4 / A. Fischer and C. Igel, An Introducton to Restricted Boltzmann Machines / B. A. Cipra, An Introduction to the Ising Model
6️⃣ 概率图推断--部分可观测马尔可夫随机场及 EM 算法
〖摘要〗 〖原文〗 Standford cs228 notes 〖参考〗CMU 10-708 Slides / CMU 10-708 Lecture Notes / Jordan TextBook, Ch.2(section 2.2 - end) / Koller’s Textbook,Ch.4 / A. Fischer and C. Igel, An Introducton to Restricted Boltzmann Machines / B. A. Cipra, An Introduction to the Ising Model
6️⃣ 概率图推断--完全可观测马尔可夫随机场及其推断
〖摘要〗 〖原文〗 Standford cs228 notes 〖参考〗CMU 10-708 Slides / CMU 10-708 Lecture Notes / Jordan TextBook, Ch.2(section 2.2 - end) / Koller’s Textbook,Ch.4 / A. Fischer and C. Igel, An Introducton to Restricted Boltzmann Machines / B. A. Cipra, An Introduction to the Ising Model
5️⃣ 概率图推断--完全可观测贝叶斯网络及其推断
〖摘要〗 〖原文〗 Standford cs228 notes 〖参考〗CMU 10-708 Slides / CMU 10-708 Lecture Notes / Jordan TextBook, Ch.2(section 2.2 - end) / Koller’s Textbook,Ch.4 / A. Fischer and C. Igel, An Introducton to Restricted Boltzmann Machines / B. A. Cipra, An Introduction to the Ising Model
Pyro 概率编程语言【001】--- 开始使用 Pyro
开始使用 Pyro【摘要】Pyro 是 Uber 公司开源的一种概率建模语言，由剑桥大学 zoubin 教授作为首席科学家主持开发，可以使用 Pytorch 深度学习框架、贝叶斯概率统计等技术来估计类型广泛的概率模型。【原文】https://nbviewer.org/github/QuantEcon/QuantEcon.notebooks/blob/master/IntroToStan_basics_workflow.ipynb【时间】 2016【作者】Jim Savage, Lendable Inc. p{text-indent:2em} 1 开始使用 Pyro1.1 零基础的用户如果您不熟悉概率编程或变分推断，可以从阅读 系列介绍性教程 开始。如果您是 PyTorch 的新手，还可以从阅读 使用 PyTorch 进行深度学习 中受益。 之后，您就可以开始使用 Pyro 了！ 按照首页的说明安装 Pyro 并仔细阅读 Practical Pyro 和 PyTorch 系列 教程，尤其是第一个贝叶斯回归教程 。该教程通过使用 Pyro...
【002】Pyro 模型简介
【002】Pyro 模型简介【摘要】Pyro 是 Uber 公司开源的一种概率建模语言，由剑桥大学 zoubin 教授作为首席科学家主持开发，可以使用 Pytorch 深度学习框架、贝叶斯概率统计等技术来估计类型广泛的概率模型。【原文】https://nbviewer.org/github/QuantEcon/QuantEcon.notebooks/blob/master/IntroToStan_basics_workflow.ipynb【时间】 2016【作者】Jim Savage, Lendable Inc. p{text-indent:2em} 1 开始使用 Pyro1.1 零基础的用户如果您不熟悉概率编程或变分推断，可以从阅读 系列介绍性教程 开始。如果您是 PyTorch 的新手，还可以从阅读 使用 PyTorch 进行深度学习 中受益。 之后，您就可以开始使用 Pyro 了！ 按照首页的说明安装 Pyro 并仔细阅读 Practical Pyro 和 PyTorch 系列 教程，尤其是第一个贝叶斯回归教程 。该教程通过使用 Pyro...
Stan 概率编程语言
Stan 概率编程语言【摘要】Stan 是一种灵活的概率建模语言，可以使用贝叶斯技术直接估计多种类型的概率模型。【原文】https://nbviewer.org/github/QuantEcon/QuantEcon.notebooks/blob/master/IntroToStan_basics_workflow.ipynb【时间】 2016【作者】Jim Savage, Lendable Inc. p{text-indent:2em} 1 概述1.1 简介 Stan 是一种灵活的建模语言，可以直接使用贝叶斯技术来估计非常广泛的概率模型。有几个原因，使人们可能想花些时间来学习 Stan ： Stan 使用 Hamilton Monte Carlo、Variational Inference 和 Penalised Maximum Likelihood 实现了对大数据集概率模型的有效估计。 Stan 可以从用户可能用于数据准备的许多环境中调用，包括 R、Python、Stata、Julia 和 Matlab。 Stan 允许用户通过将 Stan 函数（已编译的...
4️⃣ 概率图推断--参数模型的概率图及学习
〖摘要〗 〖原文〗 Standford cs228 notes 〖参考〗CMU 10-708 Slides / CMU 10-708 Lecture Notes / Jordan TextBook, Ch.2(section 2.2 - end) / Koller’s Textbook,Ch.4 / A. Fischer and C. Igel, An Introducton to Restricted Boltzmann Machines / B. A. Cipra, An Introduction to the Ising Model
重要性加权变分推断方法
【摘要】最近有工作使用重要性采样的思路，来确定更紧致的变分似然边界。本文阐明了该想法对纯概率推断的适用性，展示了重要性加权变分推断技术作为一种增强的变分推断方法，能够识别先前工作中的松散性。实验证实了重要性加权变分推断在概率推断方面的实用性。作为另一个成果，本文研究了使用椭圆分布的推断方法，该方法提高了低维准确性和高维收敛性。 【原文】 J Domke and D Sheldon (2018), Importance weighting and variational inference. In Advances in Neural Information Processing Systems. https://arxiv.org/abs/1808.09034 1 问题提出概率建模通过为不可观测的变量 $\mathbf{z}$ 和可观测变量 $\mathbf{x}$ 制定联合模型 $p(\mathbf{z}, \mathbf{x})$ 来推断世界，然后查询后验分布 $p(\mathbf{z} \mid \mathbf{x})$ 以了解给定证据 $\mathbf{x}$...