第7章 高斯过程

“孤单?老兄,你有你自己……无数个你自己。”[1]

[1] 这句话出自美国动画科幻情景喜剧《瑞克和莫蒂》,是瑞克对第137号瑞克所说的话,背景是只需要一个瑞克发明了传送器,那么所有的瑞克都会拥有这个工具,这就相当于复制了无数个瑞克,因而瑞克成为宇宙最聪明的人。——译者注

——瑞克·桑切斯(Rick Sanchez)

在第6章中,我们了解了狄利克雷过程,这是狄利克雷分布的无限维推广,可用于设置未知连续分布的先验。在本章中,我们将学习高斯过程,这是高斯分布的无限维推广,可用于设置未知函数的先验。在贝叶斯统计中,DP和高斯过程都用于建立灵活的模型,即参数的数量会随着数据量的增加而增加。

在本章中,我们将介绍以下主题。

作为概率对象的函数。

核函数。

具有高斯似然的高斯过程。

具有非高斯似然的高斯过程。

7.1 线性模型和非线性数据

在第3章和第4章中,我们学习了建立一般形式的模型:

  (7.1)

在这里,是某些概率分布的参数。例如,高斯分布的均值、二项式的p参数、泊松分布的速率等。我们称为逆连接函数,是一个平方根函数或多项式函数。对于一元线性回归,是恒等函数。

拟合(或学习)一个贝叶斯模型可以看作找出权重为的后验分布,因此,这也可以看作近似函数的权重视图。正如我们在多项式回归的例子中看到的,通过把 ...

Get Python贝叶斯分析(第2版) now with the O’Reilly learning platform.

O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.