传送门：清华大学计算机科学与技术系朱军教授：机器学习里的贝叶斯基本理论、模型和算法
朱军
清华大学计算机系长聘副教授、智能技术与系统国家重点实验室副主任、深度学习技术与应用国家工程实验室副主任、国家万人计划青年拔尖人才、中国自然科学基金优秀青年基金获得者、中国计算机学会青年科学家、IEEEAI's10toWatch入选者。
第二部分可扩展的贝叶斯方法
我们先看一下这个经典的贝叶斯定理，它有一个很好的性质是序列更新的，这对于处理流式数据非常适合。比如：用B1，…，Bt表示第一个时刻到第t个时刻的数据集，我们可以得到一个递推公式：假设已经算出来了第t-1时刻的后验分布，那么下一个时刻t的后验分布正比于第t-1时刻的后验分布乘上新来数据集Bt的似然函数，这个迭代过程实际上是把上一时刻的后验作为当前时刻的先验分布了。这是非常漂亮的递推公式，可以实时处理流式数据。
但它有一个前提是你可以算出来每个时刻的后验分布。这对于简单的模型是可行的，比如：线性动态系统。但是，对于一般的模型，每一步都很难算出精确的后验分布，所以这个更新公式并不好算。需要一些好的算法。
在线变分贝叶斯（OVB）
分布式贝叶斯更新（DistributedBayesianUpdating）
贝叶斯公式还有另外一个好的性质，适合多个机器的分布式计算。比如，假设现在有100台机器，每个机器有1%的数据。我们先并行的在每个机器上处理这1%的数据得到100个局部后验分布；然后，再把它们集成在一起，就会得到我们想要的精确后验分布。同样，这是非常漂亮的性质。
但是，它存在同样的挑战：对于一般的贝叶斯模型，我们得不到局部后验分布的解析解。为了处理这个困难，我们会考虑用一个近似的算法去做，再集合在一起。
它的适用范围非常广泛，这里有一套公式，具体的细节我不说了，如果感兴趣的话，大家可以研究一下：如果这个算法输出的是一个指数族分布，你集成在一起还是指数族分布，只要把参数变化一下就行了，这是它的最大好处。
我现在给大家介绍一个在线学习的例子。我们考虑用贝叶斯模型做在线的分类。这是一个有监督的学习任务，因此会有一个损失函数。
我们先看一下在线学习的基本过程。假设有一个初始的模型，我可以用它对新来的数据做预测，判断它属于哪类。预测完之后会有两个结论，一个是预测准确了，另外一个是预测错了。
这是很基本的一个在线学习的框架。
OnlinePassive—AggressiveUpdates
其中，有一个很经典的具体算法，叫OnlinePassive—AggressiveLearning，它是针对SVM提出的在线学习算法。因为SVM是学一个特定的模型，假设当前的模型参数是Wt，新数据出现后会做一个判断，结果可能是正确的或错误的。如果判断正确就是说你的模型足够好，那么可以采用PassiveUpdate的策略，所谓的消极是指：我不更新，直接把这个模型拷贝到下一个时刻；还有另外一种情况，如果判断错了，就采取一个激进（Aggressive）的方法，比如：刚才的模型不够好，我就做一个投影，投影到好的模型的区域里，得到一个新的模型。这是两种操作，每一个数据都进行判断，再选择Passive或是Aggressive的策略，然后不断地迭代，这种很简单的策略实际上还有一些好的性质，实际应用的效果也挺好。
现在，我们可以做一个很简单的类比，把上述更新过程扩展到贝叶斯模型，在线地学习贝叶斯SVM，每个时刻都学到所有模型的一个后验分布。这个想法实际上和前面的更新过程基本上是一样的，差别在于我们更新的是后验分布。假设当前的后验分布是qt（W），新来的数据可以用一个准则判断它到底是正确还是错误，同样对应到两种情况，如果正确的话，表明当前的后验分布足够好了，我可以不去更新，实际操作时如果有似然函数，我可以用贝叶斯定理做一次更新，不会影响这个结果。当我们犯错误的时候，可以做一个Aggressive的更新，得到新的分布。
在错误发生时，我们可以做硬约束或是允许一定错误的软约束，来优化这个错误率。理论分析我这里就不细说了。
这种在线贝叶斯学习的最大好处时它可以处理隐含变量（数据中没有观察到的变量），挖掘数据中的隐含结构。在这种情况下，只需要对前面讲的在线更新的过程稍加扩展即可，基本流程保持不变。
分布式后采样
我们前面讲贝叶斯方法本身有一个很好的性质做分布式计算，但是，难点在于我们怎么去做计算。我们在这方面做了一个工作，是基于MCMC蒙特卡洛采样的，发表在NIPS2014。它的基本思路是，我们把数据划分到多个机器，先采用MCMC的方法去估算局部后验分布（的一些统计量），然后采用期望传播（EP）的框架在多个机器之间传递信息，把采样的样本聚集合在一起，以解决近似后验分布的问题。这个算法收敛之后，每个局部的分布实际上就是我们想要的全局分布。这个算法支持同步更新、异步更新以及去中心化的更新方式，配置非常灵活。
第三部分深度生成模型（DeepGenerativeModels）
我接下来讲一些大家可能都很关心的深度学习。我主要介绍一些深度生成模型，包括无监督和半监督学习的模型。
通常情况下，大家做深度学习时，用的更多的是所谓的判别式深度学习，比如深度卷积网络，它的目的是学习一个从输入到输出的影射函数，在测试时，判断测试样本属于哪个类。这种网络已经在人脸识别、语音识别或者自然语言（处理）的很多任务中应用。当然，在实际做的时候，还要注意一些细节，包括一些保护模型、避免过拟合的机制。
简单来说，深度学习现在的应用场景有以下三点。大模型；大数据；大集群。
首先，现在的模型比较大，主要体现在它有很多参数。这是2012年的一个例子，它大概有10亿个参数。其次，训练数据比较多，当时的训练使用了1000万的图片。最后，需要很大的计算资源，我可以用CPU或者GPU集群来运算，这几乎成了现在做深度学习的标配。
过拟合
在这种场景下，往往有一个误解：如果有大数据，过拟合就不再是问题了。实际上，我们说，大数据情况下过拟合可能变得更严重。
具体来说，对于一个机器学习算法，我们实际上不是在关心数据的个数有多大，10万也好，100万也罢；我们更关心的是，这个数据里包含的信息有多少，给我们模型训练所带来的统计信息有多大。数据量多会给我们带来很大的处理负担。
该图呈现了常见的三个情况：
另外，深度学习还有其他的问题，比如：不够鲁棒。对于一个训练好的神经网络，正常情况下识别精度很高，但如果对输入图片加一些少量干扰（人甚至识别不出来），可能同一个图像却完全识别错了。我们也可以随意地用样本误导它，比如：通过添加噪声，可以诱导一个网络把特定图像识别成指定的类别。这种特性对于关键领域的应用是非常危险的。
Dropout
因此，对深度学习来说，避免过拟合，增加鲁棒性是本质的问题。Dropout就是一个非常简单，但很有效的避免过拟合的策略。它是一个随机策略：我们在训练网络时，每次迭代都随机丢掉一些节点（或权重）的更新。这种方法对结果的提升是比较显著的。
Dropout刚提出时，大家并不清楚如何解释它。后来，大家在类似的框架下来解释dropout，包括我们自己在SVM方面的工作。最新的进展是Gal和Ghahramani去年的工作，把dropout理解成贝叶斯推理的近似，这也体现了贝叶斯方法在保护模型，避免过拟合方面的效用。
Dropout只是一个例子。事实上，贝叶斯和深度学习之间还存在很多的关联，甚至互补的关系，如果能够将二者有机融合，将更好地推动人工智能的发展。
这是一个典型的主观贝叶斯模型，通过对手写体字符生成过程的相对精细的描述，构造了一个有意义的层次化结构，这样的好处是可以实现小样本下的学习——通过主观先验知识弥补数据上的不足。
这是一个很好但也很极端的例子。它把主观贝叶斯的想法发挥到了极致，它的先验分布是基于对问题的深入理解而构建的。虽然在特定任务上表现很好，但问题是与特定领域的结合太强，如果换到另外一个领域，整个BPL要重新设计。
实际上，深度学习和贝叶斯可以看成一个谱（spectrum）的两个极端。基于数据驱动的深度学习需要大量的标注数据来训练网络；而贝叶斯方法通过引入知识，加上小的训练样本也可以达到很好的效果。大家可以想想，两者的中间是什么？事实上，越来越多的人在思考，我们能不能朝中间靠拢一些？处在中间的模型应该具有两方面的优点：
我们把融合了二者优点的方法称为贝叶斯深度学习。
在深度学习中应用贝叶斯方法
事实上，已经有不少工作将贝叶斯方法用在深度学习上。早在神经网络时期，MacKay、Neal等人已经开始用贝叶斯来保护网络避免过拟合。后来，也有了一些深入分析。近期的结果也有不少，其中一个是用非参数化贝叶斯来学深度神经网络的结构，并且获得了2010年的AISTATS最佳论文奖。
接下来，我们来看一下一类重要的，最近进展很快的贝叶斯深度学习模型——深度生成模型。
它们和判别式模型不一样，其主要目标是构建一个能够刻画数据分布的模型，通过逼近数据的真实分布，提取数据中的结构。有了这个模型之后，我们可以对它做采样，产生新的样本，比如：这是一个手写体的数据集，是从真实分布里采样得到的。我们学完生成模型之后，可以得到一个逼近真实分布的模型。我对这个模型再次采样后会得到一些新的样本（一些在训练数据里面没有出现过的样本）。
为什么我们要用生成模型
生成模型有很多用处。首先，是生成新的样本，即：创作，在学习完之后，可以「举一反三」。其次，可以充分利用无监督数据进行学习，挖掘数据中的结构规律。再次，可以做半监督学习，融合一小部分有标注的数据和一大部分未标注的数据。最后，可以做有条件的生成，比如：从文本到语言的生成、从一种语言到另外一种语言的生成、从图片到文本的生成等。
最近有很多进展，包括比较流行的GAN、VAE等，都是生成模型。
除了使用有向的贝叶斯网络来刻画，生成模型还可以用无向图的随机场来定义，典型的例子是受限玻尔兹曼机（RBM）。
这两类模型都定义了X和Z的联合分布。在给定数据X的具体值时，我们希望推断出隐含变量Z的信息，即：后验分布。这可以通过贝叶斯公式实现。
下面是一些典型的例子，在机器学习或模式识别的课上可能都讲过。最上边是一个简单的混合模型，下边是一个因子分析模型。这些基本模型是构建深度生成模型的基本单元。
深度生成模型
深度生成模型的概念其实很直接，就是，隐含变量Z可以有多层，不同层之间存在连接关系，这里的连接比深度神经网络中的要更广泛，我们即支持确定性的函数变换（比如：ReLu），也支持随机的变换。总体上，Z是随机的，服从某种先验分布。
在给定观察样本时，我们希望反向推断出来Z的后验分布。这和一般的神经网络是完全一样的，希望Z具有一定的语义，且越高层的Z其语义也高级，以至于能解释观察到的现象。
这有一个简单的例子，来说明深度生成模型的定义和灵活性。
这个Z是一个非常简单的分布：标准高斯。通过随机采样，我们得到一个Z的具体值，然后经过一个非线性的网络（比如：一个简单的MLP全连接网络）变换，我们把该网络的输出定义为刻画X分布的参数，比如：我们假设X的两个维度是独立的，分布服从高斯分布，那么，MLP的四个输出神经元分布对应这两个高斯分布的均值和方差。
这是一个非常直观的定义方式，但是，非常有效。我们知道，一个简单分布的随机变量通过函数变换之后，会得到一个复杂分布的随机变量。这里是使用参数化的深度神经网络来定义函数变换，它的参数可以通过训练数据自动学习出来，因此，比人为选择的特定函数具有更好的适应性。它充分利用了神经网络强大的函数拟合能力。
定义完模型之后，接下来的问题是如何学习参数。根据前面的介绍，我们的主要目标是让模型分布与数据分布尽量接近。因此，需要一个合适的度量，来衡量两个分布的远近。目前，已经发展了多个性质较好的准则学习深度生成模型。
下面，我们主要介绍MLE的思想，关于GAN和矩匹配，可以参考其他材料深入了解。
AEVB（Auto-EncodingVariationalBayes）
变分推断是一种常用的对复杂模型做后验推断的工具。为了处理深度生成模型，最近在算法上有一些根本的变化。这里有一个典型的叫AEVB。
深度生成模型的特点在于隐含变量存在复杂的函数变换（比如：用神经网络来刻画的非线性变换），所以，这种模型的后验分布p有很多局部概率比较大的点，一般的方法是很难逼近的。AEVB的基本思想是：采用另一个神经网络定义一个深度产生模型q，来反向逼近目标。
这里是一个构造从X到Z的变分分布q的例子。我们从数据X出发，通过神经网络变换，其输出当作Z的后验分布的参数，比如：高斯分布的均值和方差。同样的，这种定义也是充分利用了神经网络强大的函数拟合能力。这个网络叫做Q网络。相应的，生成数据的网络称为P网络。这网络的参数可以一起优化，比如：使用随机梯度的方法。
把Q-P网络放在一起，我们可以构成如下的图示。它看上去和一个标准的Auto-Encoder是类似的结构，差别在于这里的变量是随机的，我们要处理的目标是概率分布。正因为这种类似，这种方法被称为Auto-EncodingVariationalBayes(AEVB)。
上面是AEVB的基本框架，当然，在具体做的时候，还有一些细节，比如：如何计算随机梯度？如何控制随机梯度的方差？如何自适应调整步长等等。这里就不在一一介绍了。
首先，在AEVB中，Q-P网络一般是对称的，P怎么生成的，Q网络就反过来。但是，实际上非对称的网络可能更适合。我们知道，用于识别的网络Q，其主要目的是从底层输入中逐层抽象，提取高层的特征表示。但是，在提取过程中，我们会丢失细节信息。所以，到了高层的Z之后，再反过来生成X，实际上细节信息就没有了，而且没办法恢复。一个简单的解决思路是打破这种对称结构，让生产网络具有某种机制，把细节信息记下来，在生成新样本时，可以使用。
这里我们做了一个初步尝试，在生成网络上引入可以学习的记忆（memory）单元，这个memory是记细节信息的。在生成具体图像时，通过一个有选择性的模型，得到一个稀疏的权重向量，对memory中的单元进行加权求和，并且与高层表示结合在一起，就可以生成底层想要的细节信息，基本的结构如下图所示，多个基本层叠加在一起，可以构造一个深度生成模型。
这个想法很简单，受到了脑科学的启发，它的实际效果很显著。基本上在不增加网络参数的情况下，用memory记得信息得到的恢复结果要比不用的好很多，生成质量会更好。
深度生成模型最主要的任务是做样本生成，从未标注数据中学习。最近，也被用来做半监督学习，其主要目的是利用大量未标注数据，学习更好的分类器。这里面有两个问题需要回答，首先，深度生成模型的识别精度如何？其次，如何将未标注和有标注数据很好地融合在一起？我们课题组做了一些探索，发现深度生成模型在适当训练的情况下，其识别精度可以与判别式神经网络类似，而且产生新样本的能力没有受影响，这在一些困难场景下具有优势，比如：当输入样本被污染，或者存在缺失数据时，可以用生成模型对数据进行恢复，其识别性能往往不会受到很大影响；相反，判别式的神经网络是不具备这些能力的，其精度往往恶化严重。在识别任务中，深度生成模型也可以利用卷积运算以及池化操作等，处理复杂的图像。
对于第二个问题，最近也有不少进展，包括我们自己的工作，半监督的深度生成模型在很多任务上都获得了当前最好的识别精度。更有趣的是，在半监督任务下，我们可以把类别信息和风格（style）信息区分开，生成特定变化的样本。例如：在生成的时候，可以先给定一个类，通过变化Style，得到同一个类的不同Style的图像（如MNIST字符）；也可以通过固定Style，变化类别得到不同类别的相同Style的图像。因此，可以从两个维度刻画生成的样本。
福利来了！
福利二：我们为大家准备了异步社区的购书优惠码，没有获得赠书的小伙伴凭借优惠码购买这3本书，可以享受75折的优惠！优惠码：epubit2018（有效期至2018-02-28）
《Python贝叶斯分析》
【阿根廷】OsvaldoMartin（奥斯瓦尔多·马丁）
《贝叶斯方法：概率编程与贝叶斯推断》
【加】CameronDavidson-Pilon
简介：从20世纪80年代末到90年代，人工智能领域出现了3个最重要的进展：深度神经网络、贝叶斯概率图模型和统计学习理论。贝叶斯方法是一种常用的推断方法，是现代数据科学家运用的众多工具集中的一种，可以用来解决预测、分类、垃圾邮件检测、排序、推断等诸多问题。在下一个十年，掌握贝叶斯方法，就像今天掌握C/C++、Python一样重要。提到贝叶斯，就不能不提到这本书。这本书得到了国际著名机器学习专家余凯博士、腾讯专家研究员岳亚丁博士联合推荐。这本书基于PyMC语言以及一系列常用的Python数据分析框架，如NumPy、SciPy和Matplotlib，通过概率编程的方式，讲解了贝叶斯推断的原理和实现方法。无需复杂的数学分析，通过实例、从编程的角度介绍贝叶斯分析方法，大多数程序员都可以入门并掌握。
《贝叶斯思维：统计建模的Python学习法》
【美】AllenB.Downey
简介：在大数据和人工智能时代，贝叶斯方法正在变得越来越常见与重要。贝叶斯方法是一种常见的利用概率学知识去解决不确定性问题的数学方法，对于一个计算机专业的人士，应当熟悉其应用在诸如机器翻译，语音识别，垃圾邮件检测等常见的计算机问题领域。这本书基于AllenDowney在大学讲授的本科课程，帮助那些希望用数学工具解决实际问题的人们。全书在15章的篇幅中讨论了怎样解决十几个现实生活中的实际问题。本书适合懂得Python语言和有一点概率论知识的读者阅读。通过学习本书，读者可以利用Python代码处理实际工作中的贝叶斯统计问题，比如分析SAT考试成绩，模拟肾脏肿瘤分析等。