R语言蒙特卡洛方法:方差分量的Metropolis Hastings(M-H)、吉布斯Gibbs采样比较分析

蒙特卡洛方法利用随机数从概率分布P(x)中生成样本,并从该分布中评估期望值,该期望值通常很复杂,不能用精确方法评估。

由Kaizong Ye,Coin Ge撰写

在贝叶斯推理中,P(x)通常是定义在一组随机变量上的联合后验分布。然而,从这个分布中获得独立样本并不容易,这取决于取样空间的维度。


因此,我们需要借助更复杂的蒙特卡洛方法来帮助简化这个问题;例如,重要性抽样、拒绝抽样、吉布斯抽样和Metropolis Hastings抽样。这些方法通常涉及从建议密度Q(x)中取样,以代替P(x)。

在重要性抽样中,我们从Q(x)中产生样本,并引入权重以考虑从不正确的分布中抽样。然后,我们对我们需要评估的估计器中的每个点的重要性进行调整。在拒绝抽样中,我们从提议分布Q(x)中抽取一个点,并计算出P(x)/Q(x)的比率。然后我们从U(0,1)分布中抽取一个随机数u;如果

,我们就接受这个点x,否则就拒绝并回到Q(x)中抽取另一个点。吉布斯抽样是一种从至少两个维度的分布中抽样的方法。这里,提议分布Q(x)是以联合分布P(x)的条件分布来定义的。我们通过从后验条件中迭代抽样来模拟P(x)的后验样本,同时将其他变量设置在其当前值。

×

MCMC 的算法使用了一种接受、拒绝的条件判断结构,试想如果大部分采样值都被拒绝转移,就会导致采样了上百万次也没有使马尔可夫链收敛到平稳分布。这在实际中也是无法接受的。

Metropolis-Hastings (M-H) 采样

M-H 是两个算法创造者的名字!

M-H 采样用于解决MCMC接受率过低的问题。

我们从MCMC的细致平稳条件出发:

[公式]

MCMC接受率过低主要原因是 [公式] 过小的缘故,但是如果上式两端同时放大,细致平稳条件仍然可以满足:

[公式]

[公式]

Vanilla MCMC 对于这个值的计算方式是:

[公式]

因此,一个直观且有效的改进方法就是:

[公式]

即把等式两边的 [公式] 中最大的一个扩大到 1,对应的也按相应比例放大。

Pseudocode

  1. 选定任意的马尔科夫链状态转移矩阵 Q,平稳分布 [公式] ,设定状态转移次数阈值 [公式] ,需要的样本个数 [公式] ;

  2. 从任意简单概率分布开始,采样得到初始状态 [公式] ;

  3. for [公式] to [公式] :

  4. 从条件概率分布 [公式] 中采样得到样本 [公式]

  5. 从均匀分布采样u∼uniform[0,1]

  6. 如果 [公式]则接受转移 [公式] ,即 [公式]

  7. 否则不接受转移,即 [公式]

样本集 [公式] 即为我们需要的平稳分布对应的样本集。

很多时候,我们选择的马尔科夫链状态转移矩阵 Q 如果是对称矩阵,即满足 [公式] ,这时我们的接受率可以进一步简化为:

[公式]

Gibbs 采样

M-H 在高维情况下有两个缺点:

  • 计算 M-H 中的 [公式] 是一笔很大的开销。

  • 高维情况下需要以多元联合分布为采样目标,通常很难求出。

Gibbs采样思想

当联合分布未知或者难以取样,而每一个变量的条件分布则已知或者更易于取样的时候,我们就可以用Gibbs Sampling。Gibbs Sampling算法依次从每一个变量的分布中,以其他变量的当前值为条件,生成一个个体。易知,这个样本序列构成了一个Markov Chain,以及这个Markov Chain的平稳分布(stationary distribution)就是所需要的联合分布。

给定一个多元分布,相比对联合分布 [公式] 积分然后求边缘分布 [公式] ,从条件分布中直接取样的方法来的更加容易。

以二维数据为例, 假设 [公式] 是一个二维联合数据分布,观察第一个特征维度相同的两个点 [公式] 上标为马尔可夫链的时间戳,下标为特征),容易发现下面两式成立:

[公式]

由于两式的右边相等,因此我们有:

[公式]

[公式]

即在 [公式] 这根一维线上,我们可以将条件概率分布 [公式] 作为马尔科夫链的状态转移概率,则任意两个点之间的转移满足细致平稳条件!

同理,如果是前后两个采样点 [公式] ,此时是 [公式] 不变,那么在这条一维的线上,条件概率分布 [公式] 是其满足细致平稳条件的状态转移矩阵。

这也间接的导致了 MCMC 中的接受系数 [公式] 恒等于1!即恒接受每一个采样点!

设 [公式] 为新的采样点,k为唯一有变化的一维

[公式]

二维Gibbs采样

  1. 平稳分布 $ [公式] ,设定状态转移次数阈值 [公式] ,需要的样本个数 [公式] ;

  2. 从任意简单概率分布开始,采样得到初始状态 [公式] ;

  3. for [公式] to [公式] :
    – 从条件概率分布 [公式] 中采样得到样本 [公式]
    – 从条件概率分布 [公式] 中采样得到样本 [公式]

样本集 [公式] 即为我们需要的平稳分布对应的样本集。

整个采样过程中,我们通过轮换坐标轴,采样的过程为:

[公式]



虽然,重要性抽样和拒绝抽样需要Q(x)与P(x)相似(在高维问题中很难创建这样的密度),但当条件后验没有已知形式时,吉布斯抽样很难应用。

这一假设在更普遍的Metropolis-Hastings算法中可以放宽,在该算法中,候选样本被概率性地接受或拒绝。这种算法可以容纳对称和不对称的提议分布。该算法可以描述如下 

初始化

抽取
计算
中抽取
如果
否则,设置
结束 

吉布斯抽样是Metropolis Hastings的一个特例。它涉及一个总是被接受的提议(总是有一个Metropolis-Hastings比率为1)。

我们应用Metropolis Hastings算法来估计标准G-BLUP模型中回归系数的方差成分。

对于G-BLUP模型。

其中代表表型的向量和基因型的矩阵。 是标记效应的向量,是模型残差的向量,残差为正态分布,均值为0,方差为

考虑到其余参数,的条件后验密度为:

这是一个逆卡方分布。

假设我们需要使的先验尽可能地不具信息性。一种选择是设置,并使用拒绝抽样来估计;但是,设置S0=0可能会导致算法卡在0处。 因此,我们需要一个可以替代逆卡方分布的先验,并且可以非常灵活。为此,我们建议使用β分布。由于所得到的后验不是一个合适的分布,Metropolis Hastings算法将是获得后验样本的一个好选择。

这里我们把作为我们的提议分布Q。因此。

我们的目标分布是的正态似然与的β先验的乘积。由于β分布的域在0和1之间,我们用变量来代替β先验,其中MAX是一个确保大于的数字,这样

其中α1和α2是β分布的形状参数,其平均值由给出。


R语言实现MCMC中的Metropolis–Hastings算法与吉布斯采样

阅读文章


我们按照上面的算法步骤,计算出我们的接受率,如下所示。

然后我们从均匀分布中抽取一个随机数u,如果,则接受样本点,否则我们拒绝该点并保留当前值,再次迭代直至收敛。

Metropolis Hastings 算法

吉布斯采样器 


随时关注您喜欢的主题


绘制图

设置参数 

运行吉布斯采样器

在不同的情况下运行METROPOLIS HASTINGS

小样本量,先验

样本量小,β值的形状1参数大

样本量小,β值的形状1参数大

样本量小,β的形状参数相同(大)

大的样本量,先验

大样本量,形状1参数的β

大样本量,β值的大形状2参数

大样本量,β的形状参数相同(大)

参考文献

  1. Gelman, Andrew, et al. Bayesian data analysis. Vol. 2. London: Chapman & Hall/CRC, 2014.


可下载资源

关于作者

Kaizong Ye拓端研究室(TRL)的研究员。

本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。

​非常感谢您阅读本文,如需帮助请联系我们!

 
QQ在线咨询
售前咨询热线
15121130882
售后咨询热线
0571-63341498