R语言用WinBUGS 软件对学术能力测验(SAT)建立层次(分层)模型

R2WinBUGS软件包提供了从R调用WinBUGS的便捷功能。

 

由Kaizong Ye,Liao Bao撰写

它自动以WinBUGS可读的格式写入数据和脚本,以进行批处理(自1.4版开始)。WinBUGS流程完成后,可以通过程序包本身将结果数据读取到R中(这提供了推断和收敛诊断的紧凑图形摘要),也可以使用coda程序包的功能对输出进行进一步分析。 

WinBUGS软件可从http://www.mrc-bsu.cam.ac.uk/bugs/  免费获得。

R是一种“用于数据分析和图形处理的语言”,是一种实现该语言的开放源代码和免费提供的统计软件包,请参见http://www.R-project.org/。  R和R2WinBUGS可从CRAN 获得,即http://CRAN.R-Project.org或其镜像之一。

×

贝叶斯层级模型(Bayesian Hierarchical Model)是统计分析中一种有效的分析方法,尤其是当变量有很多而且相互之间有说不清道不明的关系的时候。

线性回归模型

要想理解贝叶斯层级模型就想要理解贝叶斯回归模型。废话不多说,直接上表达式。

来个熟悉的线性回归模型: [公式]

[公式]

拆开来就是 [公式] 。

然后就是用最小二乘法(Ordinary Least Square)。

[公式]

[公式] 。

如果从概率分布的角度来说就需要用极大似然估计(Maximum Likelihood Estimation)。

首先需要构造似然函数。对于一个普通的线性回归模型来说, [公式] 是由 [公式] 、 [公式] 和 [公式] 决定的,其中 [公式] 是已知的。所以我们需要估计的是参数 [公式] 和 [公式] 。

通过构造似然函数,并通过对参数求偏导来使似然函数取到最大值,从而得到参数的无偏估计。具体怎么操作网上很多,我就不写了(懒得打公式,哈哈哈)。

得出的结果和最小二乘求出来的是一样的。同时可以证明残差方差 [公式] 的无偏估计 [公式] 就是 [公式] 的方差。

贝叶斯回归

贝叶斯统计与频率统计最大的区别在于贝叶斯学派认为所有我们看到的概率事件都是基于先验概率。也就是说,所有的(超)参数都是服从其自身的先验分布!拿线性回归的例子来说,[公式] 和 [公式] 是概率分布,并且是来自它们的联合先验(joint prior)分布,不是值,是分布

[公式]

我们的目的是估计 [公式] 和 [公式] 的后验分布,因此我们需要贝叶斯公式: [公式] 。因为 [公式] 和 [公式] 相互独立,所以 [公式] 。

这里 [公式] 的先验 [公式] 和 [公式] 的先验 [公式] 是可以自己随意决定

一般来说, [公式] 。

关于 [公式] 有两种常用的先验,一种是 [公式] ;另一种是令 [公式] ,[公式] 。

从而我们就可以求得 [公式] 的后验分布[公式] 和 [公式] 的后验分布[公式] 。

总结一下就是这个样子的:

[公式]

[公式] 的值都是自己定的,作为已知数据。

至于如何去求后验分布,基本上都是用的是蒙托卡罗-马尔可夫方法(MCMC),具体有可以分成M-H (Metropolis-Hastings)抽样算法和Gibbs抽样算法。当然也有用变分贝叶斯算法的。很多帖子都有做这类的介绍,这里不做过多陈述。

贝叶斯层级模型

介绍完贝叶斯回归模型,接下来就来说说贝叶斯层级模型。所谓层级就是将原本的参数作为变量继续进行估计。继续拿上面的线性回归举例。咱们刚刚讨论了贝叶斯线性模型的目标是通过[公式] 和 [公式] 的先验分布来估计 [公式] 和 [公式] 的后验分布。现在经过研究,我们发现 [公式] 和 [公式] 的先验分布会受其他因素的影响,我们需要通过额外数据来估计 [公式] 和 [公式] 的先验 ,而不能自己随意决定!

这里任然是用[公式] ,[公式] 举例。其中每一个参数 [公式] 都可能有各自的先验分布。整合起来就是

[公式]

这是一个完整的两层贝叶斯回归模型。有些时候,例如 [公式] 就是已知的,那么这里就不需要再假设它有先验了。这种时候这个模型的层就是一层半。

如果继续衍生下去,让已知的参数继续变为未知,那么就会出来三层、四层、五层……贝叶斯层级模型。


提前说一下,我是用R语言来做分析的,但贝叶斯层级模型是调用了jags来跑的。R里面有一个rjags的包,同时也要下载jags程序,Just Another Gibbs Sampler。



如果可以使用Internet连接,则可以在R命令提示符下键入

install.packages(
"R2WinBUGS")

来安装R2WinBUGS。别忘了用

library(R2WinBUGS)

例子

学校数据

学术能力测验(SAT)衡量高中生的能力,来帮助大学做出入学决定。 我们的数据来自1970年代后期进行的一项实验,来自八所高中的SAT-V(学业能力测试语言)。SAT-V是由教育测试服务局管理的标准多项选择测试。该服务对所选学校中每所学校的教练计划的效果很感兴趣。

实现

R2WinBUGS软件包的实现非常简单。 main“函数bugs() 由用户调用。原则上,它是对 其中逐步调用的其他几个函数的包,如下:

  1. bugs.data.inits()写入数据文件’ data.txt”和“ inits1.txt”,“ inits2.txt” …进入 工作目录。
  2. bugs.script()写入WinBUGS用于批处理的文件“ script.txt”。
  3. bugs.run()更新WinBUGS注册表 ,调用WinBUGS,并使用 ‘script.txt’ 以批处理模式运行它。
  4. bugs.sims()如果参数codaPkg已设置为false(默认值)才调用。
    否则,bugs()返回存储数据的文件名。例如,这些可以通过打包的coda 导入,该软件包提供了收敛诊断,蒙特卡洛估计的计算,迹线图等功能。
    bugs.sims()函数将WinBUGS中的模拟读取到R中,将其格式化,监视收敛,执行收敛检查并计算中位数和分位数。它还为bugs()本身准备输出。
    这些功能不由用户直接调用。参数将从bugs()传递给其他函数。


课程

R语言数据分析挖掘必知必会

从数据获取和清理开始,有目的的进行探索性分析与可视化。让数据从生涩的资料,摇身成为有温度的故事。

立即参加

例子 

我们将 R2WinBUGS提供的功能应用于示例数据并分析输出。

学校数据

示例数据 :

> schools 


为了对这些数据进行建模,我们使用了Gelman等人提出的层次模型。 我们假设每所学校的观测估计值具有正态分布,且均值theta 和方差tau.y,逆方差为1 =σ.y2,其先验分布在(0,1000)上是均匀的。对于均值theta,我们采用另一个正态分布 平均为mu.theta和逆方差为tau.theta。有关其先验分布,请参见以下WinBUGS代码:

model {
for (j in 1:J)
{
y[j] ~ dnorm (theta[j], tau.y[j])
theta[j] ~ dnorm (mu.theta, tau.theta)
tau.y[j] <- pow(sigma.y[j], -2)
}
mu.theta ~ dnorm (0.0, 1.0E-6)
tau.theta <- pow(sigma.theta, -2)
sigma.theta ~ dunif (0, 1000)
}

此模型必须存储在单独的文件中,例如’schools.bug’2,在适当的目录中,例如c:/ schools /。在R中,用户必须准备bugs()函数所需的数据输入。这可以是包含每个数据向量名称的列表,例如


WinBUGS对多元随机波动率模型:贝叶斯估计与模型比较

阅读文章


> J <- nrow(schools) 

使用这些数据和模型文件,我们可以运行MCMC模拟以获取theta, mu.theta和sigma.theta的估计值。在运行之前,用户必须确定要运行多少个链 (n.chain = 3)和迭代次数(n.iter = 1000)。另外,用户必须指定链的初始值,例如通过编写函数:

> inits <- function(){
+ list(theta = rnorm(J, 0, 100), mu.theta = rnorm(1, 0, 100),
+ sigma.theta = runif(1, 0, 100))
+ }

可以开始MCMC模拟,R中的参数bugs.directory必须指向WinBUGS的安装目录。可以通过print(schools.sim)方便地输出school.sim对象中的结果。


随时关注您喜欢的主题


 
对于此示例,将获得类似的结果

Inference for Bugs model at "c:/schools/schools.bug"
3 chains, each with 1000 iterations (first 500 discarded)
n.sims = 1500 iterations saved
mean sd 2.5% 25% 50% 75% 97.5% Rhat n.eff
theta[1] 11.1 9.1 -3.0 5.0 10.0 16.0 31.8 1.1 39
theta[2] 7.6 6.6 -4.7 3.3 7.8 11.6 21.1 1.1 42
theta[3] 5.7 8.4 -12.5 0.6 6.1 10.8 21.8 1.0 150
theta[4] 7.1 7.0 -6.6 2.7 7.2 11.5 21.0 1.1 42
theta[5] 5.1 6.8 -9.5 0.7 5.2 9.7 18.1 1.0 83
theta[6] 5.7 7.3 -9.7 1.0 6.2 10.2 20.0 1.0 56
theta[7] 10.4 7.3 -2.1 5.3 9.8 15.3 25.5 1.1 27
theta[8] 8.3 8.4 -6.6 2.8 8.1 12.7 26.2 1.0 64
mu.theta 7.6 5.9 -3.0 3.7 8.0 11.0 19.5 1.1 35
sigma.theta 6.7 5.6 0.3 2.8 5.1 9.2 21.2 1.1 46
deviance 60.8 2.5 57.0 59.1 60.2 62.1 66.6 1.0 170
pD = 3 and DIC = 63.8 (using the rule, pD = var(deviance)/2)
For each parameter, n.eff is a crude measure of effective sample size,
and Rhat is the potential scale reduction factor (at convergence, Rhat=1).
DIC is an estimate of expected predictive error (lower deviance is better).

此外,用户可以通过输入plot(schools.sim)生成结果图。

结果图如图所示。在该图中,左列显示了以下内容的快速摘要:
推论和收敛(所有参数的Rb都接近1.0,表明三个链的良好混合,因此近似收敛);右列显示每组参数的推论。从右栏中可以看到,R2WinBUGS使用 WinBUGS中的参数名称将输出构造为标量,向量和参数数组。


可下载资源

关于作者

Kaizong Ye拓端研究室(TRL)的研究员。

本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。

​非常感谢您阅读本文,如需帮助请联系我们!

 
QQ在线咨询
售前咨询热线
15121130882
售后咨询热线
0571-63341498

关注有关新文章的微信公众号


永远不要错过任何见解。当新文章发表时,我们会通过微信公众号向您推送。

技术干货

最新洞察

This will close in 0 seconds