R语言方差分析(ANOVA)学生参加辅导课考试成绩差异

方差分析是一种常见的统计模型,顾名思义,方差分析的目的是比较平均值。

由Kaizong Ye,Coin Ge撰写

为了说明该方法,让我们考虑以下样例,该样例为学生在硕士学位课程中的最终统计考试成绩(分数介于0到20之间)

成绩是我们的变量 X。“分组”变量是学生参加辅导课的方式,采用“自愿参与”,“非自愿参与”的方式,最后是“不参与”(不参加或拒绝参加的学生)。

为了进行分组,我们有两个变量。

第一个分组变量是学生的性别(“ F”和“ M”),第二个分组变量是学生的身份(取决于他们是否获得许可)。

×

方差分析原理

对总体均值的假设检验,有三种情况:
1、总体均值与某个常数进行比较;
2、两个总体均值之间的比较;
3、两个以上总体均值之间的比较;

对于前两种情况,用Z分布和T分布就能快速得到假设检验结果。如果比较的总体大于三个,继续用它们也能够得到比较结果,只是需要两两比较,耗时耗力。这种情况下,使用方差分析能够一次性比较两个及两个以上的总体均值,看看它们之间是否有显著性差异。常用的方差分析方法包括:单因素方差分析、多因素方差分析、协方差分析、多元方差分析、重复测量方差分析、方差成分分析等。

方差分析原理
方差分析的原理通俗的解释就是将试验数据的总离散分解为来源于不同因素的离散,并作出数据估计,从而发现各个因素在总离散中所占的重要程度。

名词解释
因素:方差分析的研究变量;例如,研究裁判打分的差异,裁判就被称为因素;
水平:因素中的内容称为水平;例如,总共有3个裁判打分,则裁判因素的水平就是3;
观测因素:又称观测变量,指对影响总体的因素;
控制因素:又称控制变量,指影响观测变量的因素;

假设检验原理
以单因素方差分析为例,介绍方差分析原理,下图是单因素方差分析表格。


如果单个因素的不同水平对于数据总体没有影响,那么组间方差与组内方差没有显著性差异;如果单个因素的不同水平对于数据总体有影响,组间方差和组内方差就会有显著性的差异。用组间方差除以组内方差,得到F值,F值的分布服从F分布,所以F值在F分布上有对应的显著概率p值。当p值大于假设检验的显著性水平时,说明组间方差和组内方差没有显著性差异,也就是说因素的不同水平对于数据总体没有影响;反之,当p值小于假设检验的显著性水平,说明因素的不同水平对于数据总体有影响。

假定条件
1、多个样本来自的多个总体是正态分布的。方差分析运用的是F分布,只有服从正态分布的总体才适用F分布进行假设检验,否则,检验结果是没有意义的。
2、单个因素的不同水平分组的方差要求齐性。前面介绍了,方差分析假设的是单个因素的不同分组数据之间没有区别,换一种说法就是单个因素的不同分组对于数据总体没有影响,也就是说不同分组的数据都来自同一个数据总体,方差相同。
基于以上两个假设,方差分析才能将方差的差异性推断转换成对两个以上总体均值的差异性推断。

事后多重比较
经过方差分析以后,如果检验结果显示多个水平之间存在显著性差异,那么还需要进行事后多重比较。因为方差分析结果的显著只能说明两个以上总体的均值之间存在显著性,但是不能分析出具体是那几个总体的均值不相等,所以还需要进行两两总体均值的比较。

方差分析步骤
1、方差齐性减压;
2、计算各项平方和与自由度;
3、列出方差分析表,进行F检验,并依据F值对应的p值做出判断;
4、事后多重比较;

方差分析模型

方差分析的基本思路是将数据波动(变异)分解为若干部分,除了有一部分代表随机误差,其余每个部分的变异分别代表了某个影响因素的作用(包括交互作用形成的因素)。通过比较因素所致的变异与随机误差的大小,借助F分布和F统计量做出推断:该因素对因变量的影响是否显著存在。F统计量=组间方差/组内方差。



首先,我们 简单浏览一下数据

我们浏览了数据的最后六行。

在开始多因素分析之前,让我们从单因素分析开始。我们可以查看分数的变化,具体取决于分组变量 

我们还可以根据性别来查看 


热门课程

R语言数据分析挖掘必知必会

面对扑面而来的数据浪潮,包含Google、Facebook等国际企业,都已采用R语言进行数据分析

探索课程

在方差分析中,假设 https://latex.codecogs.com/gif.latex?X_{i,j}=\mu_j+\varepsilon_{i,j}

https://latex.codecogs.com/gif.latex?X_{i,j}=\mu+\alpha_j+\varepsilon_{i,j}

 https://latex.codecogs.com/gif.latex?j 指定可能的处理方式(这里有3种)。

我们将考虑对 https://latex.codecogs.com/gif.latex?H_0:\forall%20j,\alpha_j=0作为补充假设 https://latex.codecogs.com/gif.latex?H_1:\exists%20j,\alpha_j\neq0。然后,我们将估计两个模型。

第一个是约束模型。

对应于

第二,我们进行回归,

当我们与子组的平均值进行比较时,就等于查看了误差,

费舍尔的统计数据

判断我们是否处于接受或拒绝假设的范围内 https://latex.codecogs.com/gif.latex?H_0,可以看一下临界值,它对应于费舍尔定律的95%分位数,

由于远远超过了这个临界值,我们拒绝 https://latex.codecogs.com/gif.latex?H_0。我们还可以计算p值

在这里(通常)为零。它对应于我们通过函数得到的

或者

可以总结为

我们在这里可以看到分数并非独立于分组变量。

我们可以进一步挖掘。Tukey检验提供“多重检验”,它将成对地查看均值的差异,

我们在这里看到,“非自愿”和“非参与”之间的差异不显着为非零。或更简单地说,假设我们将接受零为零的假设。另一方面,“自愿”参加的得分明显高于“非自愿”参加或不参加的得分。我们还可以成对查看学生的检验,

如果我们将“非自愿”和“非参与”这两种方式结合起来,并将这种方式与“自愿”方式进行比较,我们最终将对平均值进行检验,

我们看到,我们在这里接受了“志愿者”学生的成绩与其他学生不同的假设。

在继续之前,请记住在模型中

https://latex.codecogs.com/gif.latex?Y_i%20=%20\mu+\alpha_j+\varepsilon_{i,j}在某种意义上说,与对应于同调模型 https://latex.codecogs.com/gif.latex?\sigma^2 不依赖分组 https://latex.codecogs.com/gif.latex?j

我们可以使用Bartlett检验(该检验将检验方差的同质性)来检验该假设,请记住,如果p值超过5%,则假设“方差齐整性”得到了验证

更进一步,我们可以尝试对性别进行方差分析的两因素分析,通常要根据我们的分组情况,也可以根据性别对变量进行分析。当均值的形式为零时,我们将讲一个没有相互作用的模型 https://latex.codecogs.com/gif.latex?A+B,我们可以包括我们考虑的交互

总的来说,我们的模型

其中,按实验处理方式表示与观察到的平均值平均值的偏差,而按组表示与所观察到的平均值平均值的偏差。这样可以通过添加一些约束来识别模型。最大似然估计:

https://latex.codecogs.com/gif.latex?%20\widehat{\mu}=\overline{x}

对应于总体平均值

https://latex.codecogs.com/gif.latex?%20\widehat{\alpha}_j=\overline{x}_j-\overline{x}

对应于每次实验的平均值(或更确切地说,它与总体平均值的偏差),

https://latex.codecogs.com/gif.latex?\widehat{\beta}_k=\overline{x}_k-\overline{x}

最后

https://latex.codecogs.com/gif.latex?\widehat{\gamma}_{j,k}=\overline{x}_{j,k}-\widehat{\mu}-\widehat{\alpha}_j-\widehat{\beta}_k

https://latex.codecogs.com/gif.latex?\widehat{\gamma}_{j,k}=\overline{x}_{j,k}-\overline{x}_j-\overline{x}_k+\overline{x}

我们对一组进行方差分析

https://latex.codecogs.com/gif.latex?SCR_0=\sum_{i,j,k}[x_{i,j,k}-\overline{x}]^2

对于约束模型,

https://latex.codecogs.com/gif.latex?SCR_{\alpha}=[m%20J]\sum_{j}[\overline{x}_{j}-\overline{x}]^2
https://latex.codecogs.com/gif.latex?SCR_{\beta}=[m%20K]\sum_{k}[\overline{x}_{k}-\overline{x}]^2
https://latex.codecogs.com/gif.latex?SCR_{\gamma}=m\sum_{j,k}[\overline{x}_{j,k}-\overline{x}_j-\overline{x}_k+\overline{x}]^2

 https://latex.codecogs.com/gif.latex?J 和 https://latex.codecogs.com/gif.latex?K 表示实验次数和组数

https://latex.codecogs.com/gif.latex?SCR_{\varepsilon}=\sum_{i,j,k}\widehat{\varepsilon}_{i,j,k}^2

方差分解公式在这里给出

https://latex.codecogs.com/gif.latex?SCR_0=SCR_{\alpha}+SCR_{\beta}+SCR_{\gamma}+SCR_{\varepsilon}

我们将进行手动计算,

总结结果

由于实验组与对照组之间似乎没有任何交互作用,因此可以将其从方差分析中删除。

从结果可以看到(自愿)参加课程会有所帮助。


可下载资源

关于作者

Kaizong Ye拓端研究室(TRL)的研究员。

本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。

​非常感谢您阅读本文,如需帮助请联系我们!

 
QQ在线咨询
售前咨询热线
15121130882
售后咨询热线
0571-63341498