在R语言中实现Logistic逻辑回归

逻辑回归是拟合回归曲线的方法,当y是分类变量时,y = f(x)。

由Kaizong Ye,Weilong Zhang撰写

典型的使用这种模型被预测Ÿ给定一组预测的X。预测因子可以是连续的,分类的或两者的混合。

R中的逻辑回归实现

R可以很容易地拟合逻辑回归模型。要调用的函数是glm(),拟合过程与线性回归中使用的过程没有太大差别。在这篇文章中,我将拟合一个二元逻辑回归模型并解释每一步。

数据集

我们将研究泰坦尼克号数据集。这个数据集有不同版本可以在线免费获得,但我建议使用Kaggle提供的数据集。

数据集(训练)是关于一些乘客的数据集合,并且竞赛的目标是预测生存(如果乘客幸存,则为1,否则为0)基于某些诸如服务等级,性别,年龄等特征。正如您所看到的,我们将使用分类变量和连续变量。

数据清理过程

在处理真实数据集时,我们需要考虑到一些数据可能丢失的事实,因此我们需要为我们的分析准备数据集。作为第一步,我们使用该函数加载csv数据read.csv()。

确保参数na.strings等于c(“”)使每个缺失值编码为a NA。这将帮助我们接下来的步骤。


热门课程

R语言数据分析挖掘必知必会

面对扑面而来的数据浪潮,包含Google、Facebook等国际企业,都已采用R语言进行数据分析

探索课程

现在我们需要检查缺失的值,并查看每个变量的唯一值,使用sapply()函数将函数作为参数传递给数据框的每一列。

对缺失值进行可视化处理可能会有所帮助 ,可以绘制数据集并突出显示缺失值:

可变机舱有太多的缺失值,我们不会使用它。

使用subset()函数我们对原始数据集进行子集化,只选择相关列。

现在我们需要解释其他缺失的值。通过在拟合函数内设置参数来拟合广义线性模型时,R可以很容易地处理它们。但是,我个人更倾向于在可能的情况下更换NAs“手动”。有不同的方法可以做到这一点,一种典型的方法是用现有的平均值,中位数或模式代替缺失值。我将使用平均值。

就分类变量而言,使用read.table()或read.csv()默认会将分类变量编码为因子。一个因素是R如何处理分类变量。

为了更好地理解R如何处理分类变量,我们可以使用该contrasts()函数。这个函数将告诉我们变量如何被R虚拟化,以及如何在模型中解释它们。

在进行拟合过程之前,让我提醒您清洁和格式化数据的重要性。这个预处理步骤对于获得模型的良好拟合和更好的预测能力通常是至关重要的。

模型拟合

我们将数据分成两部分:训练和测试集。训练集将用于适合我们将在测试集上进行测试的模型。

通过使用函数,summary()我们获得了我们模型的结果:

解释我们的逻辑回归模型的结果

现在我们可以分析拟合并解释模型告诉我们什么。

首先,我们可以看到SibSp,Fare和Embarked没有统计意义。至于统计上显着的变量,性别具有最低的p值,这表明乘客的性别与存活的可能性有很强的关联。该预测因子的负系数表明所有其他变量相同,男性乘客不太可能存活下来。请记住,在Logit模型中,响应变量是对数可能性:ln(odds)= ln(p /(1-p))= a * x1 + b * x2 + … + z * xn。由于男性是虚拟变量,因此男性将对数赔率降低2.75,而单位年龄增加则将对数赔率降低0.037。

现在我们可以运行anova()模型上的函数来分析偏差表

现在我们可以运行anova()模型上的函数来分析偏差表

零偏差和剩余偏差之间的差异显示了我们的模型如何对付零模型(仅包含截距的模型)。这个差距越大越好。通过分析表格,我们可以看到每次添加一个变量时出现偏差的情况。同样,增加Pclass,Sex and Age可以显着减少残余偏差。尽管SibSp具有较低的p值,但其他变量似乎可以减少模型。这里的大p值表示没有变量的模型或多或少地解释了相同的变化量。最终你想看到的是一个显着的下降和偏差AIC。

尽管不存在与线性回归的R 2确切等价,但McFadden R 2指数可用于评估模型拟合。

评估模型的预测能力

在上面的步骤,我们简要评价模型的拟合,现在我们希望看到,当预测模型是如何做Ÿ在新的一组数据。通过设置参数type=’response’,R将以P(y = 1 | X)的形式输出概率。我们的决策边界将是0.5。如果P(y = 1 | X)> 0.5,则y = 1,否则y = 0。请注意,对于某些应用程序,不同的阈值可能是更好的选择。

测试集上的0.84精度是相当不错的结果。但是,请记住,这个结果有点依赖于我之前做的数据的手动分割,因此如果您希望得到更精确的分数,最好运行某种交叉验证,如k折叠交叉验证验证。

作为最后一步,我们将绘制ROC曲线并计算二元分类器典型性能测量的AUC(曲线下面积)。

ROC是通过在各种阈值设置下将真阳性率(TPR)与假阳性率(FPR)作图而产生的曲线,而AUC是ROC曲线下的面积。作为一个经验法则,具有良好预测能力的模型应该具有接近于1(1是理想的)的AUC比0.5。


可下载资源

关于作者

Kaizong Ye拓端研究室(TRL)的研究员。

本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。

​非常感谢您阅读本文,如需帮助请联系我们!