R语言逻辑回归和泊松回归模型对发生交通事故概率建模

我们已经看到了如何考虑风险敞口,计算包含风险敞口的多个数量(经验均值和经验方差)的非参数估计量。让我们看看如果要对二项式变量建模。

由Kaizong Ye,Sherry Deng撰写

让我们看看如果要对二项式变量建模。

这里的模型如下:

  • 未观察到https://latex.codecogs.com/gif.latex?N_i​该期间的索赔数量 https://latex.codecogs.com/gif.latex?[0,1]
  • 索偿的数量  https://latex.codecogs.com/gif.latex?Y_i

 

考虑一种情况,其中关注变量不是索偿的数量,而仅仅是索偿发生的标志。然后,我们希望将事件模型https://latex.codecogs.com/gif.latex?\ {N = 0 \}​对比https://latex.codecogs.com/gif.latex?\ {N%3E0 \}​,解释为不发生发生。鉴于我们只能观察https://latex.codecogs.com/gif.latex?\ {Y = 0 \}​vs   https://latex.codecogs.com/gif.latex?\ {Y%3E0 \}​。利用泊松过程模型,我们可以获得

https://latex.codecogs.com/gif.latex?\mathbb{P}(Y=0)%20=%20\mathbb{P}(N=0)^E

×

逻辑回归算法是机器学习分类算法中的一种,是广义线性回归模型 。该算法常用于二分类或多分类问题。在数据挖掘、经济预测、医疗疾病的自动诊断等领域经常会被应用。

假定自变量X与因变量Y,逻辑回归用来描述因变量Y与自变量X的关系,最后预测因变量Y。具体步骤如下:

(1) 首先需要找一个合适的预测函数,表示为h函数,该函数是我们要找的分类函数,也是预测输入数据的判断结果 。利用Sigmoid函数和线性回归函数可以得出h函数。

Sigmoid函数:

g ( z ) = 1 1 + e z (1)

线性回归函数公式为:

z = θ 0 + θ 1 x 1 + θ 2 x 2 + + θ i x i = θ T x (2)

利用(1)与(2)式可以得到h函数如下:

h θ ( x ) = 1 1 + e θ T x (3)

(2) 构建能够描述模型预测值  h ( θ )  与真实值y之间的偏差函数  C ( θ ) ,称为代价函数。代价函数求平均值记作  ,一个模型的优劣可以通过  B ( θ )  来行判断,当  B ( θ )  函数越小,表明当前模型与参数更适合训练样本。基于最大似然估计可以达到  B ( θ )

B ( θ ) = 1 m [ i = 1 m ( y ( i ) log h θ ( x ( i ) ) ) + ( 1 y ( i ) ) log ( 1 h θ ( x ( i ) ) ) ] (4)

(3) 求  B ( θ )  的最小值使用梯度下降法,使用梯度下降法来求最小值是常用的方法。各个参数的偏导数就是  B ( θ )  的梯度,机器学习的过程中参数下降的方向就是偏导数的方向,学习率用  λ  表示,通过偏导数使用梯度下降法求出使  B ( θ )  最小的  θ ,在对参数进行更新。推导后可得出  θ j  如下:

θ j = θ j λ ( 1 m ) i = 1 m ( h θ ( x ( i ) ) y ( i ) ) x j ( i ) (5)



这意味着在一年的前六个月中没有索赔的概率是一年中没有索赔的平方根。假设可以https://latex.codecogs.com/gif.latex?\boldsymbol{X}​通过一些链接函数(使用GLM术语)表示为一些协变量来解释没有索赔的概率,

https://latex.codecogs.com/gif.latex?\mathbb {P}(N = 0 | \ boldsymbol {X})= h(\ boldsymbol {X} ^ {\ text {\ sffamily%20T}} \\粗体符号{\ beta})

现在,因为我们确实观察到  https://latex.codecogs.com/gif.latex?Y​而不是  https://latex.codecogs.com/gif.latex?N

我们有

https://latex.codecogs.com/gif.latex?\mathbb{P}(Y=0|\boldsymbol{X},E)=h(\boldsymbol{X}^{\text{\sffamily%20T} } \ boldsymbol {\ beta})^ E

我们将使用的数据集


This image has an empty alt attribute; its file name is image.png

专栏

精算科学

关于结合数学、统计方法以及程序语言对经济活动来做风险分析、评估的见解。

探索专栏

我们可以考虑的第一个模型基于标准的逻辑回归方法,即

https://latex.codecogs.com/gif.latex?\mathbb {P}(Y = 0 | \ boldsymbol {X},E)= \ left(\ frac {\ exp(\ boldsymbol {X} ^ {\文字{\ sffamily%20T}} \ boldsymbol {\ beta})} {1+ \ exp(\ boldsymbol {X} ^ {\ text {\ sffamily%20T}} \ boldsymbol {\ beta})} \ right)^ Ë

很好,但是很难用标准函数处理。尽管如此,始终有可能通过数值计算给定的最大似然估计量https://latex.codecogs.com/gif.latex?(Y_i,\boldsymbol{X}_i,E_i)​。

现在,让我们看看基于标准回归模型的替代方案。例如对数线性模型Logistic回归算法)。因为暴露数是年概率的幂,所以如果https://latex.codecogs.com/gif.latex?h​是指数函数(或  https://latex.codecogs.com/gif.latex?h^{-1}​对数链接函数)  ,因为

https://latex.codecogs.com/gif.latex?\mathbb{P}(Y=0|\boldsymbol{X},E)=\exp(E+\boldsymbol{X}^{\text{\sffamily% 20T}} \ boldsymbol {\ beta})

现在,我们对其进行编码,

尝试了所有可能的方法,但是无法解决该错误消息,

所以我决定放弃。实际上,问题出在https://latex.codecogs.com/gif.latex?\mathbb{P}(Y=0)​接近1 的事实。因为

https://latex.codecogs.com/gif.latex?\mathbb{P}(Y%3E0)=1-\mathbb{P}(Y=0)%20=%201-[1-\mathbb{P }(N%3E0)] ^ E

其中https://latex.codecogs.com/gif.latex?\mathbb{P}(N%3E0)​接近0,所以我们可以用泰勒展开,

https://latex.codecogs.com/gif.latex?\mathbb{P}(Y%3E0)\sim1-1+E\cdot%20\mathbb{P}(N%3E0)]=E\cdot% 20 \ mathbb {P}(N%3E0)]

在这里,暴露数不再显示为概率的幂,而是相乘。如果我们考虑对数链接函数,那么我们可以合并暴露数的对数。

现在可以完美运行了。

现在,要查看最终模型,我们回到Poisson回归模型,因为我们确实有概率模型https://latex.codecogs.com/gif.latex?\mathbb{P}(Y=\cdot)​。

现在我们可以比较这三个模型。我们还应该包括没有任何解释变量的预测。对于第二个模型(实际上,它运行时没有任何解释变量),我们运行

预测

可与逻辑回归比较,

但是与泊松模型有很大的不同,

我们产生一个图表比较那些模型,

在这里观察到这三个模型是完全不同的。实际上,使用两个模型,可以进行更复杂的回归分析(例如使用样条曲线),以可视化年龄对发生或不发生交通事故概率的影响。如果将泊松回归(仍为红色)和对数二项式模型与泰勒展开进行比较,我们得到


可下载资源

关于作者

Kaizong Ye拓端研究室(TRL)的研究员。

本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。

​非常感谢您阅读本文,如需帮助请联系我们!

 
QQ在线咨询
售前咨询热线
15121130882
售后咨询热线
0571-63341498