模型分析

Regularization – Lasso Model

---

---

使用K-Fold cross validation确定最佳的入值:

数据被分成K个相等的部分，除了第k个折叠之外的所有数据都用于训练模型，第k个折叠用于测试模型，记录离样本外的偏差。

左侧是套索正则化路径的绘图。我们可以看到随着lamda的增加，系数逐渐趋近于零。

右侧的图表显示了10.Fold crossvalidation的离样本外偏差误差估计。最优入由最左边的垂直虚线表示。图表上的最低点实际上位于图表的最左侧，lamda的值最小。

·与典型的图表不同，这个图表不是呈“u形

在这种情况下，这意味着选择了最复杂的模型作为最优解。

模型分析

右图的值表示非零系数及其值，取重要变量进行合理性分析: 卧室数量:每增加—个卧室，月租金价格天约增加143.51美元，其他变量和特征保持不变。 这个值是合理的，因为2个卧室的单位的租金价格很可能大于1个卧室的单位的租金价格。 楼层数的系数是负数:对于每增加个楼层的单位或物业，月租金价格将减少约10.55美元，其他变量和系数保持不变。这个负系数是合理的，因为楼层数较多的物业更有可能是紧凑型的。

模型分析

与10-Fold cross validation相比，我还使用了一个计算上较为简便的替代方法是Akaike Information Criterion(AICc)

在高维数据中，AICc倾向于产生过于复杂的模型，导致过拟合。然而，AICc得到的非零系数及其值与之前相同

·在右图中，我们展示了在我们的情况下，由AIC 、 AICc和10-Fold cross validation选择的最优lamda是相同的，即黑色、橙色和蓝色虚线重叠的部分.

总结

在执行Lasso Regularization后，我们看到模型从数据集中选择了186个变量中的76个变量。但有一些重要变量地没有包含在模型中，例如主体物业的建造年份和浴室数量，因为其中缺失了大量的观测值。

因为数据缺失较多所以模型只能用作客观预测，不能很好的反应各个变量之间的相关性， 在数据清理方面，选择去除含50%及以上数据缺失的变量也是一个需要权衡的方向，因为这个门槛选择太低又可能导致数据少无法正确反应变量之间的关系作用，而门槛太高就会出现没办法选择到一些比较重要的变量。

此模型不具备自适应性，所以需要新数据的更新支持才能更好的保证其预测的准确性。

---

关于作者

在此对Junjun Li对本文所作的贡献表示诚挚感谢，他在加州大学圣克鲁兹完成了应用经济与金融专业的硕士学位，专注机器学习、数理金融、应用（计量）经济学领域。擅长R语言、Python。