如果我们对所有这些模型的结果进行平均，我们有时可以从它们的组合中找到比任何单个部分更好的模型。这就是集成模型的工作方式。
让我们构建一个由三个简单决策树组成的非常小的集合来说明：
可下载资源
1）降低异常值所带来的影响：因为随机森林选取了部分数据建立了多个决策树，即使有个别决策树会因为异常值的影响导致预测不准确，但预测结果是参考多个决策树得到的结果，降低了异常值带来的影响。
2）降低了过拟合的可能性，因为决策树是采用了所有的特征及样本，容易出现过拟合（即对训练样本有很好的效果，对测试集的效果很差），随机森林是采用了部分样本的部分特征而构造的很多个决策树（采取的有放回抽样），特征和数据在单个决策树上变少了，降低了过拟合的可能性。
随机森林相对于决策树的缺点主要是：
1）计算量相对于决策树很大，性能开销很大。
2）可能会导致有些数据集没有训练到，但这种几率很小。
随机森林的优点：
1）可以处理高纬度的数据；
2）训练之前不需要特意的做特征选择；
3）建立很多树，预防了过拟合风险；
缺点：
计算量大，无法做到对实时数据的预测
这些树中的每一个都根据不同的变量做出分类决策。
随机森林模型比上面的决策树更深地生长树木，实际上默认是尽可能地将每棵树生长出来。随机森林以两种方式做到这一点。
第一个技巧是使用套袋。Bagging会对您的训练集中的行进行随机抽样。使用样本函数很容易在R中进行模拟。假设我们想在10行的训练集上进行装袋。
> sample(1:10, replace = TRUE)
[1] 3 1 9 1 7 10 10 2 2 9在此模拟中，如果再次运行此命令，则每次都会获得不同的行样本。平均而言，大约37％的行将被排除在自举样本之外。通过这些重复和省略的行，每个使用装袋生长的决策树将略有不同。
第二个随机来源超越了这个限制。随机森林不是查看整个可用变量池，而是仅采用它们的一部分，通常是可用数量的平方根。在我们的例子中，我们有10个变量，因此使用三个变量的子集是合理的。
通过这两个随机性来源，整体包含一系列完全独特的树木，这些树木的分类都不同。与我们的简单示例一样，每个树都被调用以对给定乘客进行分类，对投票进行统计（可能有数百或数千棵树）并且选择多数决策。
R的随机森林算法对我们的决策树没有一些限制。我们必须清理数据集中的缺失值。rpart它有一个很大的优点，它可以在遇到一个NA值时使用替代变量。在我们的数据集中，缺少很多年龄值。如果我们的任何决策树按年龄分割，那么树将搜索另一个以与年龄相似的方式分割的变量，并使用它们代替。随机森林无法做到这一点，因此我们需要找到一种手动替换这些值的方法。
看一下合并后的数据框的年龄变量：
> summary(combi$Age)
Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
0.17 21.00 28.00 29.88 39.00 80.00 2631309个中有263个值丢失了，这个数字高达20％！此子集是否缺少值。我们现在也想使用method=”anova”决策树的版本，因为我们不是要再预测某个类别，而是连续变量。因此，让我们使用可用的年龄值在数据子集上生成一个树，然后替换缺少的那些样本：
> combi$Age[is.na(combi$Age)] <- predict(Agefit, combi[is.na(combi$Age),]) 您可以继续检查摘要，所有这些NA值都消失了。
现在让我们看看整个数据集的摘要，看看是否还有其他我们以前没有注意到的问题变量：
> summary(combi)> summary(combi$Embarked)
C Q S
2 270 123 914两名乘客的空白。首先，我们需要找出他们是谁！我们可以which用于此：
> which(combi$Embarked == '')
[1] 62 830然后我们简单地替换这两个，并将其编码为一个因素：
> combi$Embarked <- factor(combi$Embarked) 另一个变量是Fare，让我们来看看：
> summary(combi$Fare)
Min. 1st Qu. Median Mean 3rd Qu. Max. NA's
0.000 7.896 14.450 33.300 31.280 512.300 1
它只有一个乘客NA，所以让我们找出它是哪一个并用中位数票价取而代之：
> which(is.na(combi$Fare))
[1] 1044好的。我们的数据框现已被清理。现在进入第二个限制：R中的随机森林只能消化多达32个等级的因子。我们的FamilyID变量几乎翻了一倍。我们可以在这里采用两条路径，或者将这些级别更改为它们的基础整数（使用unclass()函数）并让树将它们视为连续变量，或者手动减少级别数以使其保持在阈值之下。
我们采取第二种方法。然后我们将它转换回一个因素：
> combi$FamilyID2 <- combi$FamilyID
> combi$FamilyID2 <- factor(combi$FamilyID2)我们已经降到了22级，所以我们很好地将测试和训练集分开，安装并加载包
randomForest：
> install.packages('randomForest')设置随机种子。
> set.seed(415)内部数字并不重要，您只需确保每次使用相同的种子编号，以便在随机森林函数内生成相同的随机数。
现在我们准备运行我们的模型了。语法类似于决策树。
> fit <- randomForest( )我们强制模型通过暂时将目标变量更改为仅使用两个级别的因子来预测我们的分类，而不是method=”class”像使用那样指定。
如果您正在使用更大的数据集，您可能希望减少树的数量，至少在初始探索时，使用限制每个树的复杂性nodesize以及减少采样的行数sampsize
那么让我们来看看哪些变量很重要：
> varImpPlot(fit)我们的Title变量在这两个指标中都处于领先地位。我们应该非常高兴地看到剩下的工程变量也做得非常好。
预测函数与决策树的工作方式类似，我们可以完全相同的方式构建提交文件。
> Prediction <- predict(fit, test)
> write.csv(submit, file = "firstforest.csv", row.names = FALSE)让我们尝试一下条件推理树的森林。
所以继续安装并加载party包。
> install.packages('party')
> library(party)以与我们的随机森林类似的方式构建模型：
> set.seed(415)
> fit <- cforest( )条件推理树能够处理比Random Forests更多级别的因子。让我们做另一个预测：
> Prediction <- predict(fit, test, OOB=TRUE, type = "response")
可下载资源
关于作者
Kaizong Ye是拓端研究室（TRL）的研究员。在此对他对本文所作的贡献表示诚挚感谢，他在上海财经大学完成了统计学专业的硕士学位，专注人工智能领域。擅长Python.Matlab仿真、视觉处理、神经网络、数据分析。
本文借鉴了作者最近为《R语言数据分析挖掘必知必会 》课堂做的准备。
非常感谢您阅读本文，如需帮助请联系我们！
Python混合注意力机制-多变量-LSTM神经网络分析PM2.5、光伏电站、温度时间序列数据及RNN、ARIMAX、XGT、随机森林对比
MATLAB用CNN-LSTM神经网络的语音情感分类深度学习研究
【视频讲解】Python贝叶斯卷积神经网络BCNN分类胸部X光图像数据集实例
【视频讲解】数据挖掘实战：Python金融贷款模型分类潜在贷款客户
