用R语言中的神经网络预测时间序列：多层感知器和极限学习机

使用神经网络进行时间序列预测

对于此示例，我将对R中的时间序列进行建模。我将最后24个观察值保留为测试集，并将使用其余的观察值来拟合神经网络。

由Kaizong Ye，Weilong Zhang撰写

当前有两种类型的神经网络可用，多层感知器；和极限学习机。

可下载资源


# 拟合 多层感知器
mlp.fit <- mlp(y.in)
plot(mlp.fit)
print(mlp.fit)

这是使MLP网络适合时间序列的基本命令。这将尝试自动指定自回归输入和时间序列的必要预处理。利用预先指定的参数，它训练了20个用于生成整体预测的网络和一个具有5个节点的隐藏层。print是输出拟合网络的摘要：

联系

结构上：两者都是具有层级结构的人工神经网络模型；
功能上：可解决分类、回归等问题；

区别

ELM最初只是一种特殊单隐层神经网络，有解析解，因此简单、快速；而深度学习需要参数更新，样本需求大、速度慢；
线性和非线性的区别。DL具有明确的‘学习’意味或者说是非线性特征抽取的能力，因为它可以根据数据和任务调整参数，使得DL在诸多场景下都适用；尽管ELM也是学习模型，但它本质上是线性的，看它的优化函数，本质上就是岭回归，是线性的。

$Minimize:\left\Vert \boldsymbol{\beta}\right\Vert _{p}^{\sigma_{1}}+\lambda\left\Vert \mathbf{H}\boldsymbol{\mathbf{\beta}}-\mathbf{T}\right\Vert _{q}^{\sigma_{2}}$

性能上，不可否认ELM在低维度简单的小数据集上效果是要略优于DL的，但在复杂数据上，如语音、图像上，DL依旧是独领风骚。另外，ELM不能或者很难作生成模型。

MLP fit with 5 hidden nodes and 20 repetitions.
Series modelled in differences: D1.
Univariate lags: (1,3,4,6,7,8,9,10,12)
Deterministic seasonal dummies included.
Forecast combined using the median operator.
MSE: 6.2011.

该函数选择了自回归滞后，并将虚拟变量用于季节性趋势。使用plot显示网络的体系结构（图1）。

课程

R语言数据分析挖掘必知必会

从数据获取和清理开始，有目的的进行探索性分析与可视化。让数据从生涩的资料，摇身成为有温度的故事。

立即参加 ➜

图1.输出 plot(mlp.fit).

浅红色输入代表用于编码季节性的二进制虚拟变量，而灰色输入则是自回归滞后项。要生成预测，您可以输入：

 forecast(mlp.fit,h=tst.n)

图2显示了整体预测，以及各个神经网络的预测。

图2. plotMLP预测的输出。

您还可以选择隐藏节点的数量。

# 自动拟合 MLP 
 hd.auto.type="valid"

这将评估1到10个隐藏节点，并选择验证集MSE上的最佳节点。也可以使用交叉验证。输出误差：

        MSE
H.1  0.0083
H.2  0.0066
H.3  0.0065
H.4  0.0066
H.5  0.0071
H.6  0.0074
H.7  0.0061
H.8  0.0076
H.9  0.0083
H.10 0.0076

ELM几乎以相同的方式工作。

# 可视化 ELM的结果

plot(elm.fit)

以下是模型摘要：

ELM fit with 100 hidden nodes and 20 repetitions.
Series modelled in differences: D1.
Univariate lags: (1,3,4,6,7,8,9,10,12)
Deterministic seasonal dummies included.
Forecast combined using the median operator.
Output weight estimation using: lasso.
MSE: 83.0044.

最受欢迎的见解

1.用于NLP的Python：使用Keras的多标签文本LSTM神经网络分类

2.Python中利用长短期记忆模型LSTM进行时间序列预测分析 – 预测电力消耗数据

3.python在Keras中使用LSTM解决序列问题

4.Python中用PyTorch机器学习分类预测银行客户流失模型

5.R语言多元Copula GARCH 模型时间序列预测

6.在r语言中使用GAM（广义相加模型）进行电力负荷时间序列分析

7.R语言中ARMA，ARIMA（Box-Jenkins），SARIMA和ARIMAX模型用于预测时间序列数

8.R语言估计时变VAR模型时间序列的实证研究分析案例

9.用广义加性模型GAM进行时间序列分析

在图3的网络体系结构中只有用黑线连接到输出层的节点才有助于预测。其余的连接权重已缩小为零。