侧边栏                                    ►

贝叶斯优化（BO）

在金融市场中，黄金作为重要的避险资产和投资标的，其价格波动备受关注。准确预测黄金收盘价，对投资者决策、风险管理及市场趋势判断意义重大。传统预测方法在处理黄金价格这种具有复杂非线性、时序依赖特性的数据时，往往存在局限性。长短期记忆神经网络（LSTM）凭借其在处理时间序列数据上的优势，成为金融预测领域的研究热点。然而，LSTM 模型的性能高度依赖超参数设置。贝叶斯优化算法（BO）能够通过高斯过程求解目标函数后验概率分布，高效搜索最优超参数组合。本研究将 BO 与 LSTM 结合，旨在提升黄金收盘价预测的准确性与可靠性。

---

视频

【讲解】ARIMA、XGBOOST、PROPHET和LSTM预测比特币价格

探索见解 ➜

去bilibili观看 ➜

探索更多视频 ➜

---

视频

【视频讲解】Python用LSTM、Wavenet神经网络、LightGBM预测股价

探索见解 ➜

去bilibili观看 ➜

探索更多视频 ➜

---

视频

【视频讲解】Python深度学习股价预测、量化交易策略：LSTM、GRU深度门控循环神经网络附代码数据

探索见解 ➜

去bilibili观看 ➜

探索更多视频 ➜

---

视频

【讲解】线性时间序列原理及混合ARIMA-LSTM神经网络模型预测股票收盘价研究实例

探索见解 ➜

去bilibili观看 ➜

探索更多视频 ➜

一、引言

在能耗预测等关键应用中，不仅需要准确的预测结果，还需要对预测的不确定性进行量化，以便更好地做出决策。贝叶斯神经网络通过对模型参数的概率分布进行建模，能够提供预测的不确定性信息，从而满足这类应用的需求。长短期记忆网络（LSTM）作为一种强大的递归神经网络，适合处理时间序列数据。本文将贝叶斯方法与LSTM相结合，使用PyTorch框架实现了一个用于能耗预测的贝叶斯LSTM模型。

二、数据预处理

我们使用了一个能耗数据集，为了简化和加快运行速度，只选取了时间相关和自回归相关的特征，包括日期时间（每10分钟采样一次）、能耗（对应10分钟时间戳的瓦时）、星期几（星期一对应0）、一天中的小时数。
AI提示词：读取能耗数据集，将日期列转换为日期时间格式，并提取出月份、日期、星期几和小时数等信息，然后选取指定的列作为有效数据。

import pandas as pd
# day_of_week=0 对应星期一
energy_df['day_of_week'] = energy_df['date'].dt.dayofweek.astype(int)
energy_df['hour_of_day'] = energy_df['date'].dt.hour.astype(int)
selected_co

为了进行更有意义的分析，对数据集进行以下转换：

1. 以每小时的频率重新采样。
2. 对目标变量（能耗）进行对数变换，以减轻指数效应。
3. 仅使用星期几、一天中的小时数和之前的能耗值作为特征。
   AI提示词：将数据集的索引设置为日期时间，以每小时的频率重新采样并计算均值，添加新列存储对数变换后的能耗值，选取特征列和目标列，并为了可视化和展示，仅保留前150小时的数据。

feature_columns = datetime_columns + ['log_energy_consumption']
# 为了可视化和展示的清晰性，仅考虑前150小时的数据
resample_df = resample_df[feature_columns]

使用plotly.express绘制能耗随时间变化的折线图，展示不同星期几的对数能耗情况。
AI提示词：从重新采样后的数据中选取前150小时的数据，添加星期几的名称列，使用plotly.express绘制折线图，以日期为x轴，对数能耗为y轴，按星期几进行颜色区分。

三、准备训练数据

使用滑动窗口的方法，每个窗口包含10个数据点（相当于10小时），用于预测下一个数据点。对训练数据进行Min-Max缩放，以帮助神经网络收敛。
AI提示词：定义创建滑动窗口数据的函数，根据给定的训练集比例划分训练集和测试集，对特征和目标值分别进行Min-Max缩放，然后使用滑动窗口函数创建训练和测试的特征及目标数据。

四、定义贝叶斯LSTM架构

模型架构包括编码器-解码器阶段和预测器阶段：

1. 编码器-解码器阶段：一个单向LSTM，有2个堆叠层和128个隐藏单元作为编码层，构建固定维度的嵌入状态；另一个单向LSTM，有2个堆叠层和32个隐藏单元作为解码层，用于产生未来步骤的预测。在两个LSTM层的训练和推理过程中都应用dropout。
2. 预测器阶段：一个全连接输出层，有1个输出，用于预测目标变量的值。
   AI提示词：定义贝叶斯LSTM类，初始化模型的参数，包括隐藏层大小、层数、dropout概率等，定义LSTM层、全连接层和损失函数，实现前向传播、初始化隐藏状态和计算损失的方法。

---

随时关注您喜欢的主题

订阅公众号

---

从实践结果来看，贝叶斯LSTM在能耗预测任务中，与传统基于频率的模型表现相当。其独特之处在于通过随机dropout机制，实现了对目标变量后验分布的近似，从而能够为预测结果构建置信区间，提供不确定性信息。这一特性在对风险评估和决策可靠性要求较高的领域具有显著优势。

然而，贝叶斯LSTM也存在局限性。一方面，它仅能处理认知模型的不确定性，对数据中天然存在的随机噪声等无能为力；另一方面，为构建置信区间，在推理阶段需要进行多次预测，这带来了较高的计算开销，难以满足实时性要求较高的应用场景。