Python开发BPNN、XGBoost与PSO寻优模型实现分子性质预测

BPNN 以两个数量级的误差优势胜出。若答辩被问”为什么特征只留三个”，答案是：Spearman 解决单变量单调相关评估、随机森林解决多变量交互下的整体重要性评估，两路交集能同时压低误选与漏选风险；而 x4 与 y1 本就近似线性，再多特征只增加噪声。

上图的网络结构里，输入层三个节点对应 x4、x6、x7，误差反向传播逐层调整权重，结构图直观展示了”三输入、双隐层、单输出”的信号通路，验证了三个输入都有效参与预测。我们在全量数据上复算这版模型，实测 R²=1.000000——y1 与三特征严格线性，完美复现。

y3 的函数关系与灵敏度

y3 的建模目标不同：不仅要预测，还要写出函数表达式。筛选方法与上一节一致，两路指标共同指向 x1（MDG=0.22234）与 x3（MDG=0.22352）。我们构建线性、纯二次、交叉、完全二次四个多项式模型同台比较：

表：y3 四个多项式模型对比

提示词：二次型拟合与灵敏度分析

• 背景：y3 与 x1、x3 的关系可能含曲率和交互效应，客户想知道函数表达式和哪些变量更敏感。
• 角色：你是一名精通回归分析与敏感性测试的统计建模专家。
• 任务：请帮我拟合完全二次型模型，给出系数表达式，并做 ±5% 波动的灵敏度分析。
• 要求：设计矩阵含常数项、两个一次项、两个平方项、一个交互项；用最小二乘求解；逐步回归检验无关变量；灵敏度按”预测值变化量除以自变量变化量”计算并取代表性数值。
• 举例：x1 波动 5% 时 y3 的反向变化幅度应明显大于 x3 的同向变化，最终报告两个方向的灵敏度数值。

逐步回归确认完全二次型里没有冗余项，最终函数关系为：y3 = -0.26 + 0.75·x1 + 0.74·x3 – 1.28·x1² + 0.05·x3² – 0.13·x1·x3。灵敏度分析显示 y3 对 x1 呈负敏感（报告值 -12.63）、对 x3 呈正敏感（报告值 +10.54）——想调低 y3 就增大 x1，想调高 y3 就增大 x3。需要说明的是，灵敏度数值随拟合样本与系数动态变化，复算环境下方向性结论一致，具体数值应以自己数据实测为准；我们在论文提交答案文件上重拟合，六项系数与上式逐项吻合，说明该表达式就是原文最终采用的产出。

上图蓝线为实际值、红线为预测值，整体趋势贴合；绝对误差多集中在小值区间，平均误差 0.013、中位数 0.0099。

分子类别预测：不平衡数据上的 XGBoost

提示词：类别预测与特征排序

• 背景：客户想根据物理化学性质自动判断分子属于 4 个类别中的哪一类，类别样本量差别很大。
• 角色：你是一名熟悉梯度提升树与类别不平衡处理的机器学习工程师。
• 任务：请帮我用互信息与递归特征消除两路方法筛选输入，再用 XGBoost 建立分子类别预测模型。
• 要求：互信息衡量非线性相关，RFE 按分类精度贪心剔除弱特征，两路结果综合定输入；类别标签从 1 开始要转成从 0 开始；划分训练测试集时用分层抽样保住少数类；输出准确率、精确率、召回率、F1、AUC 五项指标。
• 举例：互信息排序里 y1 应第一（约 0.974）；XGBoost 的准确率应明显高于决策树与 BPNN。

四种分类模型的同口径对比：DT 准确率 0.9312、BPNN 0.8744、SVM 0.9472、XGBoost 0.9743（精确度 0.9425、召回率 0.9264、F1 0.9344、AUC 0.9251），XGBoost 全面领先。训练过程曲线显示树数量增加时损失先快速下降后趋稳，模型没有严重过拟合。我们在全量数据上复算实测准确率 0.9786，与原口径同量级略优。

特征重要性条形图显示 y1、x4、x6、x7 主导了分裂增益，与互信息法、递归特征消除两路筛选结果三方互证，进一步支撑了特征选择的稳健性。

答辩场景若被问”类别不平衡怎么处理的”，标准答案分三层：数据层面看分布（class=4 样本极少）、划分层面用分层抽样保证测试集里少数类不被抽空、改进层面在第五问引入 SMOTE 过采样合成少数类样本。

数据增强与 PSO 寻优方法细节

提示词：引入 PSO 超参数寻优

• 背景：BPNN 和 XGBoost 已经是各自任务的最优模型，但超参数靠人工试错，还有提升空间；分类任务存在不平衡。
• 角色：你是一名熟悉群体智能优化算法的深度学习工程师。
• 任务：请帮我写一个 PSO 寻优器，回归任务优化 BPNN 的双层神经元数、迭代轮数与学习率，分类任务优化 XGBoost 的学习率、树深与列采样率，分类数据先做 SMOTE 过采样。
• 要求：种群规模 20、迭代 120 轮、惯性权重 0.8 线性递减、两个学习因子 0.5；适应度用验证集 MSE；超参数搜索范围按经验区间设定；输出寻优前后指标对比。
• 举例：PSO-BPNN 的 R² 应从 0.9995 提升到 0.9998；PSO-XGBoost 的准确率应从 0.9743 提升到 0.99 以上。

PSO 就像一群勘探队员找矿：每个粒子记住自己走过的最高品位位置（个体最优），队伍共享全局发现（群体最优），惯性让它保持搜索惯性、学习因子控制它向两个最优靠拢的力度，迭代之后全队收敛到矿脉中心。寻优结果：

表：PSO 寻优前后性能对比

最亮眼的是 y3 任务：完全二次型 R² 只有 0.8926，换 PSO-BPNN 后直接抬到 0.9997，说明 y3 与特征之间还存在二次型表达不了的非线性成分。收敛曲线显示最优适应度在迭代早期快速下降后趋稳，PSO 有效避开了 BPNN 训练的局部最优陷阱。

分子性质预测的局限性与失败分析

基于原文事实与复算实测，本套分子性质预测方案存在以下边界，读者迁移时应逐一对照：

1. 类别不平衡未彻底解决：class 共 4 类且 class=4 样本极少，基线 XGBoost 对少数类的召回偏低；SMOTE 过采样在第五问才引入，且过采样本身有合成偏差风险。
2. 灵敏度数值与原文表存在口径差：报告表 10 的 -12.63/+10.54 与显式公式的一阶导数量级对不上；我们如实给出实测值并注明”随拟合样本动态变化”，方向结论一致、具体数值需读者以自己的数据实测。
3. 数据场景单一：数据为单一批次的截面数据，未覆盖时间演化与跨平台分布偏移；换数据源后模型需重新训练验证。
4. Agent 样例数据与全量口径不同：演示页默认加载 3000 行抽样子集，指标与 20 万全量存在差距（设计如此）；完整精度需本地加载全量数据运行。
5. 消融对照未系统开展：原文未提供逐特征剔除的消融对照，特征筛选的稳健性由两路方法互证支撑，属间接证据。

可交互Agent系统

前文把分子性质预测的五条建模线逐一走完，但静态的代码与图表始终隔着一层：想换个随机种子、上传自己的数据、调整灵敏度波动比例，就得重新跑一遍脚本。

1\. 为什么要做成 Agent

原文是一篇典型的”分析型长文”：数据清洗 → 特征筛选 → 多模型对比 → 预测填表，全部结论固化在 PDF 的图表里。读者拿到手只有三个尴尬：

• 数字没法改：想知道”如果 y3 对 x1 波动 10% 而不是 5%，灵敏度变成多少”，得自己重写代码；
• 流程没法走：想用自己采集的分子数据跑一遍同样的建模，得把五段代码粘来粘去手动串；
• 结论没法问：报告里”完全二次型最优”的判断依据散落在 40 多页里，想问一句”为什么不用三次项”没人回答。

做成 Agent 之后不一样：

一句话：把”读完一篇 46 页报告”变成”点五下按钮”。

2\. 拆解原文

动手前先把原文的流水线拆开。四问各自是一条独立的”输入 → 处理 → 输出”链路：

数据侧的事实：data.csv 共 200,000 行 × 105 列（id、class、y1~y3、x1~x100），class 共 4 类且严重不平衡；predict.csv 有 2,580 个分子待预测；submit.csv 是原文最终提交的答案文件——这给我们送了一份大礼：Agent 的预测结果可以和原文提交值逐行对比，这是最有说服力的复现验证。

两个关键超参数，照抄原文、一个字都不能改（它们比结果数字更容易被读者核对出来）：

• 问题二 BPNN：hidden_layer_sizes=(10,5)，alpha=0.001，max_iter=1000，早停 validation_fraction=0.1、n_iter_no_change=10；
• 问题四 XGBoost：n_estimators=100，objective='multi:softmax'，eval_metric='mlogloss'，分层 8:2 划分。

深度学习复现的两条纪律：① 原文基准值是它在全量 20 万行上的结果，受随机初始化影响，你重跑的 R²/RMSE 不会逐位相同，只在基准附近小幅波动——教程与界面都必须写明这一点；② 必须提供随机种子控件（默认 42），固定后结果可复现。

3\. 目标形态

Agent 长这样：左侧一个侧栏收全部参数，右侧主区按”五区块”渲染。

• 区块 ① 数据概览：样本数、列数、y2 范围、类别数四张指标卡 + class 分布图 + 描述统计表；
• 区块 ② 问题二：x4/x6/x7→y1 的 BPNN，损失曲线 + 真实 vs 预测散点 + 特征重要性三联图；
• 区块 ③ 问题三：完全二次型拟合表达式（LaTeX 渲染）+ 残差分布 + 灵敏度交互测算（拖滑块改波动比例，灵敏度实时重算）；
• 区块 ④ 问题四：XGBoost 分类五指标卡 + 特征重要性条形图。

交互顺序：侧栏选数据/选任务/调参数 → 点「开始运行」→ 主区渲染对应区块。每个区块底部都有一段 AI 解读（规则+LLM 双模式）：规则引擎离线生成三级结构解读，切到 大模型 模式则由 LLM 在同一数字口径下重新表述——两条路径给出的数字完全一致，只是文字组织不同。

4\. 环境与安装

全程在 Windows + Python 3.12 下验证（Python 3.13 没有 TensorFlow wheel，别用）。磁盘要求 5 GB 以上（ TensorFlow 全家桶约 1 GB）。

requirements.txt 核心清单（版本下限，全部在 2026-10 实测通过）：

，实测 4.9 MB/s，比 pypi 直连快一个数量级。

启动：

5\. 数据准备

CSV 列规范：必须包含 id,class,y1,y2,y3,x1..x100（预测类任务至少含任务对应列）。

样例数据不用自己造——从原文 20 万行里抽。工程自带的 data/sample_3000.csv 就是固定种子抽的 3000 行子集，它的价值是让 Agent 在秒级完成演示；而 data/submit_original.csv 保存了原文提交答案的副本（注意 submit.csv 有 2580 行、预测集 id 从 200001 起）。

各列含义速查：

样例 3000 行与全量 20 万的指标差距是预期行为：论文数字是 20 万行训练的结果，样例只用于演示流程。想要逼近原文基准，上传原 data.csv 即可（本文文末给出全量复现实测）。

6\. 骨架搭建

Streamlit 两段式：侧栏收参 → 主区按任务分发渲染，未点运行就 st.stop()。

三个”为什么这么写”：

• st.cache_data 缓存数据加载：调灵敏度滑块、切任务都不重新读 20 万行大文件；
• 任务用字符串前缀分发（task.startswith("②")）：五个区块代码物理隔离，改一个不碰其余；
• 上传为空时回落默认样例，读者克隆即可运行，不需要先找数据。

7\. 核心模块逐个实现

四个任务的核心计算全部收进 mol_core.py——纯函数、零 Streamlit 依赖。这样做的直接收益：同一份代码既能被 app.py 调用，也能被命令行自检脚本、浏览器测试页三方复用，数字天然同源。

###### 7.1 问题二：BPNN(10,5)

sklearn 的 MLPRegressor 十几行搞定，超参数照抄第 2 节清单。输出三联图：损失曲线（mlp.loss_curve_）、真实 vs 预测散点、输入特征权重强度（np.abs(mlp.coefs_[0]).sum(axis=1)）——最后这张图就是原文”x4/x6/x7 筛选正确性”的直观佐证。

###### 7.2 问题三：完全二次型 + 灵敏度

未给出灵敏度计算的代码，以上按原文文字步骤（Step1~Step4：上下波动 5% → 重算预测 → 差值/变化量）实现。

, 0.754, 0.7442, -1.2866, 0.0526, -0.1306\]，与报告公式 -0.26/0.75/0.74/-1.28/0.05/-0.13 逐项吻合——原文提交答案正是用这条公式生成的，五问中唯一能 100% 逐位复现的部分。

###### 7.3 问题四：XGBoost 分类

注意两个细节：astype(int) - 1 是因为 XGBoost 要求类别从 0 起，而原文 class 是 1~4；stratify=y 是因为四类严重不平衡（全量下 class=4 仅 1834/200000），分层抽样保证测试集里少数类不被抽空。

8\. 参数怎么调

两条红线（Agent 内已做服务端校验，不只是界面提示）：

• 任务列缺失直接报错，不让 NaN 流进模型；
• 分类任务的 class 必须在 1~4 且无缺失，否则在数据概览阶段就 st.error 拦下。

第二组实操建议 ：① 上传全量 data.csv 跑任务一，对照文末复现实测；② 把种子从 42 换成 7，观察三个神经网络任务的指标波动幅度——这本身就是最好的”随机初始化影响”教学演示。

10\. 总结与扩展

把一篇分析型报告封装成 Agent，方法论就四步：

1. 拆模块：把流水线切成”数据 → 各问建模 → 评估 → 解读”的纯函数，计算与界面解耦；
2. 定控件：每个”原文里写死的数字”问一句”读者会不会想改”——会，就做成侧栏控件（种子、epochs、波动比例）；
3. 串流程：两段式骨架 + 任务分发，改参数不重读数据、区块间互不干扰；
4. 留红线：数字唯一来源（BENCH 字典）、诚实标注（替代模型/实测vs原文）、服务端校验。

原文局限 ↔ Agent 扩展对照：

最后交代全量复现口径：在 20 万行全量数据、与原文逐字一致的超参数下，本工程实测复现结果与原文基准对比如下：

表：全量复现实测与原文基准对比

这就是”教程数字与原文一致”纪律的最终自证：凡能逐位复现的（Q2 指标、Q3 系数）全部逐位复现，不编造、不粉饰。

配套工具与资源

工程文件目录：

分子性质预测/├─ data.csv               # 20 万分子训练数据├─ predict.csv            # 2,580 分子预测集├─ submit.csv             # 结果回填模板├─ 问题二代码.py          # 特征筛选 + BPNN├─ 问题三代码.py          # 完全二次型 + 灵敏度├─ 问题四代码.py          # XGBoost 分类├─ 问题五代码.py          # PSO 寻优└─ assets/                # 全部图表

• 依赖说明：Python 3.12 + streamlit/pandas/numpy/scikit-learn/scipy/matplotlib/tensorflow-cpu/xgboost（版本下限见上文 requirements 清单）；
• 示例运行命令：pip install -r requirements.txt 后执行 streamlit run app.py（以代码包实际接口为准）；
• 交付形态：完整代码、20 万分子数据、可交互 AI Agent（含浏览器内完整功能测试页）与 skill 随原文一并提供。

结论与展望

本文基于 20 万分子数据集，完成了一套可复现的机器学习分子性质预测流程：Spearman 与随机森林两路筛选锁定三描述符后 BPNN 预测 y1 达 R²=0.9995（全量复现 1.000000），完全二次型给出 y3 显式函数关系并逐项吻合原文提交产出，XGBoost 分类准确率 0.9743，PSO 寻优后各任务精度再抬一档（PSO-BPNN R²=0.9998、PSO-XGBoost 0.9914）。

1. 技术创新：统计相关与树模型重要性两路互证的特征筛选；预测与解释兼顾的双轨建模（显式二次型 + PSO-BPNN）；分层抽样、SMOTE、PSO 寻优的完整不平衡分类链路。
2. 业务价值：性质预测精度接近全对，意味着新分子筛选可以先用模型粗筛、再进合成验证，把研发周期从月级压缩到天级。
3. 展望：把方案迁移到时间演化数据与跨平台分布偏移场景，引入消融对照与置信区间评估，是下一步值得做的方向。

相关图表与完整建模过程已封装进配套的对话式 AI 智能体，读者可在交互界面中调整随机种子、训练轮数与灵敏度波动比例，实时查看各任务指标与自动解读。

常见问题 FAQ

1. 为什么 y1 的预测只选 x4、x6、x7 三个特征？ Spearman 相关解决单变量单调相关评估、随机森林 MDG 解决多变量交互下的整体重要性评估，两路交集同时压低误选与漏选风险；且 y1 与三特征线性关系拟合优度达 1，更多特征只引入噪声。
2. 类别不平衡是怎么处理的？ 三层处理：数据层面确认 class=4 样本极少；划分层面用分层抽样保证测试集少数类不被抽空；改进层面用 SMOTE 过采样合成少数类样本，配合 PSO 寻优把准确率从 0.9743 提到 0.9914。
3. PSO 为什么能提升模型精度？ BPNN 训练易陷入局部最优、XGBoost 超参数组合空间大，PSO 以群体智能全局搜索超参数（种群 20、迭代 120、惯性权重线性递减），实测 PSO-BPNN R² 从 0.9995 到 0.9998、y3 任务从 0.8926 到 0.9997。
4. 重跑结果的数字会和原文一模一样吗？ 不一定。深度模型受随机初始化影响，重跑数字会有小幅波动，属正常现象；固定随机种子后本工程结果逐位可复现，Q2 指标与 Q3 系数可逐位复现。
5. y3 的灵敏度数值 -12.63/+10.54 能直接用吗？ 方向结论可用（y3 对 x1 负敏感、对 x3 正敏感）；具体数值随拟合样本与系数动态变化，建议读者用自己的数据在 Agent 里实测，界面并排显示实测值与原文表值。
6. 复现这套流程需要什么环境？ Windows + Python 3.12（3.13 无 TensorFlow wheel），安装 streamlit/pandas/numpy/scikit-learn/scipy/matplotlib/tensorflow-cpu/xgboost 即可；20 万全量下训练约几分钟。
7. 不装环境能不能快速体验？ 可以。配套完整功能测试页在浏览器内真跑 Python（问题二、三与本地同实现，分类任务为等价替代模型并已明示标注），上传 CSV 即可实时计算。
8. Agent 和直接跑代码相比有什么优势？ 参数可视化调节（种子/epochs/灵敏度比例）、指标实测与原文基准并排、每任务自动输出三级 AI 解读、预测值与原文提交值逐行对比，四点都是静态代码给不了的。
9. 这套方法能迁移到其他分子数据集吗？ 方法链路（清洗→双路筛选→多模型对比→寻优）可直接迁移，但需注意本文数据为单一批次截面数据，换源后须重新训练验证并关注分布偏移。

参考文献与延伸阅读

1. 韩征强,孙玉玉,黄建文.基于PSO-BPNN算法的高校体育教学质量评价模型构建\[J\].重庆第二师范学院学报,2024,37(02):107-112.
2. 郑浩,贾展飞,周丽婷,等.基于PSO-XGBoost的风电叶片缺陷分类算法\[J\].太阳能学报,2024,45(04):127-133.DOI:10.19912/j.0254-0096.tynxb.2022-1862.
3. 曾权,李鑫,王克鲁,等.基于GA-BP和PSO-BP神经网络的SLMGH3625高温合金残余应力预测研究\[J\].塑性工程学报,2024,31(03):193-199.
4. 孙经伟,谷远利.基于BO-FCM和PSO-XGBoost的城市快速路交通状态识别\[J\].交通运输研究,2023,9(04):64-71.DOI:10.16503/j.cnki.2095-9931.2023.04.006.
5. 刘秋华,周再春.同位素效应对物质结构和性质的影响\[J\].大学化学,2011,26(06):64-66.
6. DeepSeek，DeepSeek-R1-0528，深度求索(DeepSeek)，2025-08-28

延伸阅读：Python、R开发SMOTE过采样随机森林与粒子群算法(PSO)融合模型实现肥胖等级预测融合模型实现肥胖等级预测”)

附录

全文脉络

      数据清洗与探索            |            v      +-----+-----+      |           |      v           v   y1 预测    y3 函数关系    BPNN      完全二次型      |           |      +-----+-----+            |            v      分子类别预测            |            v      XGBoost 分类            |            v     PSO 超参数寻优            |            v      精度提升与落地

项目文件目录

分子性质预测/├─ data.csv               # 20 万分子训练数据├─ predict.csv            # 2,580 分子预测集├─ submit.csv             # 结果回填模板├─ 问题二代码.py          # 特征筛选 + BPNN├─ 问题三代码.py          # 完全二次型 + 灵敏度├─ 问题四代码.py          # XGBoost 分类├─ 问题五代码.py          # PSO 寻优└─ assets/                # 全部图表