QLoRA 微调医疗推理链 大模型 ：Qwen2.5-7B 中文医疗问答AI系统全链路实战
通用大模型在中文医疗问答中常给出经不起追问的回答，缺少给出结论前依次排除鉴别诊断可能的可追溯思路；7B 全参数微调难以在单卡完成。本文用 QLoRA 微调 Qwen2.5-7B，以约 2407 条语料按 9:1 划分构造推理链目标文本，用 4-bit NF4 量化冻结基座并训练 r=64 的 LoRA 适配器。Base 与 Instruct 对照显示，Instruct 评估损失 1.147 低于 1.262，格式一致性更好；适配器约 134MB，单卡约一小时完成。文章给出量化配置一致性等落地处理口径，并说明该工作属模式学习而非推理能力复现。