昇腾 910B 微调 Qwen3.8-27B:从 OOM 到 4096 上下文 LoRA
cutoff_len=16 时链路全绿,一拉到 4096 就在 MLP 前向炸显存。这篇把 8×910B 上 Qwen3.8-27B 的 LoRA 怎么从 OOM 拧到跑完 2475 步写清楚,也把验证集先降后升这件事摊开。
THE NOTEBOOK / 文章归档
每一次探索,都值得留下记录。
cutoff_len=16 时链路全绿,一拉到 4096 就在 MLP 前向炸显存。这篇把 8×910B 上 Qwen3.8-27B 的 LoRA 怎么从 OOM 拧到跑完 2475 步写清楚,也把验证集先降后升这件事摊开。