LoRA

这次做大语言模型推理优化，从量化到 LoRA，。

边界条件才会告诉你方案能不能留。 从原理到实践，搞清楚 LoRA 的工作机制，把那些踩过的坑和…

结果光显存这块就踩了一堆坑：先是用全参数微调直接 OOM，换 LoRA 还是顶不住，最后上 Q-LoRA 才勉强在 24G 显存上跑起来。