LoRA 与 QLoRA:哪些改变,哪些不变?

LoRA 和 QLoRA 是相关的微调方法,但解决不同的资源约束。LoRA 在基础模型旁训练小型适配器更新;QLoRA 将该适配器方法与微调期间的量化基础模型结合,以减少内存压力。

完整精度基础模型和量化训练基础模型都连接到小型 LoRA 适配器更新。
LoRA 改变训练内容;QLoRA 还改变微调期间基础模型的表示方式。

LoRA 的实际含义

Low-Rank Adaptation (LoRA) 添加可训练的低秩更新,而不是改变基础模型的每个参数。所得适配器通常比完整微调模型小得多,但只有相对于其预期基础模型、架构和加载工作流程时才有意义。

对保留而言,这种关系是关键事实。名为“style-v7”的文件可能无法告诉未来的你它需要哪个基础模型、由哪个项目产生,或你原本打算保留哪个完成版本。把适配器及恢复所需上下文作为一个有意设计的系列。

QLoRA 增加了什么

QLoRA 在微调期间使用量化基础模型,同时训练 LoRA 适配器。其核心目的是提高大型模型微调的内存效率。这并不意味着该次运行产生的每个工件都可与非量化设置互换,也不会消除记录你打算保留的基础模型、配置和完成输出的必要性。

不要把“QLoRA”当作存储标签。它描述一种微调方法以及基础模型相关约束,并不承诺归档会使每个结果文件变小,也不能代替精确恢复测试。

完成一次运行后应保留什么?

保留足够上下文,以明确识别已完成工件:发布的适配器、预期基础模型身份或修订版本、项目所需配置和评估材料,以及清晰的项目/版本名称。如果训练栈续训时需要单独的运行管理材料,也请维护这些材料。

版本完成后,本地归档可以帮助把相关文件作为一个系列保留,并在以后精确恢复。不要为了快速释放空间而归档活动运行;先完成运行、保留其所需内容,再对完成的工件集应用存储工作流程。

Tensor Archive 的适用位置

Tensor Archive 是本地存储和恢复工具,不是微调框架。完成边界之后,你可以分析一个相关系列、将其归档、验证可恢复性,并在手动移除冗余来源前还原一个单独副本。当基础模型与已完成适配器或密切相关版本一同保留时,这尤其有用。

实用经验法则

如果对方法本身不熟悉,请先阅读LoRA 在 AI 中的含义。使用 LoRA 或 QLoRA 术语描述工件的产生方式,再使用检查点与 LoRA识别完成文件的依赖项。有关存储顺序,请阅读已完成检查点归档指南

来源

保留模型。清理工作硬盘。免费下载 ↓