LoRA 與 QLoRA:哪些改變,哪些不變?
LoRA 和 QLoRA 是相關的微調方法,但解決不同的資源約束。LoRA 在基礎模型旁訓練小型適配器更新;QLoRA 將該適配器方法與微調期間的量化基礎模型結合,以減少記憶體壓力。
LoRA 的實際含義
Low-Rank Adaptation (LoRA) 新增可訓練的低秩更新,而不是改變基礎模型的每個參數。所得適配器通常比完整微調模型小得多,但只有相對於其預期基礎模型、架構和載入工作流程時才有意義。
對保留而言,這種關係是關鍵事實。名為“style-v7”的檔案可能無法告訴未來的你它需要哪個基礎模型、由哪個專案產生,或你原本打算保留哪個完成版本。把適配器及復原所需上下文作為一個有意設計的系列。
QLoRA 增加了什麼
QLoRA 在微調期間使用量化基礎模型,同時訓練 LoRA 適配器。其核心目的是提高大型模型微調的記憶體效率。這並不意味著該次執行產生的每個產出物都可與非量化設定互換,也不會消除記錄你打算保留的基礎模型、設定和完成輸出的必要性。
不要把“QLoRA”當作儲存標籤。它描述一種微調方法以及基礎模型相關約束,並不承諾封存會使每個結果檔案變小,也不能代替精確還原測試。
完成一次執行後應保留什麼?
保留足夠上下文,以明確識別已完成產出物:釋出的適配器、預期基礎模型身分或修訂版本、專案所需設定和評估材料,以及清晰的專案/版本名稱。如果訓練棧續訓時需要單獨的執行管理材料,也請維護這些材料。
版本完成後,本機封存可以幫助把相關檔案作為一個系列保留,並在以後精確還原。不要為了快速釋放空間而封存活動執行;先完成執行、保留其所需內容,再對完成的產出物集套用儲存工作流程。
Tensor Archive 的適用位置
Tensor Archive 是本機儲存和復原工具,不是微調框架。完成邊界之後,你可以分析一個相關系列、將其封存、驗證可復原性,並在手動移除冗餘來源前還原一個單獨副本。當基礎模型與已完成適配器或密切相關版本一同保留時,這尤其有用。
實用經驗法則
如果對方法本身不熟悉,請先閱讀LoRA 在 AI 中的含義。使用 LoRA 或 QLoRA 術語描述產出物的產生方式,再使用檢查點與 LoRA識別完成檔案的依賴項。有關儲存順序,請閱讀已完成檢查點封存指南。