一個基礎模型,多個適配器:保留部署而不重複基礎模型

LoRA 的小是相對基礎模型而言;如果打包方式讓大型基礎模型重複五次,它就不再小。基礎模型和適配器真正屬於一組時,儲存問題不是“我能壓縮哪個檔案?”,而是“我日後需要復原哪種關係?”

一個基礎模型連線到多個小型適配器版本,形成單一相關模型系列。
小型適配器仍依賴基礎模型;重複的自含式部署可能多次重複該基礎模型。

基礎模型重複模式

建立自含式部署資料夾很常見,因為它們便於複製或移交:每個適配器一個資料夾,並各自攜帶所需基礎模型。單獨看每個資料夾都很容易理解,但當同一基礎模型出現在每個部署中時,整個模型庫就會變得昂貴。

有用的單位是相關模型系列。如果能用一句話說明關係,就把基礎模型、適配器和部署版本放在一起。不要只因為不相關模型恰好使用同一硬碟就把它們混在一起。

之前:自含式資料夾 每個部署中都複製基礎模型

本機使用方便,但相同位元組可能在相關版本中反覆出現。

之後:一個相關模型系列 一個基礎模型,清晰的適配器版本
基礎檢查點 Adapter A(適配器 A) Adapter B(適配器 B) Adapter C(適配器 C)

一個模型系列中應包含什麼?

不要把每個檢查點、每個 LoRA 或每種模型格式合並為一個巨型封存。封存應減少歧義,而非增加歧義。如果無法解釋某檔案為何屬於該系列,請分開儲存。

測量結果實際表明什麼

Tensor Archive 的受控五部署模型和適配器範例中,每個部署獨立儲存時為 907.3 MB,作為一個相關模型系列時為 261.6 MB,實體儲存減少 71.2%。該數字說明的是基礎模型重複模式,並非對適配器的一般性承諾。

閱讀適用範圍,而不只是百分比。 測試使用了五個相關自含式部署,並且實現了精確還原。單個適配器、沒有共享資料的資料夾或由不相關模型組成的模型庫,結果可能截然不同。

測試該模式的安全方法

  1. 選擇基礎模型,且只選擇確實與其相關的適配器。
  2. 使用 Add model family → Local folder,然後執行 Analyse source
  3. 封存前檢查結果;這正是真實模型系列證明自身合理性的環節。
  4. 將其封存,執行 Verify,然後復原單獨副本。
  5. 手動刪除任何舊工作副本前,請在需要該版本的工作流程中測試還原版本。

將儲存與轉換分開

這並不是轉換每個檔案或改變模型權重的理由。Tensor Archive 不是量化器或模型轉換器;它是用於精確還原很重要的相關版本的本機封存。如果軟體套件不清楚,請在分組前檢查LoRA 檔案包含什麼。要了解儲存與轉換的區別,請閱讀 SafeTensors 儲存與量化

關係真即時,工作流程很簡單:分析、封存、驗證、復原,然後手動選擇要刪除的內容。下載 Tensor Archive,用一個模型系列完成該測試。

來源

保留模型。清理工作硬碟。免費下載 ↓