Jak uvolnit místo na disku v knihovně LoRA beze změny vah
Když knihovna LoRA zaplní SSD, nejsou „smazat, prořezat nebo kvantizovat“ jedinou odpovědí. Každá akce mění něco jiného. Pokud potřebujete obnovit původní bajty, archivujte vztah mezi soubory před uvolněním pracovního prostoru.
Čtyři činnosti, které se nemají zaměňovat
Smazání odstraní kopii. Ořezání může odstranit data, která později potřebujete. Kvantizace mění reprezentaci a může ovlivnit chování za běhu. Archivace může uchovat původní verzi pro pozdější přesné obnovení a zároveň pomoci spravovat související místní rodinu.
Správná volba závisí na požadavku. Je-li cílem menší pozměněný model pro konkrétní běhové prostředí, prozkoumejte kvantizaci. Je-li cílem zachovat základ, jeho LoRAs a související revize bez slepého uchovávání několika duplicitních nasazení na aktivním SSD, použijte místo toho postup přesného obnovení.
Vztah je důležitější než název složky
Konvence složek může usnadnit procházení knihoven, ale nedokazuje, že dvě nasazení obsahují stejná data ani že lze verzi po úklidu obnovit. Užitečnou jednotkou je rodina, která má důvod zůstat pohromadě:
- jeden základní kontrolní bod a LoRAs nebo adaptéry, které s ním používáte;
- sada dokončených revizí ze stejného projektu jemného doladění; nebo
- samostatná nasazení, která opakují tentýž základní model.
Nesouvisející modely ponechte oddělené. Archiv, který odpovídá na otázku „k čemu to je?“, se také snáze ověřuje, obnovuje a záměrně vyřazuje.
Bezztrátový postup uvolnění
- Vyberte jednu související místní rodinu, ne celý adresář modelů.
- V Tensor Archive vyberte Add model family → Local folder a poté spusťte Analyse source.
- Před archivací výsledek zkontrolujte. Smyslem je změřit tuto rodinu, nikoli předpokládat univerzální procento.
- Archivujte rodinu jako spravovanou místní kopii a poté spusťte Verify.
- Obnovte samostatnou kopii a načtěte ji v důležitém pracovním postupu.
- Teprve poté ručně rozhodněte, zda stará pracovní kopie může SSD opustit.
Ověření má své hranice. Dokazuje obnovitelnost uložených souborů. Nedokazuje, že prompt, trénovací běh nebo výsledek inference mají očekávanou kvalitu. Obnovené soubory otestujte v pracovním postupu, na kterém vám záleží.
Co výsledek ukládání může – a nemůže – znamenat
Produktový benchmark uvádí snížení fyzického úložiště o 71.2% u kontrolované rodiny pěti samostatných nasazení modelů a adaptérů: 907.3 MB při nezávislém uložení oproti 261.6 MB jako jedna rodina. Jde o příklad rodiny se sdílenými daty, nikoli o tvrzení, že izolovaný soubor LoRA bude o 71.2% menší.
Výsledek používejte jako myšlenkový model, ne jako slib. Související modely mohou obsahovat opakovaná data, která stačí uchovat jednou. Nesouvisející nebo již komprimované soubory je obsahovat nemusí. Rozhodovacím vstupem je výsledek analýzy vaší vlastní rodiny.
Nejbezpečnější způsob uvolnění místa
Uvolňujte místo po etapách. Začněte rodinou, kterou skutečně používáte. Pokud jsou soubory důležité, ponechte nezávislou zálohu. Před smazáním proveďte ověření a obnovení. Poté postup opakujte. Je to pomalejší než hromadný úklid, ale mnohem rychlejší než znovu sestavovat knihovnu zpaměti poté, co smažete jediný potřebný adaptér.
Nejprve potvrďte, na čem každý soubor LoRA závisí. Rozdíl mezi přesným uložením a pozměněnými vahami vysvětluje SafeTensors: ukládání versus kvantizace; celkovou stopu kolem adaptérů změříte podle velikosti modelu Stable Diffusion a místa na disku. Poté stáhněte Tensor Archive a postupujte podle pokynů pro bezpečné uvolnění.
Zdroje
- LoRA: Low-Rank Adaptation of Large Language Models – původní metoda adaptérů.
- Souhrn benchmarku Tensor Archive – pracovní zátěž, údaje o úložišti a výsledek přesného obnovení uvedené výše.