LoRA a QLoRA: co se mění a co zůstává?
LoRA a QLoRA jsou příbuzné přístupy k dolaďování, ale řeší různá omezení prostředků. LoRA trénuje malé aktualizace adaptéru vedle základního modelu; QLoRA tento přístup kombinuje s kvantovaným základním modelem během dolaďování, aby snížila tlak na paměť.
Co LoRA znamená v praxi
Low-Rank Adaptation (LoRA) přidává trénovatelné nízkorozměrné aktualizace namísto změny každého parametru základního modelu. Výsledný adaptér je obvykle mnohem menší než plně doladěný model, ale dává smysl pouze ve vztahu k očekávanému základnímu modelu, architektuře a postupu načítání.
Tento vztah je pro uchování klíčovým faktem. Soubor s názvem „style-v7“ nemusí vašemu budoucímu já říci, který základ očekává, jaký projekt jej vytvořil nebo kterou dokončenou verzi jste chtěli ponechat. Považujte adaptér a kontext potřebný k obnově za záměrnou rodinu.
Co přidává QLoRA
QLoRA používá během dolaďování kvantovaný základní model a současně trénuje adaptéry LoRA. Jejím hlavním účelem je zvýšit paměťovou efektivitu dolaďování velkých modelů. Neznamená to, že je každý artefakt vytvořený během běhu zaměnitelný s nekvantovaným nastavením, ani to neodstraňuje potřebu zaznamenat základ, konfiguraci a dokončený výstup, který chcete uchovat.
Nepoužívejte „QLoRA“ jako označení úložiště. Popisuje přístup k dolaďování a omezení kolem základního modelu. Nejde o příslib, že archiv zmenší každý výsledný soubor, ani o náhradu testu přesné obnovy.
Co byste měli zachovat po dokončeném běhu?
Zachovejte dostatek kontextu k jednoznačné identifikaci dokončeného artefaktu: vydaný adaptér, identitu či revizi zamýšleného základního modelu, konfiguraci a hodnoticí materiály vyžadované projektem a jasný název projektu/verze. Potřebuje-li váš trénovací stack materiály ke správě běhu pro pokračování v práci, udržujte je samostatně.
Po dokončení verze může místní archiv pomoci zachovat související soubory jako jednu rodinu a později je přesně obnovit. Nezálohujte aktivní běh jen kvůli rychlému uvolnění místa; běh dokončete, zachovejte vše potřebné a teprve poté použijte postup ukládání na dokončenou sadu artefaktů.
Kam zapadá Tensor Archive
Tensor Archive je místní nástroj pro ukládání a obnovu, nikoli framework dolaďování. Po dokončení můžete související rodinu analyzovat, archivovat, ověřit její obnovitelnost a obnovit samostatnou kopii před ručním odstraněním nadbytečného zdroje. Je to zvlášť užitečné, když společně uchováváte základ a jeho dokončené adaptéry nebo úzce související vydání.
Praktické pravidlo
Pokud vám samotná metoda není známá, začněte článkem co znamená LoRA v AI. Terminologií LoRA nebo QLoRA popište, jak byl artefakt vytvořen, a poté pomocí článku checkpoint a LoRA určete, na čem dokončené soubory závisejí. Postup ukládání najdete v průvodci archivací dokončených checkpointů.