Sådan frigør du diskplads i et LoRA-bibliotek uden at ændre vægtene
Når et LoRA-bibliotek fylder en SSD, er »slet, beskær eller kvantisér« ikke ét og samme svar. Hver handling ændrer noget forskelligt. Hvis de oprindelige bytes skal kunne gendannes, skal du arkivere relationen mellem filerne, før du frigør arbejdsplads.
Fire handlinger, der ikke må forveksles
Sletning fjerner en kopi. Beskæring kan fjerne data, du senere får brug for. Kvantisering ændrer repræsentationen og kan ændre runtimens adfærd. Arkivering kan bevare den oprindelige version til senere nøjagtig gendannelse og samtidig hjælpe med at administrere en relateret lokal familie.
Det rigtige valg afhænger af kravet. Hvis målet er en mindre, ændret model til en bestemt runtime, bør du undersøge kvantisering. Hvis målet er at bevare en basismodel, dens LoRAs og relaterede revisioner uden ukritisk at beholde flere dublerede installationer på en aktiv SSD, skal du i stedet bruge en arbejdsgang med nøjagtig gendannelse.
Hvorfor forholdet betyder mere end mappenavnet
En mappekonvention kan gøre biblioteker lettere at gennemse, men den fastslår ikke, at to installationer indeholder de samme data, eller at en version kan gendannes efter oprydning. Den nyttige enhed er en familie, der har en grund til at høre sammen:
- ét basis-checkpoint og de LoRAs eller adaptere, du bruger sammen med det;
- et sæt færdige revisioner fra det samme finjusteringsprojekt eller
- selvstændige installationer, der gentager den samme basismodel.
Hold ikke-relaterede modeller adskilt. Et arkiv, der besvarer spørgsmålet »hvad er dette til?«, er også lettere at verificere, gendanne og udfase med omtanke.
En tabsfri arbejdsgang til at frigøre plads
- Vælg en relateret lokal familie, ikke den fulde modelmappe.
- Vælg Add model family → Local folder i Tensor Archive, og kør derefter Analyse source.
- Gennemgå resultatet før arkivering. Pointen er at måle denne familie, ikke at antage en universel procentdel.
- Arkivér familien i en administreret lokal kopi, og kør derefter Verify.
- Gendan en separat kopi, og indlæs den i den arbejdsgang, der er vigtig for dig.
- Beslut først derefter manuelt, om en gammel arbejdskopi kan fjernes fra SSD'en.
Verifikation har en afgrænsning. Den beviser, at de gemte filer kan gendannes. Den beviser ikke, at en prompt, træningskørsel eller et inferensresultat har den kvalitet, du forventer. Test de gendannede filer i den arbejdsgang, du vil bruge.
Hvad et lagerresultat kan og ikke kan betyde
Produktbenchmarket viser en reduktion på 71.2% i fysisk lagerforbrug for en kontrolleret familie med fem selvstændige model- og adapterinstallationer: 907.3 MB gemt hver for sig mod 261.6 MB som én familie. Det er et eksempel på en familie med delte data, ikke en påstand om, at en isoleret LoRA-fil bliver 71.2% mindre.
Brug resultatet som en tankemodel, ikke som et løfte. Relaterede modeller kan indeholde gentagne data, som kun bør bevares én gang. Det gælder måske ikke for uvedkommende eller allerede komprimerede filer. Analyseresultatet for din egen familie er beslutningsgrundlaget.
Den sikreste måde at skabe plads på
Frigør plads i etaper. Start med den familie, du faktisk bruger. Bevar en uafhængig sikkerhedskopi, når filerne er vigtige. Verificér og gendan før sletning. Gentag derefter. Denne fremgangsmåde er langsommere end en masseoprydning, men langt hurtigere end at genopbygge et bibliotek fra hukommelsen efter at have slettet netop den adapter, du skulle bruge.
Begynd med at fastslå, hvad hver LoRA-fil afhænger af. Læs SafeTensors-lagring kontra kvantisering for at forstå forskellen mellem nøjagtig opbevaring og ændrede vægte; mål Stable Diffusion-modellernes størrelse og diskforbrug for at se adapterernes samlede aftryk. Download derefter Tensor Archive, og følg vejledningen til sikker frigørelse af plads.
Kilder
- LoRA: Low-Rank Adaptation of Large Language Models — den oprindelige adaptermetode.
- Oversigt over Tensor Archive-benchmarket — arbejdsbelastning, lagertal og resultatet af den nøjagtige gendannelse, der er citeret ovenfor.