Levytilan vapauttaminen LoRA-kirjastosta painoja muuttamatta
Kun LoRA-kirjasto täyttää SSD:n, ”poista, karsi tai kvantisoi” ei ole yksi vastaus. Jokainen toimi muuttaa eri asiaa. Jos alkuperäiset tavut on voitava palauttaa, arkistoi tiedostojen välinen suhde ennen työtilan vapauttamista.
Neljä toimea, joita ei pidä sekoittaa
Poistaminen hävittää kopion. Karsiminen voi poistaa tietoja, joita myöhemmin tarvitset. Kvantisointi muuttaa esitysmuotoa ja voi muuttaa toimintaa ajoympäristössä. Arkistointi voi säilyttää alkuperäisen version myöhempää täsmällistä palautusta varten ja auttaa samalla hallitsemaan toisiinsa liittyvää paikallista perhettä.
Oikea valinta riippuu vaatimuksesta. Jos tavoitteena on pienempi, tietylle ajoympäristölle muunnettu malli, selvitä kvantisointia. Jos tavoitteena on säilyttää perusmalli, sen LoRAs-tiedostot ja liittyvät revisiot pitämättä sokkona useita samoja käyttöönottoja aktiivisella SSD-asemalla, käytä sen sijaan täsmällisen palautuksen työnkulkua.
Miksi suhde on kansionimeä tärkeämpi
Kansiorakenne voi helpottaa kirjastojen selaamista, mutta se ei osoita kahden käyttöönoton sisältävän samoja tietoja eikä takaa version palautettavuutta siivouksen jälkeen. Hyödyllinen yksikkö on perhe, jolla on syy pysyä koossa:
- yksi perus-checkpoint ja sen kanssa käyttämäsi LoRAs-tiedostot tai adapterit;
- joukko saman finetuning-projektin valmistuneita revisioita; tai
- itsenäiset käyttöönotot, joissa sama perusmalli toistuu.
Pidä toisiinsa liittymättömät mallit erillään. Arkisto, joka vastaa kysymykseen ”mihin tätä käytetään?”, on myös helpompi varmistaa, palauttaa ja poistaa käytöstä harkiten.
Häviötön tilanvapautustyönkulku
- Valitse yksi toisiinsa liittyvä paikallinen perhe, älä koko mallihakemistoa.
- Valitse Tensor Archive -sovelluksessa Add model family → Local folder ja suorita sitten Analyse source.
- Tarkista tulos ennen arkistointia. Tarkoitus on mitata tämä perhe, ei olettaa yleispätevää prosenttiosuutta.
- Arkistoi perhe hallituksi paikalliseksi kopioksi ja suorita sitten Verify.
- Palauta erillinen kopio ja lataa se sinulle tärkeässä työnkulussa.
- Päätä vasta sitten käsin, voiko vanhan työkopion poistaa SSD-asemalta.
Varmennuksella on rajansa. Se todistaa tallennettujen tiedostojen palautettavuuden. Se ei todista, että kehote, koulutusajo tai inferenssitulos olisi odottamasi laatuinen. Testaa palautetut tiedostot tärkeässä työnkulussa.
Mitä tallennustulos voi — ja ei voi — tarkoittaa
Tuotteen vertailutesti ilmoittaa fyysisen tallennustilan pienentyneen 71.2% kontrolloidussa viiden itsenäisen mallin ja adapterin käyttöönoton perheessä: erikseen tallennettuna 907.3 MB ja yhtenä perheenä 261.6 MB. Tämä on esimerkki yhteisiä tietoja sisältävästä perheestä, ei väite, että yksittäinen LoRA-tiedosto pienenisi 71.2%.
Käytä tulosta ajattelumallina, älä lupauksena. Toisiinsa liittyvissä malleissa voi olla toistuvia tietoja, jotka kannattaa säilyttää vain kerran. Toisiinsa liittymättömissä tai valmiiksi pakatuissa tiedostoissa niitä ei välttämättä ole. Oman perheesi analyysitulos on päätöksen lähtötieto.
Turvallisin tapa tehdä tilaa
Vapauta tilaa vaiheittain. Aloita perheestä, jota todella käytät. Säilytä erillinen varmuuskopio, kun tiedostot ovat tärkeitä. Varmista ja palauta ennen poistamista. Toista sitten. Tämä on hitaampaa kuin massasiivous, mutta paljon nopeampaa kuin kirjaston rakentaminen muistista sen ainoan tarvitsemasi adapterin poistamisen jälkeen.
Aloita selvittämällä, mistä kukin LoRA-tiedosto riippuu. Lue täsmällisen tallennuksen ja muunnettujen painojen erosta SafeTensors-tallennus ja kvantisointi; mittaa adapterien koko tallennusjalanjälki oppaalla Stable Diffusion -mallien koko ja levytila. Lataa sitten Tensor Archive ja noudata turvallisen tilanvapautuksen ohjeita.
Lähteet
- LoRA: Low-Rank Adaptation of Large Language Models — alkuperäinen adapterimenetelmä.
- Tensor Archive -vertailutestin yhteenveto — edellä mainitut työkuorma, tallennusluvut ja täsmällisen palautuksen tulos.