Eén basismodel, meerdere adapters: deployments behouden zonder de basis te herhalen
Een LoRA is alleen klein totdat de manier waarop je die verpakt een groot basismodel vijfmaal herhaalt. Wanneer de basis en de adapters werkelijk bij elkaar horen, is de opslagvraag niet ‘welk bestand kan ik kleiner maken?’, maar ‘welke relatie moet ik later kunnen herstellen?’
Het patroon van een herhaalde basis
Zelfstandige deploymentmappen zijn gangbaar omdat ze eenvoudig te kopiëren of over te dragen zijn: één map per adapter, elk met het benodigde basismodel. Afzonderlijk zijn de mappen gemakkelijk te begrijpen, maar de bibliotheek wordt kostbaar wanneer dezelfde basis in elke deployment staat.
De nuttige eenheid is de verwante familie. Houd de basis, de adapters en de deploymentversies bij elkaar wanneer je hun relatie in één zin kunt beschrijven. Meng geen niet-verwante modellen alleen omdat ze toevallig dezelfde schijf gebruiken.
Lokaal handig, maar dezelfde bytes kunnen in verwante releases herhaaldelijk voorkomen.
Wat hoort in één familie?
- één basischeckpoint met daarvoor bedoelde LoRAs of adapters;
- nauw verwante zelfstandige deployments die die basis herhalen; of
- voltooide revisies uit één modelproject met een duidelijk hersteldoel.
Voeg niet elk checkpoint, elke LoRA of elke modelindeling samen in één reusachtig archief. Een archief hoort dubbelzinnigheid te verminderen, niet toe te voegen. Als je niet kunt uitleggen waarom een bestand bij de familie hoort, houd het dan apart.
Wat het gemeten resultaat werkelijk laat zien
In het gecontroleerde voorbeeld met vijf model-en-adapterdeployments van Tensor Archive werd 907.3 MB gemeten wanneer elke deployment afzonderlijk was opgeslagen en 261.6 MB als één verwante familie: 71.2% minder fysieke opslag. Het getal draait om het patroon van de herhaalde basis, niet om een universele claim over adapters.
Lees de reikwijdte, niet alleen het percentage. Er zijn vijf verwante zelfstandige deployments gebruikt en de herstelbewerkingen waren exact. Een afzonderlijke adapter, een map zonder gedeelde gegevens of een bibliotheek met niet-verwante modellen kan een heel ander resultaat opleveren.
Een veilige manier om het patroon te testen
- Kies de basis en alleen de adapters die er werkelijk bij horen.
- Gebruik Add model family → Local folder en voer Analyse source uit.
- Controleer het resultaat vóór het archiveren; hier verdient een echte familie haar plek.
- Archiveer de familie, voer Verify uit en herstel daarna een afzonderlijke kopie.
- Test de herstelde versie in de workflow die deze nodig heeft voordat je handmatig een oude werkkopie verwijdert.
Houd opslag en transformatie gescheiden
Dit is geen reden om elk bestand te converteren of modelgewichten te wijzigen. Tensor Archive is geen kwantiseerder of modelconverter; het is een lokaal archief voor verwante versies waarvoor exact herstel belangrijk is. Als het pakket onduidelijk is, bekijk dan wat een LoRA-bestand bevat voordat je het groepeert. Lees voor het onderscheid tussen opslag en transformatie SafeTensors-opslag versus kwantisering.
Wanneer de relatie echt is, is de workflow eenvoudig: analyseren, archiveren, verifiëren, herstellen en daarna handmatig kiezen wat je verwijdert. Download Tensor Archive om die test met één familie uit te voeren.
Bronnen
- LoRA: Low-Rank Adaptation of Large Language Models — waarom adapters afzonderlijke low-rank updates op een basismodel zijn.
- samenvatting van de Tensor Archive-benchmark — de workload met vijf deployments en het bewijs van exact herstel.