Förlustfri SafeTensors-lagring är inte viktkvantisering.
"Komprimera SafeTensors" kan betyda två helt olika saker: bevara de ursprungliga bytearna för exakt återställning, eller skapa en annan viktrepresentation som är mindre för en viss körning. Välj först kravet; verktygen följer därifrån.
Exakt återhämtning mot ändrade vikter
Quantisering är ett modellformatval. Den minskar numerisk precision eller förändrar annars representationen så att en körning kan använda mindre minne eller lagring. Det kan vara helt lämpligt för distribution, men utmatningen är inte den ursprungliga artefakten.
En förlustfri arkiv har en annan uppgift: återställa de ursprungliga filens byte exakt. Tensor Archive är för att hålla relaterade lokala modellversioner i en kompakt hanterad familj och återställa en vald version vid behov. Det är inte en kvantiseringstjänst, en uttagstjänst eller en formatomvandlare.
Ställ ett konkret fråga: när du hämtar denna modell senare, måste den vara exakt samma fil som du började med? Om ja, gör inte en formatomvandling till din enda återhållningsplan.
Varför en SafeTensors-fil kanske nästan inte förändrar storlek
Storlek på en fil säger inte självständigt något om ett lagringsarbetsflöde kan ge ett starkt resultat. En ensam fil kan innehålla data som inte är återanvändbar på ett användbart sätt för ett exakt arkiv. En relaterad familj kan däremot vara annorlunda: självständiga distributioner kan återanvända en baskontrollpunkt, och färdiga projektversioner kan dela betydande material.
Det är därför det första steget bör vara en analys av de filer du avser att hålla ihop. Blyg inte med en procentandel från tillägget eller anta att en stor fil är automatiskt en bra arkivkandidat.
Läs provningen i dess verkliga sammanhang
Tensor Archive publicerar ett styrt femdistributionsexempel där 907.3 MB lagrades oberoende blev 261.6 MB som en sammanhängande modell-och-adapterfamilj: 71.2% mindre fysisk lagring. Jämförelsen är värdefull eftersom arbetsbelastningen, förhållandet mellan filerna och villkoret för exakt återställning anges bredvid resultatet.
Vad detta inte säger: att en enda SafeTensors-fil, en slumpmässig mapp eller varje LoRA kommer att spara 71.2%. Orelaterade och redan komprimerade filer kan spara lite. En verklig beslutsfattande bör komma från analysen av familjen framför dig.
Hur man testar ett lagringsarbetsflöde säkert
- Skapa en oberoende kopia av allt som inte kan ersättas.
- Välj en relaterad familj och undersök den innan du ändrar en arbetsmapp.
- Analysera källan och granska det förväntade resultatet.
- Arkivera det, kör Verifiera och återställ till en separat utgång.
- Jämför eller ladda det återställda objektet i det arbetsflöde som har betydelse.
- Endast efter att ha gjort det här testet bör du avgöra om en arbetskopia kan tas bort manuellt.
Välj det verktyg som passar problemet
Använd kvantisering när du avsiktligt vill ha en annan distributionsrepresentation och förstår dess körningstidsfördelar och nackdelar. Använd en exakt lokal arkiv när du behöver behålla och återställa de ursprungliga bytevärdena för relaterade modeller samtidigt som du minskar upprepad lagring där den här relationen finns. För en LoRA-specifik rensningsarbetsflöde, läs hur du frigör diskutrymme i en LoRA-bibliotek.
Börja med en familj och ett resultat du kan undersöka. Ladda ner Tensor Archive för att köra arbetsflödet lokalt, eller granska den offentliga benchmark-sammanfattning innan du försöker det.
Källor
- SafeTensors-projektets dokumentation — formatmål, layout och stödda tensorer.
- Tensor Archive prestandamätningssammanfattning — den publicerade arbetsbelastningen och bevis för exakt återställning.