Kayıpsız SafeTensors depolaması ağırlık kuantizasyonu değildir
“SafeTensors'ı sıkıştırmak” temelde farklı iki anlama gelebilir: birebir kurtarma için özgün baytları korumak veya belirli bir çalışma ortamı için daha küçük, farklı bir ağırlık gösterimi oluşturmak. Önce gereksinimi seçin; araçlar onu izler.
Birebir kurtarma ve değiştirilmiş ağırlıklar
Kuantizasyon model biçimi kararıdır. Sayısal hassasiyeti azaltır veya gösterimi başka şekilde değiştirerek çalışma ortamının daha az bellek ya da depolama kullanmasını sağlar. Dağıtım için bütünüyle uygun olabilir, ancak çıktı özgün yapıt değildir.
Kayıpsız arşivin farklı bir görevi vardır: özgün dosya byte'larını eksiksiz kurtarmak. Tensor Archive ilişkili yerel model sürümlerini kompakt, yönetilen bir ailede tutmak ve seçilen sürümü istendiğinde geri yüklemek içindir. Kuantizasyon, temizleme veya biçim dönüştürme aracı değildir.
Tek bir somut soru sorun: bu modeli daha sonra aldığınızda başlangıçtaki dosyayla byte düzeyinde aynı olması gerekiyor mu? Yanıt evetse biçim dönüşümünü tek koruma planınız yapmayın.
Tek bir SafeTensors dosyası neden boyutunu neredeyse koruyabilir
Dosya boyutu tek başına bir depolama iş akışının güçlü sonuç verip vermeyeceğini göstermez. Tek bir dosya, birebir arşiv için yararlı biçimde tekrarlanamayan veriler içerebilir. İlişkili bir aile farklı olabilir: kendi kendine yeterli dağıtımlar bir temel checkpointi tekrarlayabilir ve tamamlanmış proje sürümleri önemli miktarda malzemeyi paylaşabilir.
Bu nedenle ilk adım, birlikte saklamayı düşündüğünüz dosyaları analiz etmek olmalıdır. Dosya uzantısından yüzde vaat etmeyin veya büyük dosyanın otomatik olarak iyi arşiv adayı olduğunu varsaymayın.
Karşılaştırmayı gerçek kapsamında okuyun
Tensor Archive, bağımsız olarak saklandığında 907.3 MB olan verinin ilişkili tek bir model ve adaptör ailesi olarak 261.6 MB olduğu kontrollü beş dağıtım örneği yayımlar: 71.2% daha az fiziksel depolama. İş yükü, dosyalar arasındaki ilişki ve birebir geri yükleme koşulu sonucun yanında belirtildiği için karşılaştırma değerlidir.
Bunun söylemediği şey: tek bir SafeTensors dosyasının, rastgele bir klasörün veya her LoRA'nın 71.2% tasarruf edeceği. İlişkisiz ve zaten sıkıştırılmış dosyalar çok az tasarruf edebilir. Gerçek karar önünüzdeki ailenin analizinden çıkmalıdır.
Depolama iş akışını güvenle test etme
- Yerine konamayacak her şeyin bağımsız bir kopyasını oluşturun.
- Çalışma klasörünü değiştirmeden önce ilişkili tek bir aile seçin ve inceleyin.
- Kaynağı analiz edin ve beklenen sonucu inceleyin.
- Arşivleyin, Verify işlemini çalıştırın ve ayrı bir çıktıya geri yükleyin.
- Geri yüklenen yapıtı önemli iş akışında karşılaştırın veya yükleyin.
- Çalışma kopyasının elle kaldırılıp kaldırılamayacağını yalnızca bu testten sonra seçin.
Soruna uyan aracı seçin
Belirli bir dağıtım gösterimini bilinçli olarak istediğinizde ve çalışma ortamı ödünleşimlerini anladığınızda kuantizasyon kullanın. İlişkinin bulunduğu yerde tekrarlanan depolamayı azaltırken ilişkili modellerin özgün baytlarını saklamanız ve kurtarmanız gerektiğinde birebir yerel arşiv kullanın. LoRA'ya özgü bir temizlik iş akışı için LoRA kitaplığında disk alanı açma kılavuzunu okuyun.
Tek bir aile ve inceleyebildiğiniz bir sonuçla başlayın. İş akışını yerel olarak çalıştırmak için Tensor Archive'ı indirin veya denemeden önce herkese açık karşılaştırma özetini inceleyin.
Kaynaklar
- SafeTensors proje belgeleri — biçim hedefleri, düzen ve desteklenen tenzör türleri.
- Tensor Archive karşılaştırma özeti — yayımlanmış iş yükü ve birebir geri yükleme kanıtı.