SafeTensors dosyası nedir?

Sonu .safetensors ile biten dosya, tensörleri ve meta verilerini pickle tabanlı ağırlık dosyalarıyla bağlantılı keyfî kod yürütme riskinden kaçınmak üzere tasarlanmış basit model serileştirme biçiminde saklar. Model artefaktıdır; modelin güvenilir, kompakt veya sonsuza kadar kurtarılabilir olduğunun garantisi değildir.

Biçimin içerdikleri

SafeTensors biçimi, tensörleri, türlerini, şekillerini ve byte offsetlerini açıklayan başlığı ve ardından tensör verilerini saklar. Frameworke özgü kitaplıklar, seri durumdan çıkarmanın parçası olarak Python pickle yükleyicisinden serileştirilmiş kod yürütmesini istemeden ağırlıkları yükleyebilir.

SafeTensors dosyası taban model, LoRA adaptörü, daha büyük modelin bileşeni veya çok dosyalı modelin bir parçası olabilir. Uzantı tek başına hangi çalışma zamanının beklediğini, LoRA'nın hangi tabana ihtiyaç duyduğunu veya dosyanın proje için eksiksiz artefakt kümesi olup olmadığını söylemez.

“Güvenli” ne anlama gelir ve ne anlama gelmez

Biçim güvenliği kaynak güveniyle aynı değildir. SafeTensors, pickle tabanlı serileştirmeye kıyasla bir yükleme riski sınıfını azaltır; model ağırlıklarının görevinize uygun olduğunu, güvenilir yayıncıdan geldiğini, oluşturucunun lisansını karşıladığını veya uygulamada güvenli davrandığını belirlemez.

SafeTensors arşiv veya kuantizasyon değildir

SafeTensors model ağırlıklarının gösterimidir. Arşiv, zaten sahip olduğunuz dosyalar için saklama ve kurtarma iş akışıdır. Kuantizasyon, çalışma zamanı veya kaynak hedefi için modelin sayısal gösterimini kasıtlı olarak değiştirmektir. Aynı projede bulunabilirler; ancak farklı sorunları çözerler.

Özgün byte'ların kurtarılabilir olması gerekiyorsa dönüştürmeyi tek kopya saymayın. Daha küçük, değiştirilmiş çalışma zamanı gösterimine ihtiyacınız varsa kuantizasyonu kendi koşullarında değerlendirin. Uygulamadaki ayrım için SafeTensors depolaması ile kuantizasyon bölümünü okuyun.

Model kitaplığında nasıl anlaşılır tutulur

• Tabanı, adaptörü ve proje bağlamını denetlediğiniz ad veya envanterde bağlantılı tutun.
• Tek bir .safetensors dosyasının kendi kendine yeterli model olduğunu varsaymayın.
• Artefaktın nasıl yükleneceğini belirlemek için hedef çalışma zamanının belgelerini kullanın.
• Tamamlanmış ilişkili aile önemliyse uygun olduğunda bağımsız yedek tutun ve temizlikten önce ayrı geri yüklemeyi kanıtlayın.

Sonraki yararlı soru

Yerel çıkarım kapsayıcısı seçiyorsanız SafeTensors ile GGUF karşılaştırmasını çalışma zamanı ve kurtarma hedefine göre yapın. Dolu bir diske bakıyorsanız sonraki soru genellikle “bu dosyayı açabilir miyim?” değil, “neleri birlikte saklamalıyım?” olur. Tek taban ve birkaç adaptör ile başlayın veya model kitaplığı saklama kontrol listesini kullanın.