Verlustfreie SafeTensors-Speicherung ist keine Gewichtsquantisierung

„SafeTensors komprimieren“ kann zwei grundverschiedene Dinge bedeuten: die ursprünglichen Bytes für eine exakte Wiederherstellung bewahren oder eine andere, für eine bestimmte Laufzeitumgebung kleinere Gewichtsdarstellung erzeugen. Legen Sie zuerst die Anforderung fest; daraus ergeben sich die Werkzeuge.

Exakte Wiederherstellung im Vergleich zu veränderten Gewichten

Quantisierung ist eine Entscheidung über das Modellformat. Sie verringert die numerische Präzision oder verändert die Darstellung auf andere Weise, damit eine Laufzeitumgebung weniger Arbeitsspeicher oder Speicherplatz benötigt. Für eine Bereitstellung kann das völlig angemessen sein, doch die Ausgabe ist nicht mehr das ursprüngliche Artefakt.

Ein verlustfreies Archiv hat eine andere Aufgabe: die ursprünglichen Dateibytes exakt wiederherzustellen. Tensor Archive dient dazu, zusammengehörige lokale Modellversionen in einer kompakten verwalteten Familie aufzubewahren und eine ausgewählte Version bei Bedarf wiederherzustellen. Es ist weder Quantisierungs- oder Beschneidungswerkzeug noch Formatkonverter.

Warum sich die Größe einer einzelnen SafeTensors-Datei kaum ändern kann

Die Dateigröße allein zeigt nicht, ob ein Speicherablauf ein gutes Ergebnis erzielen wird. Eine einzelne Datei kann Daten enthalten, die sich für ein exaktes Archiv nicht sinnvoll wiederholen lassen. Bei einer zusammengehörigen Familie kann es anders sein: Eigenständige Bereitstellungen können einen Basis-Checkpoint wiederholen, und abgeschlossene Projektversionen können beträchtliche gemeinsame Bestandteile aufweisen.

Deshalb sollte der erste Schritt eine Analyse der Dateien sein, die Sie gemeinsam aufbewahren möchten. Versprechen Sie keinen Prozentsatz allein aufgrund der Dateiendung, und nehmen Sie nicht an, dass sich eine große Datei automatisch gut archivieren lässt.

Den Benchmark in seinem tatsächlichen Geltungsbereich lesen

Tensor Archive veröffentlicht ein kontrolliertes Beispiel mit fünf Bereitstellungen, bei dem 907.3 MB unabhängig gespeicherter Daten als eine zusammengehörige Modell- und Adapter-Familie 261.6 MB belegten: 71.2% weniger physischer Speicher. Der Vergleich ist aussagekräftig, weil die Arbeitslast, die Beziehungen zwischen den Dateien und die Bedingung der exakten Wiederherstellung neben dem Ergebnis angegeben werden.

So testen Sie einen Speicherablauf sicher

1. Erstellen Sie von allem, was nicht ersetzt werden kann, eine unabhängige Kopie.
2. Wählen Sie eine zusammengehörige Familie aus und prüfen Sie sie, bevor Sie einen Arbeitsordner verändern.
3. Analysieren Sie die Quelle und prüfen Sie das erwartete Ergebnis.
4. Archivieren Sie die Familie, führen Sie „Prüfen“ aus und stellen Sie die Dateien in einer separaten Ausgabe wieder her.
5. Vergleichen oder laden Sie das wiederhergestellte Artefakt in dem maßgeblichen Arbeitsablauf.
6. Erst nach diesem Test sollten Sie entscheiden, ob eine Arbeitskopie manuell entfernt werden kann.

Das zur Aufgabe passende Werkzeug auswählen

Verwenden Sie Quantisierung, wenn Sie bewusst eine andere Bereitstellungsdarstellung wünschen und deren Auswirkungen auf die Laufzeit verstehen. Verwenden Sie ein exaktes lokales Archiv, wenn Sie die ursprünglichen Bytes zusammengehöriger Modelle bewahren und wiederherstellen und dabei wiederholte Daten dort reduzieren möchten, wo diese Beziehung besteht. Einen speziellen Bereinigungsablauf für LoRA finden Sie unter Speicherplatz in einer LoRA-Bibliothek freigeben.

Beginnen Sie mit einer Familie und einem Ergebnis, das Sie prüfen können. Laden Sie Tensor Archive herunter, um den Ablauf lokal auszuführen, oder lesen Sie die öffentliche Benchmark-Zusammenfassung, bevor Sie ihn ausprobieren.