So geben Sie Speicherplatz in einer LoRA-Bibliothek frei, ohne die Gewichte zu verändern
Wenn eine LoRA-Bibliothek eine SSD ausfüllt, gibt es auf die Frage „löschen, beschneiden oder quantisieren“ keine einheitliche Antwort. Jede Maßnahme verändert etwas anderes. Wenn die ursprünglichen Bytes wiederherstellbar bleiben müssen, archivieren Sie die Beziehungen zwischen den Dateien, bevor Sie Arbeitsspeicherplatz freigeben.
Vier Maßnahmen, die nicht verwechselt werden sollten
Löschen entfernt eine Kopie. Beim Beschneiden können Daten entfernt werden, die Sie später benötigen. Quantisierung verändert die Darstellung und kann das Laufzeitverhalten beeinflussen. Archivieren kann die ursprüngliche Version für eine spätere exakte Wiederherstellung bewahren und zugleich die Verwaltung einer zusammengehörigen lokalen Familie erleichtern.
Die richtige Wahl hängt von der Anforderung ab. Wenn Sie für eine bestimmte Laufzeitumgebung ein kleineres, verändertes Modell benötigen, sollten Sie die Quantisierung prüfen. Wenn Sie dagegen ein Basismodell, seine LoRAs und zugehörige Revisionen bewahren möchten, ohne mehrere doppelte Bereitstellungen blind auf einer aktiven SSD zu belassen, verwenden Sie stattdessen einen Ablauf zur exakten Wiederherstellung.
Warum die Beziehung wichtiger ist als der Ordnername
Eine Ordnerkonvention kann Bibliotheken übersichtlicher machen, belegt jedoch weder, dass zwei Bereitstellungen dieselben Daten enthalten, noch dass sich eine Version nach der Bereinigung wiederherstellen lässt. Die sinnvolle Einheit ist eine Familie, die aus gutem Grund zusammengehört:
- ein Basis-Checkpoint und die LoRAs oder Adapter, die Sie damit verwenden;
- eine Reihe abgeschlossener Revisionen desselben Feinabstimmungsprojekts; oder
- eigenständige Bereitstellungen, in denen dasselbe Basismodell wiederholt enthalten ist.
Halten Sie nicht zusammengehörige Modelle getrennt. Ein Archiv, das die Frage „Wofür ist das?“ beantwortet, lässt sich auch leichter prüfen, wiederherstellen und gezielt außer Betrieb nehmen.
Ein verlustfreier Ablauf zur Speicherfreigabe
- Wählen Sie eine zusammengehörige lokale Familie aus, nicht das gesamte Modellverzeichnis.
- Wählen Sie in Tensor Archive Add model family → Local folder und führen Sie anschließend Analyse source aus.
- Prüfen Sie das Ergebnis vor dem Archivieren. Es geht darum, diese Familie zu messen, nicht einen allgemeingültigen Prozentsatz anzunehmen.
- Archivieren Sie die Familie als verwaltete lokale Kopie und führen Sie anschließend Prüfen aus.
- Stellen Sie eine separate Kopie wieder her und laden Sie sie in dem Arbeitsablauf, der für Sie wichtig ist.
- Entscheiden Sie erst dann manuell, ob eine alte Arbeitskopie von der SSD entfernt werden kann.
Die Aussagekraft einer Prüfung ist begrenzt. Sie weist die Wiederherstellbarkeit der gespeicherten Dateien nach. Sie belegt nicht, dass ein Prompt, Trainingslauf oder Inferenzergebnis die von Ihnen erwartete Qualität erreicht. Testen Sie die wiederhergestellten Dateien in dem für Sie maßgeblichen Arbeitsablauf.
Was ein Speicherergebnis aussagen kann — und was nicht
Der Produktbenchmark weist für eine kontrollierte Familie aus fünf eigenständigen Modell- und Adapter-Bereitstellungen eine Verringerung des physischen Speicherbedarfs um 71.2% aus: unabhängig gespeichert 907.3 MB gegenüber 261.6 MB als eine Familie. Dies ist ein Beispiel für eine Familie mit gemeinsam genutzten Daten und keine Aussage, dass eine einzelne LoRA-Datei um 71.2% kleiner wird.
Betrachten Sie das Ergebnis als Denkhilfe, nicht als Versprechen. Zusammengehörige Modelle können wiederholte Daten enthalten, die nur einmal aufbewahrt werden müssen. Bei nicht zusammengehörigen oder bereits komprimierten Dateien muss das nicht der Fall sein. Das Analyseergebnis Ihrer eigenen Familie ist die Grundlage für die Entscheidung.
Der sicherste Weg, Platz zu schaffen
Geben Sie Speicherplatz schrittweise frei. Beginnen Sie mit der Familie, die Sie tatsächlich verwenden. Bewahren Sie eine unabhängige Sicherung auf, wenn die Dateien wichtig sind. Prüfen Sie die Dateien und stellen Sie sie wieder her, bevor Sie sie löschen. Wiederholen Sie dann den Vorgang. Dieses Vorgehen ist langsamer als eine Massenbereinigung, aber wesentlich schneller, als eine Bibliothek aus dem Gedächtnis neu aufzubauen, nachdem genau der benötigte Adapter gelöscht wurde.
Prüfen Sie zunächst, wovon die einzelnen LoRA-Dateien abhängen. Zum Unterschied zwischen exakter Speicherung und veränderten Gewichten lesen Sie SafeTensors-Speicherung im Vergleich zur Quantisierung; um den gesamten Speicherbedarf rund um diese Adapter zu ermitteln, messen Sie Modellgröße und Speicherplatz von Stable Diffusion. Laden Sie anschließend Tensor Archive herunter und befolgen Sie die Hinweise zur sicheren Speicherfreigabe.
Quellen
- LoRA: Low-Rank Adaptation of Large Language Models — die ursprüngliche Adaptermethode.
- Zusammenfassung des Tensor Archive-Benchmarks — Arbeitslast, Speicherwerte und das oben angeführte Ergebnis der exakten Wiederherstellung.