Arkiv med slutförda LoRA-träningskontrollpunkter utan att återställa ses som något som kommer efteråt.
Ett färdigt träningsresultat är inte samma sak som ett live-träningskontrollspår. Behåll de versioner du behöver för återställning, men förbises inte att en arkivlagring inte är samma sak som den maskin som krävs för att fortsätta en avbruten körning.
Separat lagring, träning och återställning
"Kontrollpunktslagring" används ofta för flera uppgifter samtidigt: att behålla en färdig version för inferens, att spara projektets historia, att återställa från ett misslyckat körande och att flytta data mellan datorer. Detta är inte motsvarande krav.
Tensor Archive är användbar efter att en version är klar och du vill att en lokal familj av relaterade artefakter ska kunna återhämtas. Det är inte en tränare, en live-checkpoint-manager eller en ersättning för filerna och processen din träningsstack behöver för att återuppta säkert. Håll kvar materialet från det livslöpande köretet där den stack förväntar sig det tills köret verkligen är klart.
Välj den färdiga familjen med avsikt
En rimlig familj kan innehålla fullständiga LoRA-versioner från ett experiment, den basmodell de är avsedda att komma till huvudet, utvärderingsutdata du måste behålla, och de små projektfilerna som gör en utgåva förståelig. Den bör inte innehålla alla experiment på disken automatiskt.
Innan arkivering skall du ange ett vanligt namn som fångar projektet, den avsedda basen och versionsgränsen. Detta är inte meningslöst arbete: en tydlig familj är lättare att återställa korrekt när den ursprungliga träningskontexten har försvunnit.
Arkivera efter avslutningsporten
- Sluta körningen och behåll det livsmedelsmateriel som krävs av ditt träningsarbetsflöde.
- Välj de färdiga artefakterna som hör ihop för hämtning eller distribution.
- Kör Analyse source i Tensor Archive och kontrollera vad som kommer att inkluderas.
- Arkivera familjen som en hanterad lokal kopia och kör Verifera.
- Återställ till en separat utgång och testa den återställda versionen i målinfärds- eller utvärderingsarbetsflödet.
- Endast efter det beviset bör du manuellt återansvara en överflödig arbetskopia.
Exakt återställning har ett smalt betydelse. Det visar att de arkiverade filerna kan återställas exakt. Det säger inte att den återställda modellen är den bästa kontrollpunkten, att den har samma utvärderingskvalitet som du förväntar dig, eller att den kan återuppta en livekörning.
Vad den publicerade kontrollpunkten visar
I Tensor Archive’s kontrollerad sekventiell BF16-kontrollpunktsvalidering, fem fullständiga versioner totalt 4.060 GB källor upptog 1.846 GB i Tensor Archive, 34.318% mindre än Gear CDC-jämförelsen, med 50 av 50 filer återställda och noll skillnadsbytes. Det är ett lagrings- och exakt återställningsresultat för den fasta arbetsbelastningen.
Håll sammanhanget kopplat till talet. Resultatet säger ingenting om din orelaterade experiment, prestanda i ett live-träningslopp eller en generell sparingslöfte. Använd Analyse på ditt avslutade familjeförsök innan du bildar en förväntan.
En praktisk riktlinje
Håll två principer, inte en: en princip för livekörning som ägs av träningsflödet, och en princip för färdiga artefakter för lokal bevarande och senare hämtning. Skillnaden gör att borttagning är mindre riskabelt och gör det tydligare vad ett arkiv verkligen bevisar.
För arbetsflödet som användaren ser, se Tensor Archive snabbstart. För en relaterad lagringsbeslut, läs varför förlustfri lagring inte är viktquantisering, sedan ladda ner Tensor Archive för att testa en färdig familj lokalt.
Källor
- LoRA: Low-Rank Adaptation of Large Language Models — den adaptermetod som ligger bakom de färdiga artefakterna som nämns här.
- Tensor Archive prestandabeskrivning — fast kontrollpunktsarbetsbelastning, jämförelse och antal byteexakta återställningar.