Arquive checkpoints concluídos de treino LoRA sem tratar a restauração como algo secundário
Um artefacto de treino concluído não é igual a um checkpoint de treino ativo. Conserve as versões terminadas que precisa de manter e recuperar, mas não confunda um arquivo de armazenamento com o mecanismo necessário para retomar uma execução interrompida.
Separe armazenamento, treino e recuperação
«Armazenamento de checkpoints» é muitas vezes utilizado para vários trabalhos ao mesmo tempo: conservar uma versão concluída para inferência, manter o histórico do projeto, recuperar de uma execução falhada e transferir dados entre computadores. Estes requisitos não são intercambiáveis.
O Tensor Archive é útil depois de uma versão estar concluída e quando pretende manter recuperável uma família local de artefactos relacionados. Não é um sistema de treino, um gestor de checkpoints ativos nem um substituto para os ficheiros e processos de que a sua pilha de treino precisa para retomar em segurança. Mantenha o material da execução ativa onde essa pilha o espera até a execução estar verdadeiramente concluída.
Escolha deliberadamente a família concluída
Uma família sensata pode incluir versões LoRA concluídas de uma experiência, o modelo base que as deve acompanhar, saídas de avaliação que tenha de conservar e os pequenos ficheiros de projeto que tornam uma versão compreensível. Não deve incluir automaticamente todas as experiências do disco.
Antes de arquivar, escreva um nome simples que identifique o projeto, o modelo base previsto e o limite da versão. Isto não é trabalho inútil: uma família clara é mais fácil de restaurar corretamente quando o contexto de treino original já se desvaneceu.
Arquive depois da barreira de conclusão
- Conclua a execução e conserve o material de treino ativo exigido pelo seu fluxo de treino.
- Escolha os artefactos concluídos que pertencem ao mesmo conjunto para recuperação ou implementação.
- Execute Analyse source no Tensor Archive e inspecione o que será incluído.
- Arquive a família como uma cópia local gerida e depois execute Verificar.
- Restaure para uma saída separada e teste a versão recuperada no fluxo de inferência ou avaliação de destino.
- Só depois dessa prova deverá libertar manualmente uma cópia de trabalho redundante.
A recuperação exata tem um significado restrito. Demonstra que os ficheiros arquivados podem ser restaurados exatamente. Não afirma que o modelo restaurado é o melhor checkpoint, que tem a qualidade de avaliação esperada ou que consegue retomar uma execução ativa.
O que demonstra o resultado publicado sobre checkpoints
Na validação controlada de checkpoints BF16 sequenciais do Tensor Archive, cinco versões completas que totalizavam 4.060 GB de origem ocuparam 1.846 GB no Tensor Archive, menos 34.318% do que a comparação com Gear CDC, com 50 de 50 ficheiros restaurados e zero bytes diferentes. É um resultado de armazenamento e recuperação exata para essa carga fixa.
Mantenha o âmbito associado ao número. O resultado nada diz sobre uma experiência não relacionada, o desempenho de um ciclo de treino ativo ou uma promessa geral de poupança. Utilize Analisar na família concluída antes de criar uma expectativa.
Uma regra operacional prática
Mantenha duas políticas, não uma: uma política de execução ativa, controlada pelo fluxo de treino, e uma política de artefactos concluídos para conservação local e recuperação posterior. A separação torna a eliminação menos arriscada e esclarece o que um arquivo comprova realmente.
Para o fluxo destinado ao utilizador, consulte o início rápido do Tensor Archive. Para uma decisão de armazenamento relacionada, leia por que motivo o armazenamento sem perdas não é quantização de pesos e depois descarregue o Tensor Archive para testar localmente uma família concluída.
Fontes
- LoRA: Low-Rank Adaptation of Large Language Models — o método de adaptador subjacente aos artefactos concluídos aqui abordados.
- Resumo do benchmark do Tensor Archive — carga fixa de checkpoints, comparação e contagens de restauração exata byte a byte.