Archiva checkpoints terminados de entrenamiento de LoRA sin tratar la restauración como algo secundario
Un artefacto de entrenamiento terminado no es lo mismo que un checkpoint de entrenamiento activo. Conserva las versiones terminadas que necesites guardar y recuperar, pero no confundas un archivo de almacenamiento con los mecanismos necesarios para reanudar una ejecución interrumpida.
Separa el almacenamiento, el entrenamiento y la recuperación
«Almacenamiento de checkpoints» suele utilizarse para varias funciones a la vez: conservar una versión terminada para inferencia, guardar el historial del proyecto, recuperarse de una ejecución fallida y mover datos entre equipos. Estos requisitos no son intercambiables.
Tensor Archive resulta útil cuando una versión está terminada y quieres mantener recuperable una familia local de artefactos relacionados. No es una herramienta de entrenamiento, un gestor de checkpoints activos ni un sustituto de los archivos y procesos que necesita tu pila de entrenamiento para reanudar con seguridad. Mantén el material de la ejecución activa donde esa pila lo espere hasta que la ejecución haya terminado de verdad.
Elige deliberadamente la familia terminada
Una familia razonable podría incluir versiones LoRA terminadas de un experimento, el modelo base al que deben acompañar, los resultados de evaluación que debas conservar y los pequeños archivos del proyecto que permiten entender una versión. No debería contener automáticamente todos los experimentos del disco.
Antes de archivar, escribe un nombre sencillo que refleje el proyecto, la base prevista y el límite de la versión. No es una tarea inútil: una familia clara es más fácil de restaurar correctamente cuando el contexto original del entrenamiento se ha desvanecido.
Archiva después del control de finalización
- Termina la ejecución y conserva el material de entrenamiento activo que necesite tu flujo de entrenamiento.
- Elige los artefactos terminados que deban permanecer juntos para su recuperación o despliegue.
- Ejecuta Analyse source en Tensor Archive y examina qué se incluirá.
- Archiva la familia como copia local gestionada y después ejecuta Verificar.
- Restaura en una salida independiente y prueba la versión recuperada en el flujo de inferencia o evaluación de destino.
- Solo después de esa prueba debes eliminar manualmente una copia de trabajo redundante para liberar espacio.
La recuperación exacta tiene un significado limitado. Establece que los archivos archivados pueden restaurarse exactamente. No indica que el modelo restaurado sea el mejor checkpoint, que tenga la calidad de evaluación esperada ni que pueda reanudar una ejecución activa.
Qué demuestra el resultado publicado sobre checkpoints
En la validación secuencial controlada de checkpoints BF16 de Tensor Archive, cinco versiones completas que sumaban 4.060 GB de origen ocuparon 1.846 GB en Tensor Archive, un 34.318% menos que la comparación con Gear CDC, con 50 de 50 archivos restaurados y cero bytes distintos. Es un resultado de almacenamiento y recuperación exacta para esa carga fija.
Mantén el alcance unido a la cifra. El resultado no dice nada sobre un experimento tuyo no relacionado, el rendimiento de un bucle de entrenamiento activo ni una promesa general de ahorro. Utiliza Analizar con tu familia terminada antes de formarte una expectativa.
Una regla operativa práctica
Mantén dos políticas, no una: una política de ejecución activa bajo la responsabilidad del flujo de entrenamiento y otra de artefactos terminados para su conservación local y recuperación posterior. Esta separación reduce el riesgo al eliminar y aclara qué demuestra realmente un archivo.
Para conocer el flujo orientado al usuario, consulta el inicio rápido de Tensor Archive. Para una decisión de almacenamiento relacionada, lee por qué el almacenamiento sin pérdidas no es cuantización de pesos y después descarga Tensor Archive para probar localmente una familia terminada.
Fuentes
- LoRA: Low-Rank Adaptation of Large Language Models — el método de adaptadores en el que se basan los artefactos terminados aquí descritos.
- Resumen de la prueba de rendimiento de Tensor Archive — carga fija de checkpoints, comparación y recuentos de restauraciones exactas byte a byte.