LoRA frente a QLoRA: ¿qué cambia y qué permanece?
LoRA y QLoRA son enfoques relacionados de ajuste fino, pero responden a restricciones de recursos distintas. LoRA entrena pequeñas actualizaciones de adaptadores junto a un modelo base; QLoRA combina ese enfoque de adaptadores con un modelo base cuantizado durante el ajuste fino para reducir la presión de memoria.
Qué significa LoRA en la práctica
Low-Rank Adaptation (LoRA) añade actualizaciones entrenables de bajo rango en lugar de cambiar todos los parámetros del modelo base. El adaptador resultante suele ser mucho más pequeño que un modelo sometido a ajuste fino completo, pero solo tiene sentido en relación con su modelo base, arquitectura y flujo de carga previstos.
Para la conservación, esa relación es el dato fundamental. Un archivo denominado «style-v7» puede no indicar en el futuro qué modelo base espera, qué proyecto lo produjo ni qué versión terminada querías conservar. Trata el adaptador y el contexto que necesites recuperar como una familia deliberada.
Qué añade QLoRA
QLoRA utiliza un modelo base cuantizado durante el ajuste fino mientras entrena adaptadores LoRA. Su finalidad principal es reducir el uso de memoria al ajustar modelos grandes. No significa que todos los artefactos producidos por la ejecución sean intercambiables con la configuración no cuantizada ni elimina la necesidad de registrar el modelo base, la configuración y la salida terminada que pretendes conservar.
No utilices «QLoRA» como etiqueta de almacenamiento. Describe un enfoque de ajuste fino y las restricciones relativas al modelo base. No promete que el archivado haga más pequeños todos los archivos resultantes ni sustituye una prueba de recuperación exacta.
¿Qué debes conservar después de terminar una ejecución?
Conserva contexto suficiente para identificar sin ambigüedades el artefacto terminado: el adaptador publicado, la identidad o revisión prevista del modelo base, la configuración y el material de evaluación que requiera tu proyecto, y un nombre claro de proyecto y versión. Mantén por separado el material de gestión de la ejecución si tu conjunto de herramientas de entrenamiento lo necesita para reanudar el trabajo.
Cuando una versión esté terminada, un archivo local puede ayudar a conservar archivos relacionados como una sola familia y recuperarlos exactamente más adelante. No archives una ejecución activa solo para liberar espacio deprisa; termina la ejecución, conserva lo que necesita y después aplica un flujo de almacenamiento al conjunto de artefactos terminados.
Dónde encaja Tensor Archive
Tensor Archive es una herramienta local de almacenamiento y recuperación, no un framework de ajuste fino. Una vez terminada la ejecución, puedes analizar una familia relacionada, archivarla, verificar que sea recuperable y restaurar una copia independiente antes de eliminar manualmente un origen redundante. Esto resulta especialmente útil cuando se conservan juntos un modelo base y sus adaptadores terminados o versiones estrechamente relacionadas.
Una regla práctica
Si no conoces el método, empieza por qué significa LoRA en AI. Utiliza la terminología LoRA o QLoRA para describir cómo se produjo el artefacto y después consulta checkpoint frente a LoRA para identificar de qué dependen los archivos terminados. Para conocer la secuencia de almacenamiento, lee la guía de archivado de checkpoints terminados.