Geri yüklemeyi sonradan düşünülen bir işlem saymadan tamamlanmış LoRA eğitim checkpointlerini arşivleyin
Tamamlanmış eğitim yapıtı, canlı eğitim checkpointiyle aynı değildir. Saklamanız ve kurtarmanız gereken tamamlanmış sürümleri koruyun, ancak depolama arşivini kesilen bir çalışmayı sürdürmek için gereken mekanizmayla karıştırmayın.
Depolamayı, eğitimi ve kurtarmayı ayırın
“Checkpoint depolaması” sıklıkla aynı anda birkaç iş için kullanılır: tamamlanmış sürümü çıkarım için saklamak, proje geçmişini korumak, başarısız çalışmadan kurtarmak ve makineler arasında veri taşımak. Bunlar birbirinin yerine geçebilen gereksinimler değildir.
Tensor Archive, bir sürüm tamamlandıktan ve ilişkili yapıtlardan oluşan yerel bir ailenin kurtarılabilir kalmasını istediğinizde faydalıdır. Eğitim aracı, canlı checkpoint yöneticisi veya eğitim yığınınızın güvenle devam etmek için ihtiyaç duyduğu dosya ve sürecin yerine geçmez. Çalışma gerçekten bitene kadar canlı çalışma materyalini bu yığının beklediği yerde tutun.
Tamamlanmış aileyi bilinçli olarak seçin
Mantıklı bir aile; tek bir deneyden tamamlanmış LoRA sürümlerini, eşlik etmeleri gereken temel modeli, saklamanız gereken değerlendirme çıktılarını ve sürümü anlaşılır kılan küçük proje dosyalarını içerebilir. Diskteki her deneyi otomatik olarak içermemelidir.
Arşivlemeden önce projeyi, hedeflenen temeli ve sürüm sınırını anlatan sade bir ad yazın. Bu gereksiz iş değildir: özgün eğitim bağlamı unutulduğunda açık bir aileyi doğru geri yüklemek daha kolaydır.
Tamamlanma kapısından sonra arşivleyin
- Çalışmayı bitirin ve eğitim iş akışınızın gerektirdiği canlı eğitim materyalini saklayın.
- Geri alma veya dağıtım için birbirine ait tamamlanmış yapıtları seçin.
- Tensor Archive'da Analyse source işlemini çalıştırın ve nelerin dahil edileceğini inceleyin.
- Aileyi yönetilen bir yerel kopya olarak arşivleyin, ardından Verify işlemini çalıştırın.
- Ayrı bir çıktıya geri yükleyin ve kurtarılan sürümü hedef çıkarım veya değerlendirme iş akışında test edin.
- Gereksiz bir çalışma kopyasını ancak bu kanıttan sonra elle kaldırın.
Eksiksiz kurtarmanın dar bir anlamı vardır. Arşivlenmiş dosyaların aynı biçimde geri yüklenebildiğini kanıtlar. Geri yüklenen modelin en iyi checkpoint olduğunu, beklediğiniz değerlendirme kalitesine sahip olduğunu veya canlı bir çalışmayı sürdürebildiğini söylemez.
Yayımlanan checkpoint sonucu ne gösteriyor
Tensor Archive'ın kontrollü sıralı BF16 checkpoint doğrulamasında, kaynakta toplam 4.060 GB olan beş tam sürüm Tensor Archive'da 1.846 GB kapladı; bu Gear CDC karşılaştırmasından 34.318% daha azdı ve 50 dosyanın 50'si sıfır farklı bayt ile geri yüklendi. Bu, sabit iş yükü için bir depolama ve birebir kurtarma sonucudur.
Kapsamı sayıya bağlı tutun. Sonuç, ilişkisiz deneyiniz, canlı eğitim döngüsünün performansı veya genel tasarruf vaadi hakkında hiçbir şey söylemez. Beklenti oluşturmadan önce tamamlanmış ailenizde Analyse işlemini kullanın.
Pratik bir çalışma kuralı
Tek değil iki ilke tutun: eğitim iş akışının sahip olduğu canlı çalışma ilkesi ve yerel koruma ile daha sonra geri alma için tamamlanmış yapıt ilkesi. Ayrım, silmeyi daha az riskli yapar ve arşivin gerçekte neyi kanıtladığını açıklaştırır.
Kullanıcı iş akışı için Tensor Archive hızlı başlangıç kılavuzuna bakın. İlişkili depolama kararı için kayıpsız depolamanın neden ağırlık kuantizasyonu olmadığını okuyun ve ardından tamamlanmış bir aileyi yerel olarak test etmek için Tensor Archive'ı indirin.
Kaynaklar
- LoRA: Low-Rank Adaptation of Large Language Models — burada ele alınan tamamlanmış yapıtların arkasındaki adaptör yöntemi.
- Tensor Archive karşılaştırma özeti — sabit checkpoint iş yükü, karşılaştırma ve bayt düzeyinde birebir geri yükleme sayıları.