AI'da LoRA nedir?

LoRA, Low-Rank Adaptation anlamına gelir. Önceden eğitilmiş modelin özgün ağırlıklarını donmuş tutan ve seçilen katmanlar için çok daha küçük düşük rütbeli matrisler öğrenen parametre verimli ince ayar yöntemidir. Bu öğrenilmiş güncellemeler adaptör olarak kaydedilebilir ve daha sonra uyumlu taban modele uygulanabilir.

Cebir sisi olmadan temel fikir

Geleneksel eksiksiz ince ayar, modeldeki parametrelerin çoğunu veya tümünü güncelleyebilir. LoRA, belirli görev için yararlı değişikliğin çoğu zaman çok daha az serbestlik derecesiyle temsil edilebileceğini varsayar. Eksiksiz güncelleme matrisi öğrenmek yerine güncellemeyi rütbesi r olan iki daha ince matrisin çarpımı olarak ifade eder.

Etkin ağırlık, donmuş taban ağırlığını ölçeklenmiş düşük rütbeli güncellemeyle birleştirir:

W′ = W + (B × A) · scale

Seçilen rütbe özgün boyutlardan çok daha küçükse A ve B matrisleri eksiksiz güncellemeden çok daha az eğitilebilir parametre içerir. Bu, eğitim belleğini azaltır ve kompakt adaptör artefaktı üretir. Taban model yine işin çoğunu yapar.

LoRA modeli, LoRA adaptörü ve LoRA ağırlıkları

İnsanlar bu ifadeleri gevşek kullanır; bu nedenle ayırmak yararlıdır:

• LoRA yöntemi: ince ayar sırasında kullanılan düşük rütbeli uyarlama tekniği.
• LoRA adaptörü: uyumlu tabana uygulamak için gereken öğrenilmiş güncelleme ve yapılandırma.
• LoRA ağırlıkları: söz konusu adaptördeki eğitilebilir tensör değerleri.
• “LoRA modeli”: adaptörün veya taban-adaptör birleşiminin yaygın kısaltmasıdır. Belirsizdir; gerçekte hangi artefaktın bulunduğunu sorun.

İndirilen LoRA dosyası genellikle eksiksiz taban modeli içermez. Bu nedenle kullanıcı arayüzü checkpoint seçmenizi ve sonra bir veya daha fazla LoRAs uygulamanızı ister.

LoRA ne öğrenebilir?

Dil modellerinde adaptör, davranışı alan, görev veya talimat stili için özelleştirebilir. Difüzyon modellerinde LoRAs yaygın olarak görsel stiller, karakterler, özneler, ürünler, kavramlar veya daha küçük davranış ayarlamaları için kullanılır. Hedef modüller, rütbe, veri kümesi ve eğitim prosedürü adaptörün ne ifade edebileceğini belirler.

LoRA kalite veya aslına uygunluk garantisi değildir. Kompakt adaptör aşırı uyum gösterebilir, tabanıyla çelişebilir, farklı güçlerde öngörülemez yanıt verebilir veya tetikleyici belirteçlere ve ön işleme seçimlerine bağımlı olabilir. Model kartını ve eğitim bağlamını süs değil, işletimsel meta veri olarak ele alın.

Adaptör çıkarım sırasında nasıl kullanılır

Uyumlu framework tabanı yükler, adaptör yapılandırmasını okur ve tensörlerini hedef modüllere uygular. Bazı çalışma zamanları güncellemeyi ayrı tutar; böylece etkinleştirilebilir, ağırlıklandırılabilir veya kaldırılabilir. Diğerleri güncellemeyi dağıtım için türetilmiş kopyada birleştirebilir.

Birleştirme, özgün adaptörü kendi kendine yeterli kılmakla aynı değildir. Gücü ayarlamak, adaptörleri birleştirmek veya çıktı dosyasını yeniden üretmek istiyorsanız birleştirilmemiş adaptörü, birebir tabanı ve reçeteyi saklayın. Checkpoint ile LoRA rehberi bu kurtarma farklarını eşler.

LoRA, QLoRA ve eksiksiz ince ayar

LoRA düşük rütbeli güncellemeyi açıklar. QLoRA, LoRA eğitimini kuantize donmuş tabanla ve ek bellek tasarrufu teknikleriyle birleştirir. Son teslim yine adaptör olabilir; bu nedenle dosya adı nasıl eğitildiğini açıklamayabilir. Yöntem düzeyindeki karşılaştırma için LoRA ile QLoRA bölümüne bakın.

Eksiksiz ince ayar modelin çok daha büyük bölümünü günceller ve farklı kapasite ile işletim ödünleşimleri sunabilir; ancak daha büyük durum ve daha yüksek kaynak gereksinimleri üretir. Doğru seçim, tek yöntemin her zaman daha “profesyonel” olduğu varsayımına değil, göreve, donanıma, değerlendirmeye ve dağıtıma bağlıdır.

LoRA kitaplıkları neden yine de büyür

Bir adaptör tabanına göre kompakttır; ancak koleksiyonlar varyantlar, rütbeler, epochlar, güçler, yinelenen indirmeler ve birkaç uyumlu taban ailesiyle büyür. Taban checkpointleri, VAEs, kodlayıcılar, önizlemeler ve eğitim çıktıları çoğu zaman tek adaptörden çok daha büyüktür. Bu nedenle küçük dosyalarla dolu klasör çok daha büyük model varlığına bağımlı olabilir.

Bir taban modeli birçok adaptörle düzenleme rehberini ve ağırlıkları değiştirmeden LoRA disk alanı boşaltma için pratik iş akışını kullanın. Amaç ne pahasına olursa olsun en küçük dizin değil, kurtarabileceğiniz tutarlı ailedir.

LoRA ile birlikte neler arşivlenmeli?

En azından adaptör ağırlıklarını, yapılandırmasını ve hassas taban model tanımlayıcısını saklayın. Taban özel, yerel olarak değiştirilmiş veya kaybolma ihtimali olan bir tabansa onu da birebir saklayın. Yeniden üretilebilirlik için ilgili tetikleyici belirteçleri, eğitim yapılandırmasını, veri kümesi referansını, lisans veya kullanım koşullarını ve checksum değerlerini saklayın.

Tensor Archive seçilen yerel tensör ailelerini korur ve birebir geri yüklemeyi doğrular. Eksik tabanı yeniden oluşturmaz, adaptör meta verileri icat etmez veya benzer adlandırılmış iki mimarinin uyumlu olduğunu kanıtlamaz.