PEFT documentation

PEANuT: Ağırlık Farkındalıklı Sinirsel Ayarlayıcılarla Parametre Verimli Uyarlanma

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

PEANuT: Ağırlık Farkındalıklı Sinirsel Ayarlayıcılarla Parametre Verimli Uyarlanma

PEANuT, donmuş önceden eğitilmiş ağırlıkların kendisinden adaptör güncellemeleri üretmek için ağırlık-farkındalıklı sinir ayarlayıcılar (neural tweakers) tanıtan parametre-verimli ince ayar tekniğidir. LoRA'daki gibi safça doğrusal düşük-rank bir güncelleme öğrenmek yerine PEANuT, adaptör dönüşümünü taban ağırlığa koşullandırır; bu da güncelleme kuralını daha ifade edici hale getirirken eğitilebilir parametre sayısını düşük tutar.

PEANuT, bir giriş projeksiyonu A, bir çıkış projeksiyonu B ve isteğe bağlı ara kalan kodlayıcı/çözücü çiftleri ile doğrusal olmayan aktivasyonlar kullanır. Bu sayede, ağırlık bağımsız doğrusal adaptörlere kıyasla daha karmaşık güncelleme desenlerini modellemek mümkün hale gelirken, yapı PEFT kapsamı içinde kalmaya devam eder.

PEANuT şu anda aşağıdaki ödünleşimlere sahiptir:

Artıları:

  • Doğrusal düşük rütbeli güncellemelerden daha yüksek teorik ifade gücü.
  • Benzer bütçeler altında, çeşitli görevlerde LoRA'dan daha iyi performans.
  • Çok düşük parametre aralıklarında, örneğin 0.2M civarında eğitilebilir parametre ile iyi çalışır.

Dezavantajlar:

  • LoRA'dan daha yüksek bellek kullanımı, çünkü ΔW uygulanmadan önce açıkça oluşturulur.
  • LoRA'ya kıyasla daha yavaş eğitim ve çıkarım, ayrıca daha derin ara katmanlar bu ek maliyeti daha da artırır.
  • Doğrusal olmayan yapı, özellikle öğrenme hızı ve ilgili optimizasyon ayarları gibi hiperparametrelerin daha dikkatli ayarlanmasını gerektirebilir.

Eğer bu ödünleşimler kullanım senaryonuza uygun değilse, LoRA gibi diğer PEFT yöntemlerini değerlendirmenizi öneririz.

Makalenin özeti şudur:

Büyük önceden eğitilmiş temel modellerin ince ayarının genellikle mükemmel bir aşağı akış performansına yol açtığı, ancak tüm parametrelerin güncellenmesi durumunda son derece pahalı olduğu bilinmektedir. LoRA gibi parametre-verimli ince ayar (PEFT) yöntemleri, bu sorunu hafifletmek için hafif güncelleme modülleri tanıtır; ancak bunlar genellikle ağırlık-agnostik doğrusal yaklaşımlara dayanır ve bu da ifade güçlerini sınırlar. Bu çalışmada, dondurulmuş önceden eğitilmiş ağırlıklara koşullu olarak görev-uyumlu güncellemeler üreten, kompakt sinirsel modüller olan ağırlık-farkındalıklı sinirsel ayarlayıcıları tanıtan yeni bir PEFT çerçevesi olan PEANuT'ü öneriyoruz. PEANuT, tam model ince ayarı yapmadan karmaşık güncelleme kalıplarını yakalamak için esnek ve verimli bir yol sunar. PEANuT'nin, karşılaştırılabilir veya daha az parametreyle mevcut doğrusal PEFT yöntemlerinden eşdeğer veya daha yüksek ifade gücüne ulaştığını teorik olarak gösteriyoruz. Yirmi'den fazla veri seti içeren dört benchmark üzerinde yapılan kapsamlı deneyler, PEANuT'nin düşük hesaplama maliyetini korurken hem NLP hem de görü görevlerinde güçlü baz çizgilerini tutarlı bir şekilde geride bıraktığını göstermektedir.

Karma performans değerlendirmesi genel bakış

API

PeanutConfig

sınıf peft.PeanutConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falser: int = 32depth: int = 0act_fn: str = 'relu'scaling: float = 1.0target_modules: Optional[Union[list[str], str]] = Noneexclude_modules: Optional[Union[list[str], str]] = Nonemodules_to_save: Optional[list[str]] = Nonelayers_to_transform: Optional[Union[list[int], int]] = Nonelayers_pattern: Optional[Union[list[str], str]] = Noneinit_weights: bool = True )

Parametreler

  • r (int) — PEANuT rütbesi. Bu, adaptörlerin kullandığı gizli boyuttur. LoRA rütbesine benzer şekilde, daha büyük bir r değeri adaptör kapasitesini ve eğitilebilir parametre sayısını artırır.
  • depth (int) — PEANuT'ta kodlayıcı/çözücü tarafı başına gizli adaptör katman sayısı. Girdi projeksiyonu A ve çıktı projeksiyonu B bu gizli katmanların yanı sıra her zaman mevcuttur. Bu nedenle, depth negatif olmayan bir tam sayı olmalıdır.
    • depth=0: A, B.
    • depth=1: A, bir kodlayıcı, bir çözücü, B.
    • depth=2: A, iki kodlayıcı, iki çözücü, B.
    • depth=3: A, üç kodlayıcı, üç çözücü, B vb.
  • act_fn (str) — PEANuT ağı içinde uygulanan doğrusal olmayan aktivasyon. Bu, standart PyTorch uygulamasındaki non_linear ile eşleşir. Varsayılan değer "relu"'dur. transformers.activations.ACT2FN içinde kullanılabilir olan herhangi bir aktivasyon anahtarı desteklenir ve farklı görevlerde daha iyi performans gösterebilir.
  • scaling (float) — Dondurulmuş taban katman çıktısına eklenmeden önce PEANuT çıktısına uygulanan skaler çarpan. Nihai adaptör katkısı scaling * (x @ delta_w)'dir.
  • target_modules (Union[List[str], str], isteğe bağlı) — PEANuT'nin uygulanacağı modüllerin adları. Modül adı dizeleri listesi (ör. ['q_proj', 'v_proj']) veya bir regex deseni olabilir.
  • modules_to_save (List[str], isteğe bağlı) — PEANuT katmanları dışında, eğitilebilir olarak ayarlanacak ve nihai checkpoint'te kaydedilecek modüllerin listesi.
  • exclude_modules (Union[List[str], str], isteğe bağlı) — Uyarlamanın (adapter) uygulanmaması istenen modüllerin adları. Bir dize geçirildiğinde, bir regex eşleşmesi yapılır. Bir dize listesi geçirildiğinde, tam bir eşleşme yapılır veya modül adının, geçirilen dizelerden herhangi biriyle sonlanıp sonlanmadığı kontrol edilir.
  • layers_to_transform (Union[list[int], int], isteğe bağlı) — Dönüştürülecek katman indeksleri. Bu argüman belirtilirse, PEFT yalnızca bu listede belirtilen katman indekslerini dönüştürür. Tek bir tamsayı geçirilirse, PEFT yalnızca bu indeksteki katmanı dönüştürür.
  • layers_pattern (Optional[Union[List[str], str]], isteğe bağlı) — Katman deseni adı, yalnızca layers_to_transform None değilse ve katman deseni ortak katman desenlerinde yer almıyorsa kullanılır.
  • init_weights (bool) — PEANuT adaptör ağırlıklarının varsayılan başlatma şeması kullanılarak başlatılıp başlatılmayacağı:
    • True ise: B hariç tüm ağırlıklar Kaiming uniform ile, B ise sıfır ile başlatılır.
    • False ise: tüm ağırlıklar (B dahil) Kaiming uniform ile başlatılır.

    B'yi sıfıra başlatmak, adaptörün tam bir no-op olarak başlamasını sağlar.

Bu, bir PeanutModel yapılandırmasını depolamak için kullanılan yapılandırma sınıfıdır.

Notlar: PEANuT, delta ağırlığının temel ağırlığa koşullu olduğu ağırlık-farkındalıklı bir yol kullanır. A adaptörü, temel ağırlığın çıktı boyutu üzerinde uygulanır; bu nedenle A'nin şekli LoRA benzeri yöntemlerde kullanılan olağan (in_dim -> r) yerine (out_dim -> r)'dir.

PeanutModel

sınıf peft.PeanutModel

< >

( modelpeft_config: Union[PeftConfig, dict[str, PeftConfig]]adapter_name: strlow_cpu_mem_usage: bool = Falsestate_dict: Optional[dict[str, torch.Tensor]] = None ) → torch.nn.Module

Parametreler

  • model (torch.nn.Module) — Uyarlanacak model.
  • config (PeanutConfig) — PEANuT modelinin yapılandırması.
  • adapter_name (str) — Adaptörün adı, varsayılan olarak "default"'tır.

Dönüş değeri

torch.nn.Module

PEANuT PEFT modeli.

Önceden eğitilmiş bir transformers modelinden PEANuT modeli oluşturur.

Yöntem, https://arxiv.org/abs/2410.01870 adresinde ayrıntılı olarak açıklanmıştır.

Öznitelikler:

Update on GitHub