PEFT documentation
Tipos de PEFT
Comece agora
Guias
Configurações e modelosIntegrações Treinamento Eficiente em MemóriaFusão de modelosQuantizaçãoModelos personalizadosInjeção de adaptadoresMisturando métodos PEFTtorch.compileContribuir para o PEFTSolução de problemasFormato de checkpoint do PEFT
Treinamento Distribuído
Métodos
Referência da API
Tipos de PEFT
PeftType inclui os adaptadores suportados no PEFT, e TaskType inclui as tarefas suportadas pelo PEFT.
PeftType
Classe Enum para os diferentes tipos de adaptadores no PEFT.
Tipos de PEFT suportados:
- PROMPT_TUNING
- MULTITASK_PROMPT_TUNING
- P_TUNING
- PREFIX_TUNING
- LORA
- ADALORA
- BOFT
- ADAPTION_PROMPT
- IA3
- BEFT
- LOHA
- LOKR
- OFT
- XLORA
- POLY
- LN_TUNING
- VERA
- FROD
- FOURIERFT
- HRA
- BONE
- MISS
- RANDLORA
- SHIRA
- PACA
- C3A
- ROAD
- WAVEFT
- OSF
- DELORA
- GRALORA
- ADAMSS
- SHADOW
- DEFT
TaskType
Classe Enum para os diferentes tipos de tarefas suportadas pelo PEFT.
Visão geral dos tipos de tarefas suportados:
- SEQ_CLS: Classificação de texto.
- SEQ_2_SEQ_LM: Modelagem de linguagem de sequência para sequência.
- CAUSAL_LM: Modelagem de linguagem causal.
- TOKEN_CLS: Classificação de tokens.
- QUESTION_ANS: Resposta a perguntas.
- FEATURE_EXTRACTION: Extração de recursos. Fornece os estados ocultos que podem ser usados como incorporações ou recursos para tarefas subsequentes.