PEFT documentation

AutoPeftModels

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

AutoPeftModels

As classes AutoPeftModel carregam o modelo PEFT adequado para o tipo de tarefa, inferindo-o automaticamente a partir do arquivo de configuração. Elas foram projetadas para carregar um modelo PEFT de forma rápida e fácil, em uma única linha de código, sem a necessidade de se preocupar com a classe de modelo exata ou de carregar manualmente um PeftConfig.

AutoPeftModel

classe peft.AutoPeftModel

< >

( *args**kwargs )

from_pretrained

< >

( pretrained_model_name_or_pathadapter_name: str = 'default'is_trainable: bool = Falseconfig: Optional[PeftConfig] = Nonerevision: Optional[str] = Noneimport_allowlist: Optional[list[str]] = None**kwargs )

Parâmetros

  • import_allowlist (list[str], opcional, padrão {get_default_import_allowlist()}) — O AutoPeftModel tentará instanciar o modelo base configurado no config do adaptador. Como essa operação pode exigir a importação de outros pacotes, essa allowlist é uma salvaguarda para impedir a importação de pacotes maliciosos. Você pode precisar especificar o nome de importação do seu pacote aqui, caso ele não esteja nos padrões.

Um wrapper em torno de todas as etapas de pré-processamento que um usuário precisa executar para carregar um modelo PEFT. Os kwargs são passados para PeftConfig, que automaticamente cuida do filtragem dos kwargs dos métodos do Hub e da inicialização do objeto de configuração.

Os parâmetros são equivalentes aos de PeftModel.from_pretrained(). As diferenças estão documentadas abaixo.

AutoPeftModelForCausalLM

classe peft.AutoPeftModelForCausalLM

< >

( *args**kwargs )

AutoPeftModelForSeq2SeqLM

classe peft.AutoPeftModelForSeq2SeqLM

< >

( *args**kwargs )

AutoPeftModelForSequenceClassification

classe peft.AutoPeftModelForSequenceClassification

< >

( *args**kwargs )

AutoPeftModelForTokenClassification

classe peft.AutoPeftModelForTokenClassification

< >

( *args**kwargs )

AutoPeftModelForQuestionAnswering

classe peft.AutoPeftModelForQuestionAnswering

< >

( *args**kwargs )

AutoPeftModelForFeatureExtraction

classe peft.AutoPeftModelForFeatureExtraction

< >

( *args**kwargs )

Update on GitHub