Módulo 3: Fine-Tuning Eficiente em Parâmetros (PEFT)
Fine-Tuning Eficiente para Todos
Este módulo apresenta o Fine-Tuning Eficiente em Parâmetros (PEFT), uma família de métodos que torna o fine-tuning acessível em hardwares de consumo, mantendo a qualidade.
O que você vai aprender
Neste módulo, você irá:
- Entender a motivação do PEFT e por que ele foi desenvolvido
- Comparar PEFT vs fine-tuning completo para saber quando usar cada um
- Explorar todos os principais métodos de PEFT incluindo LoRA, QLoRA, Prefix Tuning e outros
- Escolher o método certo para o seu caso de uso específico
Estrutura do Módulo
| Capítulo | Tópico | Duração |
|---|---|---|
| Capítulo 1 | Introdução ao PEFT | 25 min |
| Capítulo 2 | PEFT vs Fine-Tuning Completo | 25 min |
| Capítulo 3 | Visão Geral dos Métodos de PEFT | 30 min |
| Quiz | Quiz do Módulo 3 | 30 min |
Prévia dos Conceitos-Chave
PEFT (Fine-Tuning Eficiente em Parâmetros)
Métodos que treinam apenas um pequeno subconjunto de parâmetros enquanto mantêm o modelo base congelado.
LoRA (Low-Rank Adaptation)
Adiciona matrizes treináveis de baixa-rank aos pesos congelados, sendo o método de PEFT mais popular.
Adapters
Pequenos módulos treináveis inseridos entre camadas congeladas.
Prefix Tuning
Adiciona "tokens virtuais" treináveis como prefixos à entrada.
Por Que Isso é Importante
Os métodos PEFT democratizaram o fine-tuning de LLMs:
- Acessibilidade: Treine modelos de 7B+ em GPUs de consumo
- Redução de Custos: Economia de memória acima de 90%
- Retenção de Qualidade: Resultados comparáveis ao fine-tuning completo
- Flexibilidade: Misture e troque adapters para diferentes tarefas
- Segurança: Sem esquecimento catastrófico do conhecimento base
Pré-requisitos
Antes de começar este módulo, você deve:
- Ter concluído os Módulos 1 e 2
- Entender por que o fine-tuning completo é intensivo em recursos
- Estar familiarizado com conceitos de redes neurais
- Conhecer operações básicas de PyTorch
Vamos Começar!
Comece pelo Capítulo 1: Introdução ao PEFT.
Tempo estimado para concluir este módulo: 2 horas