Quiz: Fine-Tuning Eficiente em Parâmetros (PEFT)
Teste seu conhecimento sobre métodos PEFT, seus trade-offs e quando usar cada um.
30 questões - Clique em cada pergunta para revelar a resposta correta.
Questão 1
O que significa PEFT?
A) Parallel Efficient Fine-Tuning
B) Fine-Tuning Eficiente em Parâmetros
C) Pre-training Efficient Feature Training
D) Partial Embedding Fine-Tuning
Mostrar resposta
Resposta correta: B
PEFT significa Fine-Tuning Eficiente em Parâmetros, uma família de métodos que treinam apenas um pequeno subconjunto dos parâmetros do modelo.
Questão 2
Qual a porcentagem de parâmetros que o PEFT normalmente treina?
A) 50%
B) 25%
C) Menos de 1%
D) 10%
Mostrar resposta
Resposta correta: C
Os métodos PEFT normalmente treinam menos de 1% do total de parâmetros do modelo (geralmente de 0,01% a 0,5%).
Questão 3
Por que o PEFT não causa esquecimento catastrófico?
A) Usa mais dados
B) Os pesos do modelo base permanecem congelados
C) Treina por menos épocas
D) Usa uma função de perda especial
Mostrar resposta
Resposta correta: B
O PEFT mantém os pesos do modelo base congelados, preservando assim o conhecimento pré-treinado original. Apenas os pequenos parâmetros dos adaptadores são modificados.
Questão 4
O que é LoRA?
A) Uma arquitetura de modelo
B) Low-Rank Adaptation, adicionando matrizes treináveis aos pesos congelados
C) Um tipo de otimizador
D) Um formato de dataset
Mostrar resposta
Resposta correta: B
LoRA (Low-Rank Adaptation) adiciona matrizes treináveis de decomposição de baixa-rank (B e A) junto às matrizes de pesos congeladas.
Questão 5
No LoRA, o que o parâmetro rank (r) controla?
A) Velocidade de treinamento
B) A capacidade e o número de parâmetros treináveis
C) Taxa de aprendizado
D) Tamanho do batch
Mostrar resposta
Resposta correta: B
O rank (r) determina a dimensionalidade das matrizes de baixa-rank, controlando a capacidade do adaptador e o número de parâmetros treináveis.
Questão 6
Qual a principal diferença entre LoRA e QLoRA?
A) QLoRA usa uma função de perda diferente
B) QLoRA combina quantização de 4 bits com LoRA
C) QLoRA treina mais parâmetros
D) QLoRA é apenas para modelos de imagem
Mostrar resposta
Resposta correta: B
QLoRA (Quantized LoRA) carrega o modelo base em precisão de 4 bits e adiciona adaptadores LoRA por cima, reduzindo drasticamente os requisitos de memória.
Questão 7
Quanto de memória o QLoRA economiza em relação ao LoRA para um modelo de 7B?
A) 10%
B) 30%
C) ~60% (de ~14GB para ~6GB)
D) 90%
Mostrar resposta
Resposta correta: C
O QLoRA reduz a memória de aproximadamente 14GB para 6GB em um modelo de 7B, economizando cerca de 60% em relação ao LoRA.
Questão 8
Qual formato de quantização o QLoRA utiliza?
A) INT8
B) NF4 (4-bit NormalFloat)
C) Float16
D) Binário
Mostrar resposta
Resposta correta: B
O QLoRA utiliza quantização NF4 (4-bit NormalFloat), projetada para ter o mesmo número de valores em cada bin de quantização para pesos normalmente distribuídos.
Questão 9
O que é Prefix Tuning?
A) Treinar apenas a primeira camada
B) Adicionar tokens virtuais treináveis como prefixos na atenção
C) Otimizar prompts de entrada
D) Um método de tokenização
Mostrar resposta
Resposta correta: B
Prefix Tuning adiciona "tokens virtuais" treináveis como prefixos aos estados de chave e valor nas camadas de atenção.
Questão 10
Qual método PEFT aprende a reescalar ativações?
A) LoRA
B) Prefix Tuning
C) IA3
D) QLoRA
Mostrar resposta
Resposta correta: C
IA3 (Infused Adapter by Inhibiting and Amplifying Inner Activations) aprende vetores de escala para reescalar ativações ao invés de adicionar novos pesos.
Questão 11
Qual função é usada para aplicar PEFT a um modelo?
A) apply_peft()
B) get_peft_model()
C) create_adapter()
D) add_lora()
Mostrar resposta
Resposta correta: B
A função get_peft_model() da biblioteca PEFT encapsula um modelo base com a configuração PEFT especificada.
Questão 12
O que faz o model.merge_and_unload()?
A) Salva o modelo em disco
B) Mescla os pesos do adaptador ao modelo base e remove o overhead do adaptador
C) Carrega múltiplos adaptadores
D) Limpa a memória da GPU
Mostrar resposta
Resposta correta: B
merge_and_unload() mescla os pesos do adaptador LoRA aos pesos do modelo base, criando um modelo padrão sem overhead de adaptador na inferência.
Questão 13
Qual o tamanho típico de um arquivo de adaptador LoRA comparado a um modelo completo?
A) Mesmo tamanho
B) 50% do modelo completo
C) ~10-50MB vs ~15GB+
D) 10% do modelo completo
Mostrar resposta
Resposta correta: C
Arquivos de adaptador LoRA normalmente têm 10-50MB, enquanto arquivos de modelo completo têm 15GB+ para um modelo de 7B.
Questão 14
Para que serve o parâmetro alpha do LoRA?
A) Definir a taxa de aprendizado
B) Escalar a contribuição dos pesos LoRA
C) Determinar o tamanho do batch
D) Definir a taxa de dropout
Mostrar resposta
Resposta correta: B
O alpha do LoRA é um fator de escala que controla a magnitude da contribuição da adaptação LoRA na saída. O escalonamento efetivo é alpha/rank.
Questão 15
Quais matrizes de peso são comumente alvo do LoRA em transformers?
A) Apenas camadas de embedding
B) Projeções Query, Key, Value (q_proj, k_proj, v_proj)
C) Normalização de camada
D) Softmax de saída
Mostrar resposta
Resposta correta: B
As matrizes de projeção de atenção (q_proj, k_proj, v_proj, o_proj) e camadas feed-forward são comumente alvo do LoRA.
Questão 16
O que é Prompt Tuning?
A) Escrever prompts melhores manualmente
B) Aprender embeddings contínuos adicionados ao início das entradas
C) Otimizar a tokenização
D) Um tipo de aumento de dados
Mostrar resposta
Resposta correta: B
Prompt Tuning aprende vetores de embedding contínuos que são adicionados ao início da sequência de entrada, servindo como "soft prompts" aprendidos.
Questão 17
Qual método PEFT utiliza o menor número de parâmetros treináveis?
A) LoRA
B) QLoRA
C) IA3 ou Prompt Tuning
D) Prefix Tuning
Mostrar resposta
Resposta correta: C
IA3 e Prompt Tuning utilizam o menor número de parâmetros (~0,01% do modelo), ainda menos que LoRA (~0,1-1%).
Questão 18
O que é double quantization no QLoRA?
A) Quantizar duas vezes em sequência
B) Quantizar as próprias constantes de quantização
C) Usar dois formatos de quantização diferentes
D) Quantizar pesos e ativações
Mostrar resposta
Resposta correta: B
Double quantization quantiza adicionalmente as próprias constantes de quantização, economizando cerca de 0,4 bits extras por parâmetro.
Questão 19
Qual a vantagem do adapter swapping?
A) Treinamento mais rápido
B) Usar um modelo base com múltiplos adaptadores específicos para tarefas
C) Melhor qualidade
D) Modelo menor
Mostrar resposta
Resposta correta: B
O adapter swapping permite usar um único modelo base com múltiplos adaptadores específicos para tarefas, que podem ser trocados rapidamente em tempo de execução.
Questão 20
Quando você deve escolher o fine-tuning completo ao invés do PEFT?
A) Quando a memória é limitada
B) Quando a máxima qualidade possível é crítica e há recursos disponíveis
C) Quando precisa de iteração rápida
D) Ao treinar múltiplas tarefas
Mostrar resposta
Resposta correta: B
O fine-tuning completo é preferido quando você precisa da máxima qualidade possível e possui recursos computacionais suficientes.
Questão 21
O que o AdaLoRA faz de diferente em relação ao LoRA padrão?
A) Usa rank mais alto
B) Aloca dinamicamente o rank com base na importância da camada
C) Só funciona com QLoRA
D) Não requer configuração
Mostrar resposta
Resposta correta: B
O AdaLoRA aloca dinamicamente o rank para diferentes matrizes de peso com base em sua importância, podendo usar mais rank para camadas importantes e menos para outras.
Questão 22
Qual biblioteca fornece o BitsAndBytesConfig para QLoRA?
A) peft
B) transformers (usando bitsandbytes)
C) trl
D) datasets
Mostrar resposta
Resposta correta: B
O BitsAndBytesConfig é fornecido pela biblioteca transformers, que utiliza a biblioteca bitsandbytes para a quantização propriamente dita.
Questão 23
Qual a diferença típica de qualidade entre LoRA e fine-tuning completo?
A) LoRA é 20% pior
B) LoRA é 1-5% inferior na maioria das tarefas
C) São idênticos
D) LoRA é melhor
Mostrar resposta
Resposta correta: B
O LoRA normalmente atinge 90-99% da qualidade do fine-tuning completo, com diferenças de 1-5% na maioria das tarefas.
Questão 24
Quão mais rápido é o treinamento PEFT comparado ao fine-tuning completo?
A) Mesma velocidade
B) 10% mais rápido
C) 2-3x mais rápido
D) 10x mais rápido
Mostrar resposta
Resposta correta: C
O treinamento PEFT é normalmente 2-3x mais rápido que o fine-tuning completo devido ao menor número de cálculos de gradiente e atualizações de peso.
Questão 25
O que acontece após mesclar um adaptador LoRA?
A) A qualidade diminui
B) O modelo fica maior
C) A inferência roda sem overhead de adaptador
D) O adaptador é perdido permanentemente
Mostrar resposta
Resposta correta: C
Após a mesclagem, os pesos do adaptador são integrados aos pesos do modelo base, então a inferência roda sem qualquer overhead de adaptador, idêntica a um modelo ajustado nativamente.
Questão 26
Qual o rank inicial recomendado para experimentos com LoRA?
A) r=1
B) r=16 ou r=32
C) r=256
D) r=1024
Mostrar resposta
Resposta correta: B
Começar com r=16 ou r=32 é recomendado como um bom equilíbrio entre capacidade e eficiência. Ajuste para cima ou para baixo conforme os resultados.
Questão 27
Qual compute dtype é comumente usado com QLoRA?
A) float32
B) int8
C) bfloat16
D) int4
Mostrar resposta
Resposta correta: C
O QLoRA normalmente utiliza bfloat16 como compute dtype para os cálculos forward/backward, mesmo que os pesos sejam armazenados em 4 bits.
Questão 28
Qual a relação entre LoRA alpha e rank?
A) Alpha deve ser muito menor que o rank
B) Alpha é tipicamente 1,5-2x o rank
C) Alpha igual ao rank
D) Não têm relação
Mostrar resposta
Resposta correta: B
A prática comum é definir alpha como 1,5-2x o rank (ex: r=16, alpha=32), pois o escalonamento efetivo é alpha/rank.
Questão 29
O que o model.print_trainable_parameters() mostra?
A) Tamanho do modelo
B) Contagem e porcentagem de parâmetros treináveis
C) Progresso do treinamento
D) Uso de memória da GPU
Mostrar resposta
Resposta correta: B
print_trainable_parameters() exibe o número de parâmetros treináveis, total de parâmetros e a porcentagem treinável.
Questão 30
Para a maioria dos casos de uso, qual método PEFT é recomendado para começar?
A) IA3
B) Prefix Tuning
C) LoRA
D) AdaLoRA
Mostrar resposta
Resposta correta: C
O LoRA é o método PEFT mais versátil e amplamente utilizado, recomendado como ponto de partida padrão para a maioria das tarefas de fine-tuning.
Resultados
| Pontuação | Nível |
|---|---|
| 27-30 | Excelente - Forte entendimento de PEFT! |
| 21-26 | Bom - Revise métodos específicos conforme necessário |
| 15-20 | Médio - Revise todos os capítulos |
| Abaixo de 15 | Precisa de revisão abrangente |