Quiz: Módulo 7 - Fundamentos de Fine-Tuning

Pergunta 1

O que significa PEFT?

1. Parameter-Efficient Fine-Tuning
2. Parallel Efficient Fine-Tuning
3. Pre-trained Efficient Fine-Tuning
4. Partial Embedding Fine-Tuning

Pergunta 2

Qual porcentagem dos parâmetros o LoRA normalmente treina?

1. 0.1-1%
2. 10-20%
3. 50%
4. 100%

Pergunta 3

O que é esquecimento catastrófico?

1. O modelo perde conhecimento pré-treinado durante o fine-tuning
2. Estouro de memória durante o treinamento
3. Esquecer de salvar checkpoints
4. Função de perda indo para zero

Pergunta 4

O que o parâmetro "r" no LoRA representa?

1. O rank das matrizes de baixa-rank
2. Taxa de aprendizado
3. Força de regularização
4. Número de repetições

Pergunta 5

O que é QLoRA?

1. LoRA com modelo base quantizado
2. Peso do LoRA quantizado
3. Treinamento rápido com LoRA
4. LoRA com consciência de qualidade

Pergunta 6

O que é instruction tuning?

1. Treinar modelos para seguir instruções em linguagem natural
2. Ajustar hiperparâmetros
3. Escrever prompts melhores
4. Compilar instruções de treinamento

Pergunta 7

Quais camadas são normalmente alvo do LoRA?

1. Camadas de projeção de atenção (q_proj, v_proj)
2. Apenas a camada de embedding
3. Apenas a camada de saída
4. Todas as camadas igualmente

Pergunta 8

Qual é uma taxa de aprendizado típica para fine-tuning de LLMs?

1. 1e-5 a 5e-5
2. 0.1
3. 0.01
4. 1e-2

Pergunta 9

O que é o dataset Alpaca?

1. 52K exemplos de instruções gerados pelo GPT-4
2. Um dataset de imagens
3. Um dataset de código
4. Um dataset de tradução

Pergunta 10

Por que usar acumulação de gradiente?

1. Para simular batch sizes maiores com memória limitada
2. Para acelerar o treinamento
3. Para melhorar a acurácia
4. Para reduzir overfitting

Perguntas 11-30

(Abrangendo: métodos de adapter, prompt tuning, prefix tuning, tradeoffs entre fine-tuning completo e PEFT, qualidade de datasets, métricas de avaliação, ajuste de hiperparâmetros, fine-tuning multitarefa, adaptação de domínio, aprendizagem contínua)

Pergunta 11

Para que serve o lora_alpha?

1. Fator de escala para atualizações do LoRA
2. Taxa de aprendizado
3. Taxa de dropout
4. Weight decay

Pergunta 12

Quanta VRAM normalmente é necessária para fine-tuning completo de um modelo 7B (FP16)?

1. ~56GB
2. 16GB
3. 8GB
4. 128GB

Pergunta 13

O que é prefix tuning?

1. Adicionar tokens de prefixo treináveis às entradas
2. Treinar em prefixos de texto
3. Modificar o tokenizer
4. Pré-processar dados

Pergunta 14

O que torna dados de instrução de alta qualidade?

1. Tarefas diversas, respostas precisas, formato consistente
2. Apenas grande quantidade
3. Respostas longas
4. Instruções simples

Pergunta 15

Qual é o objetivo dos warmup steps?

1. Aumentar gradualmente a taxa de aprendizado para evitar instabilidade no treinamento
2. Carregar o modelo na memória
3. Validar o dataset
4. Compilar o modelo

Pergunta 16

Quando o fine-tuning completo é preferido ao LoRA?

1. Quando é necessário desempenho máximo e há recursos computacionais disponíveis
2. Sempre
3. Para experimentos rápidos
4. Quando a memória é limitada

Pergunta 17

Qual o benefício do LoRA em relação ao fine-tuning completo?

1. Requisitos de memória muito menores
2. Sempre melhor qualidade
3. Inferência mais rápida
4. Código mais simples

Pergunta 18

O que é adapter tuning?

1. Adicionar pequenos módulos treináveis entre camadas congeladas
2. Adaptar o formato de entrada
3. Converter o formato do modelo
4. Adaptação de hardware

Pergunta 19

Como você pode mesclar os pesos do LoRA ao modelo base?

1. model.merge_and_unload()
2. model.combine()
3. Não é possível
4. Requer novo treinamento

Pergunta 20

Pelo que o dataset Dolly é conhecido?

1. Dados de instrução escritos por humanos (15K exemplos)
2. Maior dataset
3. Apenas código
4. Dados sintéticos

Pergunta 21

O que target_modules especifica na configuração do LoRA?

1. Quais camadas do modelo aplicar o LoRA
2. Formato de saída
3. Objetivos de treinamento
4. Métricas de avaliação

Pergunta 22

O que é fine-tuning multitarefa?

1. Treinar em múltiplas tarefas simultaneamente
2. Executar múltiplos jobs de treinamento
3. Usar múltiplas GPUs
4. Treinamento sequencial de tarefas

Pergunta 23

Qual o efeito de aumentar o rank do LoRA (r)?

1. Mais parâmetros, potencialmente melhor qualidade
2. Treinamento mais rápido
3. Menos memória
4. Modelo mais simples

Pergunta 24

Por que usar um dataset de avaliação durante o fine-tuning?

1. Monitorar overfitting e generalização
2. Aumentar os dados de treinamento
3. Acelerar o treinamento
4. Reduzir memória

Pergunta 25

O que é a coleção FLAN?

1. Grande coleção de datasets acadêmicos de tarefas para instruction tuning
2. Uma arquitetura de modelo
3. Um tokenizer
4. Uma biblioteca de fine-tuning

Pergunta 26

Qual biblioteca fornece métodos PEFT?

1. peft (by Hugging Face)
2. pytorch only
3. tensorflow only
4. numpy

Pergunta 27

O que é lora_dropout?

1. Dropout aplicado às camadas LoRA para regularização
2. Remover camadas LoRA
3. Reduzir o rank
4. Early stopping

Pergunta 28

Quando pode ser necessário fine-tuning específico de domínio?

1. Domínios jurídico, médico ou técnico com vocabulário especializado
2. Chatbot geral
3. Q&A simples
4. Tradução

Pergunta 29

O que é aprendizagem contínua em LLMs?

1. Atualizar o modelo com novos dados sem esquecer o conhecimento antigo
2. Treinamentos longos
3. Inferência contínua
4. Aprendizagem em tempo real

Pergunta 30

Qual uma boa estratégia para evitar overfitting durante o fine-tuning?

1. Early stopping baseado na perda de validação
2. Treinar por mais tempo
3. Aumentar a taxa de aprendizado
4. Remover o conjunto de validação

---

Nota de aprovação: 24/30 (80%)

← Capítulo 3Módulo 8 →