Quiz: Módulo 6 - Inferência & Deploy

Pergunta 1

O que o KV cache armazena?

1. Tensores de chave e valor previamente computados
2. Peso do modelo
3. Embeddings de tokens
4. Gradientes

Pergunta 2

O que é speculative decoding?

1. Uso de um modelo pequeno para rascunhar tokens, verificados por um modelo grande
2. Geração aleatória de tokens
3. Geração paralela de múltiplos modelos
4. Previsão de intenção do usuário

Pergunta 3

Qual redução de memória a quantização INT4 proporciona?

1. 50%
2. 75%
3. 87,5% (para 12,5% do original)
4. 25%

Pergunta 4

O que é GPTQ?

1. Método de quantização pós-treinamento para modelos GPT
2. Uma variante do GPT
3. Um framework de treinamento
4. Um tokenizer

Pergunta 5

Qual é a principal inovação do vLLM?

1. PagedAttention para eficiência de memória
2. Melhor tokenização
3. Treinamento aprimorado
4. Treinamento multi-GPU

Pergunta 6

O que o continuous batching melhora?

1. Vazão ao processar múltiplas requisições simultaneamente
2. Acurácia do modelo
3. Velocidade de treinamento
4. Uso de memória

Pergunta 7

O que é AWQ?

1. Activation-aware Weight Quantization
2. Automatic Weight Quality
3. Average Weight Quantization
4. Advanced Weighted Queries

Pergunta 8

Qual biblioteca fornece quantização on-the-fly?

1. bitsandbytes
2. GPTQ
3. vLLM
4. TensorRT

Pergunta 9

O que é TGI?

1. Text Generation Inference - solução de serving da HuggingFace
2. Training GPU Interface
3. Token Generation Index
4. Text Grading Intelligence

Pergunta 10

Por que usar balanceamento de carga para servir LLM?

1. Distribuir requisições entre múltiplos servidores para confiabilidade e vazão
2. Reduzir o tamanho do modelo
3. Melhorar a acurácia
4. Acelerar o treinamento

Perguntas 11-30

(Abrangendo tópicos avançados de otimização: flash attention, paralelismo de tensores para inferência, estratégias de autoscaling, otimização de custos, trade-offs entre latência e vazão, A/B testing, monitoramento, estratégias de cache, rate limiting e padrões de deploy)

Pergunta 11

O que o Flash Attention otimiza?

1. Padrões de acesso à memória para o cálculo de atenção
2. Arquitetura do modelo
3. Dados de treinamento
4. Tokenização

Pergunta 12

O que é paralelismo de tensores na inferência?

1. Divisão das matrizes de pesos entre GPUs
2. Execução de múltiplos modelos
3. Agrupamento de requisições
4. Cache de respostas

Pergunta 13

Quando usar autoscaling?

1. Quando o tráfego varia significativamente ao longo do tempo
2. Apenas para desenvolvimento
3. Nunca - capacidade fixa é melhor
4. Apenas para treinamento

Pergunta 14

Qual é uma estratégia chave de otimização de custos?

1. Usar modelos menores/quantizados para consultas simples
2. Sempre usar o maior modelo
3. Desabilitar cache
4. Rodar mais servidores

Pergunta 15

Qual é o trade-off de tamanhos de batch maiores?

1. Maior vazão, mas aumento da latência por requisição
2. Menor vazão e menor latência
3. Sem trade-off
4. Afeta apenas a memória

Pergunta 16

Para que serve o cache de respostas?

1. Consultas idênticas ou similares repetidas
2. Todas as consultas igualmente
3. Apenas consultas inéditas
4. Dados de treinamento

Pergunta 17

O que é rate limiting?

1. Limitar requisições por usuário/tempo para evitar sobrecarga
2. Limitar tamanho do modelo
3. Limitar tamanho da saída
4. Limitar épocas de treinamento

Pergunta 18

Qual métrica mede melhor a experiência do usuário?

1. Time to First Token (TTFT)
2. Vazão total
3. Utilização da GPU
4. Uso de memória

Pergunta 19

Qual o impacto típico de acurácia do INT8?

1. Mínimo (~1% de degradação)
2. Significativo (>10%)
3. Nenhum
4. Melhora a acurácia

Pergunta 20

Qual o benefício da inferência assíncrona?

1. Não bloqueante, permite processamento concorrente
2. Melhor acurácia
3. Código mais simples
4. Menor uso de memória

Pergunta 21

O que o Triton Inference Server suporta?

1. Múltiplos frameworks de modelo e ensemble de modelos
2. Apenas PyTorch
3. Apenas TensorFlow
4. Apenas ONNX

Pergunta 22

Quando usar respostas em streaming?

1. Saídas longas em que usuários se beneficiam ao ver resultados parciais
2. Apenas saídas curtas
3. Nunca - esperar pelo completo
4. Apenas para debugging

Pergunta 23

O que é model warming?

1. Executar inferência antes da produção para otimizar caches
2. Treinar com dados "quentes"
3. Gerenciamento de temperatura da GPU
4. Aumento gradual da taxa de aprendizado

Pergunta 24

O que "tokens por segundo" mede?

1. Velocidade/vazão de geração
2. Acurácia
3. Uso de memória
4. Tamanho do modelo

Pergunta 25

Por que usar ONNX para deploy?

1. Formato agnóstico a framework com amplo suporte em tempo de execução
2. Funciona apenas com PyTorch
3. Melhor treinamento
4. Modelos menores

Pergunta 26

O que é prefill vs decode na inferência de LLM?

1. Prefill processa o prompt (paralelo), decode gera tokens (sequencial)
2. Ambos são iguais
3. Prefill é treinamento, decode é inferência
4. Usado apenas no treinamento

Pergunta 27

O que limita a memória da GPU durante a inferência?

1. Tamanho do modelo e KV cache para contexto
2. Apenas tamanho do modelo
3. Apenas tamanho do batch
4. Gradientes de treinamento

Pergunta 28

Qual o benefício da destilação de modelo para deploy?

1. Modelo menor e mais rápido que imita um maior
2. Melhor acurácia
3. Modelo maior
4. Mais parâmetros

Pergunta 29

O que é um health check em deploy de LLM?

1. Endpoint para verificar se o serviço está funcionando corretamente
2. Teste de acurácia do modelo
3. Verificação de temperatura da GPU
4. Validação de treinamento

Pergunta 30

Qual métrica indica eficiência da GPU?

1. Porcentagem de utilização da GPU durante a inferência
2. Acurácia do modelo
3. Número de parâmetros
4. Tempo de treinamento

---

Nota de corte: 24/30 (80%)

← Capítulo 3Módulo 7 →