Quiz: Deploy em Produção
30 questões sobre exportação, otimização e construção de produtos.
Questão 1
Qual formato é utilizado para inferência em CPU com o llama.cpp?
A) ONNX
B) GGUF
C) PyTorch
D) TensorFlow
Mostrar Resposta
Resposta correta: B
GGUF é o formato padrão para modelos quantizados usados com o llama.cpp para inferência em CPU.
Questão 2
Para que o vLLM é otimizado?
A) Treinamento
B) Servir inferência de alta vazão
C) Mesclagem de modelos
D) Preparação de dados
Mostrar Resposta
Resposta correta: B
vLLM é otimizado para servir inferência de alta vazão utilizando PagedAttention.
Questão 3
O que deve ser feito com LoRA antes do deploy em produção?
A) Excluir
B) Mesclar ao modelo base
C) Manter sempre separado
D) Comprimir
Mostrar Resposta
Resposta correta: B
Para produção, mesclar o LoRA ao modelo base simplifica o deploy e elimina a sobrecarga dos adaptadores.
Questão 4
Qual quantização oferece o melhor equilíbrio entre velocidade e qualidade?
A) FP32
B) FP16
C) INT8
D) INT2
Mostrar Resposta
Resposta correta: C
A quantização INT8 normalmente oferece boa melhoria de velocidade com perda mínima de qualidade para produção.
Questão 5
O que é PagedAttention no vLLM?
A) Uma técnica de treinamento
B) Gerenciamento eficiente de memória do cache KV
C) Uma arquitetura de modelo
D) Um formato de dados
Mostrar Resposta
Resposta correta: B
PagedAttention gerencia de forma eficiente a memória do cache KV por meio de paginação, permitindo maior vazão.
(As questões 6-30 abordam tópicos adicionais de deploy)
🎉 Parabéns!
Você concluiu o curso de Fine-Tuning Completo de LLM!