Exame Final: Modelos de Linguagem de Grande Escala Completo

Este exame abrangente cobre todos os 12 módulos. Você precisa acertar 40 de 50 (80%) para ser aprovado.

Estimativa de Tempo: 60-90 minutos

---

Seção A: Fundamentos (Questões 1-15)

Questão 1

O que diferencia um Modelo de Linguagem de Grande Escala dos modelos anteriores?

1. Bilhões de parâmetros e capacidades emergentes devido à escala
2. Linguagem de programação diferente
3. Aprendizado em tempo real
4. Tamanho menor

Questão 2

Qual arquitetura os LLMs modernos utilizam?

1. RNN
2. LSTM
3. Transformer
4. CNN

Questão 3

Qual é a fórmula da atenção?

1. softmax(QK^T / √d_k) × V
2. Q + K + V
3. Q × K × V
4. softmax(Q) × softmax(K)

Questão 4

Por que escalar por √d_k na atenção?

1. Evitar que produtos escalares grandes levem o softmax a extremos
2. Acelerar o cálculo
3. Reduzir memória
4. Melhorar a precisão

Questão 5

O que a atenção multi-cabeça possibilita?

1. Atender a diferentes subespaços de representação em paralelo
2. Treinamento mais rápido
3. Modelo menor
4. Menos memória

Questão 6

Por que Transformers precisam de codificação posicional?

1. Self-attention é invariante à ordem sem informação de posição
2. Reduzir o cálculo
3. Melhorar a precisão
4. Permitir o treinamento

Questão 7

Para que serve a atenção causal?

1. Evitar atenção a posições futuras em modelos autoregressivos
2. Encontrar causas
3. Compreensão bidirecional
4. Acelerar a inferência

Questão 8

Qual é o objetivo de pré-treinamento do GPT?

1. Previsão do próximo token
2. Modelagem de linguagem mascarada
3. Classificação de sentenças
4. Tradução

Questão 9

Qual é a razão ótima de tokens por parâmetro segundo Chinchilla?

1. ~20 tokens por parâmetro
2. 1 token por parâmetro
3. 100 tokens por parâmetro
4. 0,1 tokens por parâmetro

Questão 10

O que é ZeRO-3?

1. Particionamento de estados do otimizador, gradientes E parâmetros
2. Taxa de aprendizado zero
3. Gradiente zero
4. Três GPUs

Questão 11

Qual empresa desenvolveu o Claude?

1. OpenAI
2. Anthropic
3. Google
4. Meta

Questão 12

O que é AI Constitucional?

1. Treinamento com princípios em vez de rotulação caso a caso
2. Regulamentações governamentais
3. AI jurídica
4. Dataset de direito constitucional

Questão 13

O que é tokenização BPE?

1. Junção iterativa dos pares de caracteres mais frequentes
2. Codificação de processamento de bytes
3. Divisão em parágrafos
4. Processamento binário

Questão 14

O que é RoPE?

1. Rotary Position Embedding - codificação de posição via rotação
2. Codificação de posição aleatória
3. Operação recursiva
4. Taxa de processamento

Questão 15

O que a dimensão do embedding determina?

1. Tamanho do vetor que representa cada token
2. Número de tokens
3. Tamanho do vocabulário
4. Comprimento da sequência

---

Seção B: Treinamento & Otimização (Questões 16-25)

Questão 16

O que é KV cache?

1. Armazenamento de pares chave-valor computados para evitar recomputação
2. Banco de dados chave-valor
3. Cache apenas para chaves
4. Cache de treinamento

Questão 17

Qual redução de memória o INT4 proporciona?

1. ~87,5% (para 12,5% do FP32)
2. 50%
3. 25%
4. 75%

Questão 18

Qual é a principal inovação do vLLM?

1. PagedAttention para gerenciamento eficiente de memória
2. Melhor tokenização
3. Treinamento aprimorado
4. Nova arquitetura

Questão 19

O que o LoRA adiciona aos pesos existentes?

1. Matrizes de baixo rank (W + BA)
2. Novos pesos completos
3. Apenas termos de viés
4. Camadas de normalização

Questão 20

O que é QLoRA?

1. LoRA com modelo base quantizado
2. Pesos LoRA quantizados
3. LoRA rápido
4. LoRA de qualidade

Questão 21

O que é RLHF?

1. Reinforcement Learning from Human Feedback
2. Random Learning Human Feedback
3. Aprendizado recursivo
4. Aprendizado em tempo real

Questão 22

O que o modelo de recompensa prediz?

1. Qual resposta os humanos prefeririam
2. Probabilidades dos tokens
3. Loss de treinamento
4. Precisão do modelo

Questão 23

O que é DPO?

1. Direct Preference Optimization - alternativa ao RLHF
2. Data Processing Optimization
3. Distribution Policy Optimization
4. Dynamic Parameter Optimization

Questão 24

O que é esquecimento catastrófico?

1. O modelo perde conhecimento pré-treinado durante o fine-tuning
2. Estouro de memória
3. Esquecimento de checkpoints
4. Perda de dados

Questão 25

Por que usar acumulação de gradiente?

1. Simular batch sizes maiores com memória limitada
2. Acelerar o treinamento
3. Melhorar a precisão
4. Reduzir overfitting

---

Seção C: APIs & Aplicações (Questões 26-35)

Questão 26

O que produz temperature=0?

1. Saída mais determinística/preditiva
2. Saída mais aleatória
3. Sem saída
4. Erro

Questão 27

O que é function calling?

1. LLM solicitando execução de ferramenta externa
2. Chamada de funções Python
3. Depuração de API
4. Execução de código

Questão 28

O que é RAG?

1. Retrieval-Augmented Generation
2. Random Answer Generation
3. Recursive API Grouping
4. Response Accuracy Grading

Questão 29

O que o MMLU mede?

1. Conhecimento em 57 disciplinas acadêmicas
2. Geração de código
3. Qualidade de tradução
4. Compreensão de imagens

Questão 30

O que é red teaming?

1. Testes adversariais para encontrar vulnerabilidades
2. Dinâmica de equipe
3. Teste de desempenho
4. Teste por cores

Questão 31

O que é HumanEval?

1. Benchmark de geração de código
2. Coleta de preferências humanas
3. Teste de qualidade de escrita
4. Teste de chatbot

Questão 32

O que é contaminação de dados?

1. Treinamento em dados de testes de benchmark
2. Dados corrompidos
3. Vazamento de privacidade
4. Ruído nos dados

Questão 33

O que é jailbreaking?

1. Burlar medidas de segurança com prompts engenhosos
2. Fuga de prisões
3. Desbloqueio dos pesos do modelo
4. Remover limites

Questão 34

Como lidar com rate limits?

1. Exponential backoff com novas tentativas
2. Ignorar e continuar
3. Trocar a chave da API
4. Reiniciar a aplicação

Questão 35

Para que serve o streaming?

1. Mostrar resultados parciais aos usuários imediatamente
2. Reduzir custos
3. Melhorar a precisão
4. Economizar memória

---

Seção D: Tópicos Avançados (Questões 36-50)

Questão 36

O que é MoE?

1. Mixture of Experts - arquitetura esparsa com roteador
2. Multiple Output Encoding
3. Model of Everything
4. Method of Extraction

Questão 37

No Mixtral, quantos experts estão ativos por token?

1. 2 de 8
2. Todos os 8
3. 1
4. 4

Questão 38

O que é GPT-4V?

1. GPT-4 com capacidades de visão
2. Versão do GPT-4
3. Modelo de vídeo
4. Modelo de voz

Questão 39

O que é ReAct?

1. Padrão de Raciocínio + Ação para agentes
2. Framework React.js
3. Teste de reação
4. Ações em tempo real

Questão 40

O que é um agente LLM?

1. LLM que pode planejar, usar ferramentas e executar ações
2. Bot de atendimento ao cliente
3. Wrapper de API
4. Assistente de treinamento

Questão 41

O que é Mamba?

1. Selective State Space Model com complexidade linear
2. Nova variante de Transformer
3. Framework de treinamento
4. Dataset

Questão 42

Qual a complexidade da atenção padrão?

1. O(n²) no comprimento da sequência
2. O(n)
3. O(log n)
4. O(1)

Questão 43

O que é AGI?

1. Artificial General Intelligence
2. Advanced Generated Intelligence
3. Automated Global Intelligence
4. Artificial Gradient Intelligence

Questão 44

Com o que os LLMs atuais têm dificuldade?

1. Precisão factual confiável e raciocínio complexo
2. Geração de texto
3. Seguir instruções
4. Tarefas básicas

Questão 45

O que é speculative decoding?

1. Modelo pequeno rascunha, modelo grande verifica
2. Decodificação aleatória
3. Decodificação paralela
4. Execução especulativa

Questão 46

O que é continuous batching?

1. Adicionar/remover requisições dinamicamente do batch
2. Tamanho de batch fixo
3. Treinamento contínuo
4. Batch normalization

Questão 47

O que é alignment tax?

1. Possível redução de utilidade devido a medidas de segurança
2. Imposto governamental
3. Custo computacional
4. Preço da API

Questão 48

O que é perplexidade?

1. Exponencial da média do cross-entropy loss (quanto menor, melhor)
2. Confusão do modelo
3. Métrica de complexidade
4. Métrica de treinamento

Questão 49

Para que serve a similaridade cosseno?

1. Medição de similaridade semântica entre embeddings
2. Cálculo de ângulo
3. Loss de treinamento
4. Peso de atenção

Questão 50

Qual é o futuro provável das arquiteturas de LLM?

1. Híbridas combinando atenção e camadas lineares
2. Retorno puro ao RNN
3. Sem mudanças
4. Abandono das redes neurais

---

Exame Concluído! 🎓

Nota de Aprovação: 40/50 (80%)

Parabéns por concluir o curso Modelos de Linguagem de Grande Escala Completo!

← GlossárioRecursos →