Capítulo 3: Visão Geral dos Modelos de Linguagem de IA
🎯 Objetivos de Aprendizagem
Após concluir este capítulo, você será capaz de:
- Explicar como funcionam os grandes modelos de linguagem (LLMs) em alto nível
- Comparar os principais modelos de IA e seus pontos fortes exclusivos
- Identificar qual modelo é mais adequado para diferentes tarefas
- Compreender as principais limitações dos modelos de IA atuais
📚 Introdução
Para se tornar um engenheiro de prompts eficaz, é fundamental entender as ferramentas com as quais você trabalha. Neste capítulo, vamos explorar como funcionam os modelos de linguagem de IA e comparar os principais players do mercado.
Como Funcionam os LLMs (Simplificado)
Grandes Modelos de Linguagem são sistemas de IA treinados com enormes volumes de texto para compreender e gerar linguagem semelhante à humana.
O Conceito Básico
┌─────────────────────────────────────────────────────────────┐
│ HOW LLMs WORK │
├─────────────────────────────────────────────────────────────┤
│ │
│ INPUT (Your Prompt) │
│ │ │
│ ▼ │
│ ┌─────────────┐ │
│ │ TOKENIZATION │ → Break text into tokens │
│ └──────┬──────┘ │
│ │ │
│ ▼ │
│ ┌─────────────┐ │
│ │ EMBEDDING │ → Convert tokens to numbers │
│ └──────┬──────┘ │
│ │ │
│ ▼ │
│ ┌─────────────┐ │
│ │ TRANSFORMER │ → Process through neural network │
│ └──────┬──────┘ │
│ │ │
│ ▼ │
│ ┌─────────────┐ │
│ │ PREDICTION │ → Predict most likely next token │
│ └──────┬──────┘ │
│ │ │
│ ▼ │
│ OUTPUT (AI Response) │
│ │
└─────────────────────────────────────────────────────────────┘
Conceitos-Chave
| Conceito | Explicação | Por Que É Importante |
|---|---|---|
| Token | Unidade básica de texto (aprox. 4 caracteres) | Impacta preço e limites de contexto |
| Janela de Contexto | Comprimento máximo de entrada + saída | Define quanto de informação a IA pode considerar |
| Parâmetros | Pesos aprendidos do modelo (bilhões) | Mais parâmetros geralmente = mais capacidade |
| Temperatura | Aleatoriedade na saída | Maior = mais criativo, Menor = mais consistente |
| Dados de Treinamento | Texto do qual o modelo aprendeu | Impacta conhecimento e vieses |
Entendendo Tokens
"Hello, how are you?"
Tokenized: ["Hello", ",", " how", " are", " you", "?"]
= 6 tokens
Token count varies by model:
• GPT: ~4 characters per token
• Claude: Similar to GPT
• Some models use different tokenization
Why This Matters
Entender tokens ajuda você a:
- Estimar custos
- Ficar dentro dos limites de contexto
- Escrever prompts mais eficientes
Principais Modelos de IA Comparados
Vamos explorar os principais players no universo dos LLMs:
Modelos da OpenAI (Família GPT)
GPT-4 / GPT-4 Turbo
| Característica | Detalhes |
|---|---|
| Empresa | OpenAI |
| Janela de Contexto | 8K-128K tokens |
| Pontos Fortes | Raciocínio, programação, conhecimento geral |
| Melhor Para | Tarefas complexas, análise, escrita criativa |
| Acesso | ChatGPT Plus, API |
Exemplo de Prompt:
You are an expert Python developer. Review this code
and provide specific improvements with explanations:
[code here]
GPT-3.5 Turbo
| Característica | Detalhes |
|---|---|
| Janela de Contexto | 4K-16K tokens |
| Pontos Fortes | Velocidade, custo-benefício |
| Melhor Para | Tarefas simples, aplicações de alto volume |
| Custo | ~20x mais barato que o GPT-4 |
Modelos da Anthropic (Família Claude)
Claude 3 (Opus, Sonnet, Haiku)
| Variante | Ponto Forte | Caso de Uso |
|---|---|---|
| Opus | Mais capaz | Análise complexa, pesquisa |
| Sonnet | Equilibrado | Uso geral, programação |
| Haiku | Mais rápido, mais barato | Tarefas rápidas, alto volume |
Diferenciais do Claude:
- IA Constitucional (segurança embutida)
- Excelente em seguir instruções complexas
- Forte desempenho com prompts estruturados em XML
- Janela de contexto muito longa (200K tokens)
Exemplo de Prompt:
<context>
You are a helpful assistant analyzing customer feedback.
</context>
<task>
Categorize the following review and extract key themes:
</task>
<review>
[customer review text]
</review>
<output_format>
- Category: [positive/negative/neutral]
- Key themes: [bulleted list]
- Summary: [one sentence]
</output_format>
Modelos da Meta (Família Llama)
Llama 2 & Llama 3
| Característica | Detalhes |
|---|---|
| Empresa | Meta |
| Licença | Open source (em sua maioria) |
| Tamanhos | 7B, 13B, 70B parâmetros |
| Pontos Fortes | Customizável, auto-hospedável, gratuito |
| Limitações | Menos capaz que GPT-4/Claude 3 |
Melhor Para:
- Organizações que precisam de privacidade de dados
- Fine-tuning personalizado
- Aplicações sensíveis a custo
- Pesquisa e experimentação
Outros Modelos Relevantes
| Modelo | Empresa | Diferencial |
|---|---|---|
| Gemini | Multimodal, integrado aos serviços Google | |
| Mistral | Mistral AI | Alternativa open-source de alta qualidade |
| Command | Cohere | Foco corporativo, otimizado para RAG |
| Grok | xAI | Acesso a informações em tempo real |
Matriz de Comparação de Modelos
┌──────────────────────────────────────────────────────────────┐
│ MODEL COMPARISON │
├─────────────┬───────────┬──────────┬─────────┬──────────────┤
│ │ GPT-4 │ Claude 3 │ Llama 3 │ Gemini Pro │
├─────────────┼───────────┼──────────┼─────────┼──────────────┤
│ Reasoning │ ★★★★★ │ ★★★★★ │ ★★★★ │ ★★★★★ │
│ Coding │ ★★★★★ │ ★★★★★ │ ★★★★ │ ★★★★ │
│ Creative │ ★★★★★ │ ★★★★ │ ★★★ │ ★★★★ │
│ Context │ ★★★★ │ ★★★★★ │ ★★★ │ ★★★★ │
│ Speed │ ★★★ │ ★★★★ │ ★★★★★ │ ★★★★ │
│ Cost │ ★★ │ ★★★ │ ★★★★★ │ ★★★ │
│ Privacy │ ★★★ │ ★★★ │ ★★★★★ │ ★★★ │
└─────────────┴───────────┴──────────┴─────────┴──────────────┘
Compreendendo as Limitações
Todos os modelos de IA têm limitações que afetam a forma como você deve criar seus prompts:
1. Knowledge Cutoff
Os modelos são treinados com dados até uma determinada data:
| Modelo | Data Aproximada |
|---|---|
| GPT-4 | Abril de 2023 (varia) |
| Claude 3 | Início de 2024 |
| Llama 3 | Dezembro de 2023 |
Implication
Sempre verifique informações sensíveis ao tempo. O modelo não conhece eventos recentes.
2. Alucinações
Modelos de IA podem gerar informações plausíveis, porém incorretas:
❌ Prompt: "What is the population of Mars?"
❌ Bad Output: "The population of Mars is approximately
150,000 as of the latest census data."
This is completely fabricated but sounds confident!
Estratégias de Prevenção:
- Peça fontes
- Verifique fatos críticos
- Use prompts que incentivem o reconhecimento de incerteza
3. Limites da Janela de Contexto
Cada modelo tem um limite máximo de texto que pode processar:
| Modelo | Janela de Contexto | Significado Prático |
|---|---|---|
| GPT-3.5 | 4K-16K tokens | ~6-24 páginas |
| GPT-4 | 8K-128K tokens | ~12-192 páginas |
| Claude 3 | 200K tokens | ~300 páginas |
4. Limitações de Raciocínio
Apesar de impressionantes, os raciocínios das IAs têm lacunas:
- Dificuldade com matemática complexa de múltiplos passos
- Podem ser enganados por enigmas lógicos
- Podem não entender contexto implícito
- Podem ser inconsistentes em perguntas semelhantes
5. Viés e Segurança
Os modelos podem refletir vieses presentes nos dados de treinamento:
- Vieses culturais
- Estereótipos
- Potencial para conteúdo prejudicial
Escolhendo o Modelo Certo
Framework de Decisão
┌─────────────────────────────────────────────────────────────┐
│ WHICH MODEL SHOULD I USE? │
└─────────────────────────────────────────────────────────────┘
Is the task complex (analysis, coding, reasoning)?
├─ YES → Is cost a major concern?
│ ├─ YES → Claude 3 Sonnet or GPT-4 Turbo
│ └─ NO → GPT-4 or Claude 3 Opus
│
└─ NO → Is speed critical?
├─ YES → GPT-3.5 Turbo or Claude 3 Haiku
└─ NO → Do you need privacy/local hosting?
├─ YES → Llama 3 or Mistral
└─ NO → GPT-3.5 or Claude 3 Sonnet
Recomendações por Tarefa
| Tarefa | Modelo Recomendado | Motivo |
|---|---|---|
| Programação complexa | GPT-4, Claude 3 Opus | Melhor raciocínio |
| Respostas rápidas | GPT-3.5, Haiku | Velocidade + custo |
| Documentos longos | Claude 3 | 200K de contexto |
| Chatbots para clientes | GPT-3.5, Sonnet | Equilíbrio entre qualidade/custo |
| Dados privados | Llama 3 | Opção auto-hospedada |
| Escrita criativa | GPT-4, Claude 3 | Saídas mais sofisticadas |
Exercício Prático
Exercício: Testando Modelos
Teste o mesmo prompt em diferentes modelos e compare as respostas:
Prompt de Teste:
Explain quantum computing to a 10-year-old in 3 sentences,
then explain it to a physics PhD student in 3 sentences.
Compare:
- Qualidade da simplificação
- Precisão técnica
- Ajuste de tom
- Utilidade geral
Principais Aprendizados
Summary
- LLMs predizem texto token por token com base nos dados de treinamento
- Principais modelos incluem GPT-4, Claude 3, Llama 3 e Gemini
- Cada modelo tem pontos fortes: GPT-4 (raciocínio), Claude (contexto), Llama (privacidade)
- Limitações são reais: alucinações, knowledge cutoffs, lacunas de raciocínio
- Escolha conforme a tarefa: Considere complexidade, custo, velocidade e necessidades de privacidade
O Que Vem a Seguir?
Parabéns! Você concluiu o Módulo 1. Agora é hora de testar seus conhecimentos com o Quiz do Módulo 1.
← Anterior: Por Que Engenharia de Prompt Importa | Faça o Quiz →