Capítulo 3: O Panorama Atual dos LLMs

Introdução

O panorama dos LLMs evoluiu rapidamente desde 2020, com grandes empresas de tecnologia, laboratórios de pesquisa e comunidades open-source contribuindo para um ecossistema cada vez mais diverso. Este capítulo apresenta os principais atores e suas ofertas.

Principais Provedores de LLM

OpenAI

A empresa que impulsionou a revolução moderna dos LLMs.

Principais Modelos:

Modelo	Lançamento	Contexto	Capacidades
GPT-3.5	2022	4K/16K	Chat, código, raciocínio
GPT-4	2023	8K/32K/128K	Multimodal, raciocínio avançado
GPT-4o	2024	128K	Otimizado, mais rápido

Pontos Fortes:

• Capacidades líderes de mercado
• Ecossistema de API extenso
• Melhorias contínuas

Considerações:

• Pesos proprietários/fechados
• Custos de uso
• Dependência de API

# Exemplo de uso da API OpenAI
from openai import OpenAI

client = OpenAI()
response = client.chat.completions.create(
    model="gpt-4",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Explain transformers in one sentence."}
    ]
)
print(response.choices[0].message.content)

Anthropic

Fundada por ex-pesquisadores da OpenAI, com foco em segurança de IA.

Principais Modelos:

Modelo	Lançamento	Contexto	Capacidades
Claude 2	2023	100K	Contexto longo, segurança
Claude 3 Haiku	2024	200K	Rápido, eficiente
Claude 3 Sonnet	2024	200K	Equilibrado
Claude 3 Opus	2024	200K	Mais capaz

Diferenciais:

• Abordagem de IA Constitucional
• Alinhamento excepcional de segurança
• Janelas de contexto muito longas

# Exemplo de uso da API Anthropic
import anthropic

client = anthropic.Anthropic()
message = client.messages.create(
    model="claude-3-sonnet-20240229",
    max_tokens=1024,
    messages=[
        {"role": "user", "content": "What is Constitutional AI?"}
    ]
)
print(message.content)

Google DeepMind

Unindo a expertise do Google Brain e DeepMind.

Principais Modelos:

Modelo	Lançamento	Contexto	Capacidades
PaLM 2	2023	8K-32K	Multilíngue, raciocínio
Gemini Pro	2023	32K	Multimodal
Gemini Ultra	2024	32K+	Capacidades de fronteira
Gemini 1.5	2024	1M+	Contexto extremo

Pontos Fortes:

• Recursos computacionais massivos
• Multimodal desde a concepção
• Integração com serviços Google

Meta AI

Líder no desenvolvimento de LLMs open-source.

Principais Modelos:

Modelo	Lançamento	Parâmetros	Licença
Llama	2023	7B-65B	Apenas pesquisa
Llama 2	2023	7B-70B	Comercial
Llama 3	2024	8B-70B+	Comercial
Code Llama	2023	7B-34B	Comercial

Impacto:

• Democratização do acesso a LLMs
• Viabilizou o ecossistema de fine-tuning
• Competitivo com modelos fechados

Ecossistema Open-Source

O Movimento Open-Source

LLMs open-source evoluíram de curiosidades acadêmicas para alternativas prontas para produção:

2020: GPT-2 lançado (1.5B)
2022: BLOOM lançado (176B) - Primeiro modelo aberto com mais de 100B
2023: Vazamento do Llama → explosão da comunidade
2023: Mistral 7B iguala GPT-3.5 em alguns benchmarks
2024: Modelos abertos se aproximam do GPT-4 em muitas tarefas

Principais Modelos Abertos

Mistral AI:

# Tamanhos dos modelos Mistral
mistral_models = {
    "Mistral-7B": {
        "params": "7B",
        "context": 8192,
        "specialty": "Uso geral, eficiente"
    },
    "Mixtral-8x7B": {
        "params": "46.7B (12.9B ativos)",
        "context": 32768,
        "specialty": "Mixture of Experts"
    },
    "Mistral Large": {
        "params": "Desconhecido",
        "context": 32768,
        "specialty": "Modelo de fronteira"
    }
}

Outros Modelos Abertos de Destaque:

Modelo	Organização	Parâmetros	Especialidade
Falcon	TII	7B-180B	Multilíngue
MPT	MosaicML	7B-30B	Amigável para uso comercial
Qwen	Alibaba	7B-72B	Multilíngue (Chinês)
Yi	01.AI	6B-34B	Arquitetura eficiente
Phi	Microsoft	1.3B-3B	Pequeno, mas capaz

Hugging Face Hub

O repositório central para modelos abertos:

from transformers import AutoModelForCausalLM, AutoTokenizer

# Carregue qualquer modelo do Hub
model_name = "mistralai/Mistral-7B-Instruct-v0.2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# Gerar texto
inputs = tokenizer("Explain LLMs:", return_tensors="pt")
outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0]))

Aberto vs. Fechado: Trade-offs

Modelos Fechados/Proprietários

Vantagens:

• ✅ Maior capacidade (geralmente)
• ✅ Acesso simples via API
• ✅ Sem necessidade de infraestrutura
• ✅ Atualizações regulares

Desvantagens:

• ❌ Sem controle de fine-tuning
• ❌ Custos de uso
• ❌ Questões de privacidade de dados
• ❌ Dependência do fornecedor

Modelos com Pesos Abertos

Vantagens:

• ✅ Controle total
• ✅ Deploy local/privado
• ✅ Fine-tuning personalizado
• ✅ Sem custos por token

Desvantagens:

• ❌ Requer infraestrutura
• ❌ Geralmente menor capacidade
• ❌ Atualizações autogerenciadas
• ❌ Exige expertise técnica

Estrutura de Decisão

def choose_model_type(requirements):
    if requirements.get("max_capability"):
        return "Fechado (GPT-4, Claude 3 Opus)"
    
    if requirements.get("data_privacy") or requirements.get("custom_training"):
        return "Aberto (Llama, Mistral)"
    
    if requirements.get("low_latency") and requirements.get("high_volume"):
        return "Aberto (self-hosted)"
    
    if requirements.get("quick_prototype"):
        return "Fechado (qualquer API principal)"
    
    return "Avaliar ambas as opções"

Modelos Especializados

Modelos Focados em Código

Modelo	Fonte	Capacidades
Code Llama	Meta	Autocompletar código, infilling
StarCoder	BigCode	Geração de código
DeepSeek Coder	DeepSeek	Programação multi-idiomas
Copilot	GitHub/OpenAI	Integração com IDE

Modelos Específicos de Domínio

Domínio	Modelos de Exemplo
Médico	Med-PaLM, BioMistral
Jurídico	Derivados do Legal-BERT
Financeiro	BloombergGPT, FinGPT
Científico	Galactica, SciBERT

Dinâmica de Mercado

Tendências de Preço

# Preços aproximados (por 1M tokens, em 2024)
pricing = {
    "GPT-4 (8K)": {"input": "$30", "output": "$60"},
    "GPT-4 Turbo": {"input": "$10", "output": "$30"},
    "GPT-3.5 Turbo": {"input": "$0.50", "output": "$1.50"},
    "Claude 3 Opus": {"input": "$15", "output": "$75"},
    "Claude 3 Sonnet": {"input": "$3", "output": "$15"},
    "Claude 3 Haiku": {"input": "$0.25", "output": "$1.25"},
    "Mistral Large": {"input": "$8", "output": "$24"},
    "Open Models": "Apenas custos de infraestrutura",
}

Impacto da Competição

O cenário competitivo impulsionou:

1. Melhorias rápidas de capacidade
2. Queda de preços (GPT-4 Turbo 3x mais barato que GPT-4)
3. Janelas de contexto maiores (4K → 128K → 1M+)
4. Melhores alternativas open-source

Como Escolher o Modelo Certo

Critérios de Avaliação

criteria = {
    "capability": "Quão bem ele executa suas tarefas?",
    "cost": "Preço por token ou custos de infraestrutura",
    "latency": "Requisitos de tempo de resposta",
    "context": "Quanto texto você precisa processar?",
    "privacy": "Os dados podem sair do seu ambiente?",
    "customization": "Você precisa de fine-tuning?",
    "reliability": "Requisitos de disponibilidade e consistência",
}

Benchmarking do Seu Caso de Uso

Sempre teste no SEU caso de uso específico:

def evaluate_model(model, test_cases):
    results = []
    for case in test_cases:
        response = model.generate(case["prompt"])
        score = evaluate_response(response, case["expected"])
        results.append({
            "case": case["name"],
            "score": score,
            "latency": response.latency,
            "tokens": response.token_count
        })
    return aggregate_results(results)

Tendências Futuras

O Que Observar

1. Escalonamento contínuo – Modelos cada vez maiores e mais capazes
2. Melhorias de eficiência – Modelos menores igualando os maiores
3. Multimodalidade – Texto, imagens, áudio e vídeo em um único modelo
4. Especialização – Proliferação de modelos específicos de domínio
5. Paridade open-source – Redução da diferença com modelos fechados

Principais Lições

Summary

1. OpenAI, Anthropic, Google, Meta são os principais players
2. Modelos open-source estão cada vez mais competitivos
3. Existem trade-offs entre capacidade, controle e custo
4. Modelos especializados atendem domínios específicos
5. O cenário evolui rapidamente – mantenha-se atualizado

Olhando para Frente

Agora que entendemos o panorama dos LLMs, estamos prontos para mergulhar mais fundo na arquitetura que impulsiona esses modelos. O Módulo 2 irá explorar a arquitetura Transformer em detalhes, começando pelo mecanismo de atenção.

---

← Capítulo 2: História

Quiz do Módulo 1 →