Pular para o conteúdo principal

Curso Completo de Large Language Models

Bem-vindo ao curso abrangente sobre Large Language Models (LLMs). Este programa intensivo de 12 semanas levará você dos conceitos fundamentais até implementações prontas para produção.

Visão Geral do Curso​

Large Language Models revolucionaram a inteligência artificial e o processamento de linguagem natural. Do GPT-4 ao Claude, de modelos open-source como o Llama a soluções corporativas especializadas, os LLMs estão transformando a forma como interagimos com a tecnologia.

Este curso oferece uma compreensão técnica aprofundada de:

  • 🧠 Como funcionam os LLMs - Arquitetura Transformer, mecanismos de atenção e treinamento
  • 🔧 Como usar LLMs - APIs, fine-tuning e estratégias de deploy
  • 🚀 Como construir com LLMs - Sistemas em produção, avaliação e otimização
  • 🔮 Para onde vão os LLMs - Arquiteturas emergentes e tendências futuras

Pré-requisitos​

Para aproveitar ao máximo este curso, você deve ter:

  • Proficiência em Python - Confortável com programação em Python
  • Conhecimento básico de ML - Entendimento de redes neurais, descida do gradiente
  • Noções de álgebra linear - Operações com matrizes, vetores, produtos escalares
  • Fundamentos de cálculo - Derivadas, regra da cadeia

Estrutura do Curso​

Parte 1: Fundamentos (Semanas 1-3)​

MóduloTópicoConceitos-chave
1Introdução aos LLMsO que são LLMs, História, Panorama atual
2Arquitetura TransformerAtenção, Self-attention, Codificação posicional
3Treinamento de LLMsPré-treinamento, Coleta de dados, Treinamento distribuído

Parte 2: Famílias de Modelos & Internos (Semanas 4-6)​

MóduloTópicoConceitos-chave
4Principais Famílias de LLMsGPT, Claude, Llama, Mistral
5Tokenização & EmbeddingsBPE, Janelas de contexto, Espaços de embedding
6Inferência & DeployOtimização, Quantização, Servir modelos

Parte 3: Customização & Alinhamento (Semanas 7-9)​

MóduloTópicoConceitos-chave
7Fundamentos de Fine-TuningFine-tuning completo, PEFT, Instruction tuning
8RLHF & AlinhamentoModelos de recompensa, Constitutional AI, Segurança
9APIs de LLM & IntegraçãoOpenAI, Anthropic, Construção de aplicações

Parte 4: Produção & Além (Semanas 10-12)​

MóduloTópicoConceitos-chave
10Avaliação & BenchmarksMMLU, HellaSwag, Red teaming
11Tópicos AvançadosMoE, Multimodal, Agentes
12Futuro dos LLMsLeis de escala, Novas arquiteturas, AGI

Avaliação​

  • Quizzes por módulo: 30 questões por módulo (12 módulos)
  • Exame final: 50 questões abrangentes
  • Total: 410 questões cobrindo todo o conteúdo do curso

Resultados de Aprendizagem​

Ao concluir este curso, você será capaz de:

  1. Explicar em profundidade a arquitetura Transformer e o mecanismo de atenção
  2. Comparar diferentes famílias de LLMs e suas escolhas de design
  3. Implementar pipelines de fine-tuning usando LoRA e outros métodos PEFT
  4. Fazer deploy de LLMs em produção com a devida otimização
  5. Avaliar o desempenho de modelos usando benchmarks reconhecidos pelo mercado
  6. Construir aplicações que aproveitam de forma eficaz as capacidades dos LLMs

Stack Técnico​

Ao longo deste curso, usaremos:

# Core libraries
transformers # Hugging Face Transformers
torch # PyTorch for deep learning
peft # Parameter-Efficient Fine-Tuning
accelerate # Distributed training
vllm # High-performance inference

# APIs
openai # OpenAI API
anthropic # Anthropic API

Começando​

Pronto para iniciar sua jornada em LLMs? Comece pelo Módulo 1 para entender o que são os Large Language Models e como eles evoluíram a partir de abordagens anteriores.