LLM Fine-Tuning Completo
Construa Seu Próprio GPT Personalizado
Código do Curso: FINETUNE-401
Duração: 10 Semanas
Nível: Avançado
Plataforma: inskillflow Academy
Visão Geral do Curso
Bem-vindo ao curso mais completo sobre Fine-Tuning de LLMs! Este programa avançado vai levá-lo desde a compreensão dos fundamentos do fine-tuning até o deploy de modelos de linguagem personalizados prontos para produção.
Seja você um Engenheiro de ML buscando se especializar em LLMs, um pesquisador explorando técnicas de ponta, um desenvolvedor construindo aplicações com IA, ou um profissional de IA querendo criar modelos específicos de domínio, este curso oferece o conhecimento completo e a experiência prática que você precisa.
Objetivos de Aprendizagem
Ao final deste curso, você será capaz de:
- Entender quando fazer fine-tuning vs usar RAG ou prompting
- Dominar técnicas de Fine-Tuning Eficiente em Parâmetros (PEFT)
- Implementar LoRA e QLoRA para treinamento eficiente em memória
- Preparar conjuntos de dados de treinamento de alta qualidade
- Treinar modelos usando Hugging Face Transformers e TRL
- Aplicar técnicas avançadas como DPO e ORPO
- Avaliar e mesclar modelos fine-tunados
- Fazer deploy de modelos fine-tunados em produção
Pré-requisitos
Este é um curso avançado. Você deve ter:
- Sólidos conhecimentos em programação Python
- Familiaridade com PyTorch ou TensorFlow
- Entendimento básico da arquitetura transformer
- Experiência com as bibliotecas Hugging Face (útil, mas não obrigatório)
- Acesso a recursos de GPU (o Google Colab gratuito atende muitos exercícios)
Metodologia de Ensino
80% Prática - 20% Teoria
Cada módulo combina:
- Explicações teóricas claras com fundamentos matemáticos
- Exemplos de código prontos para produção
- Notebooks compatíveis com Google Colab
- Quizzes interativos (30 questões por módulo)
- Estudos de caso reais e melhores práticas
Estrutura do Curso - 10 Módulos
Módulo 1: Introdução ao Fine-Tuning
Duração: 1 Semana
Conteúdo:
- O que é Fine-Tuning?
- Quando Fazer Fine-Tuning vs Usar RAG
- Panorama do Fine-Tuning
Objetivos:
- Entender conceitos de transfer learning e fine-tuning
- Tomar decisões informadas sobre quando fazer fine-tuning
- Visão geral dos métodos e ferramentas disponíveis
Módulo 2: Fine-Tuning Completo
Duração: 1 Semana
Conteúdo:
- Abordagem Tradicional de Fine-Tuning
- Requisitos Computacionais
- Esquecimento Catastrófico
Objetivos:
- Entender atualizações completas de parâmetros
- Calcular requisitos de memória de GPU
- Aprender sobre esquecimento e estratégias de mitigação
Módulo 3: Fine-Tuning Eficiente em Parâmetros (PEFT)
Duração: 1 Semana
Conteúdo:
- Introdução ao PEFT
- PEFT vs Fine-Tuning Completo
- Visão Geral dos Métodos PEFT
Objetivos:
- Entender a motivação por trás do PEFT
- Comparar diferentes métodos PEFT
- Saber quando usar cada abordagem
Módulo 4: LoRA em Detalhes
Duração: 1 Semana
Conteúdo:
- Entendendo LoRA
- Matemática do LoRA
- Implementando LoRA com a biblioteca PEFT
Objetivos:
- Dominar conceitos de Low-Rank Adaptation
- Entender a matemática por trás do LoRA
- Implementar treinamento com LoRA usando Hugging Face
Módulo 5: QLoRA e Quantização
Duração: 1 Semana
Conteúdo:
- O que é QLoRA?
- Quantização de 4 bits (bitsandbytes)
- Treinamento Eficiente em Memória
Objetivos:
- Entender quantização para treinamento
- Usar bitsandbytes para carregamento em 4 bits
- Otimizar o uso de memória para modelos grandes
Módulo 6: Preparação de Dados
Duração: 1 Semana
Conteúdo:
- Formatos de Dataset (Alpaca, ShareGPT)
- Qualidade e Curadoria de Dados
- Geração de Dados Sintéticos
Objetivos:
- Formatar dados para instruction tuning
- Aplicar estratégias de filtragem de qualidade
- Gerar dados sintéticos de treinamento
Módulo 7: Treinamento com Hugging Face
Duração: 1 Semana
Conteúdo:
- Biblioteca Transformers
- TRL (Transformer Reinforcement Learning)
- Argumentos de Treinamento e Otimização
Objetivos:
- Usar SFTTrainer para fine-tuning
- Configurar hiperparâmetros de treinamento
- Implementar logging e monitoramento
Módulo 8: Técnicas Avançadas de Fine-Tuning
Duração: 1 Semana
Conteúdo:
- Instruction Tuning
- DPO (Direct Preference Optimization)
- ORPO e Outros Métodos
Objetivos:
- Implementar pipelines de instruction tuning
- Treinar modelos com otimização por preferência
- Comparar DPO, ORPO e RLHF
Módulo 9: Avaliação e Mesclagem
Duração: 1 Semana
Conteúdo:
- Avaliando Modelos Fine-Tunados
- Técnicas de Mesclagem de Modelos
- Estudos de Ablation
Objetivos:
- Avaliar a qualidade dos modelos de forma abrangente
- Mesclar múltiplos adapters e modelos
- Projetar e executar experimentos de ablation
Módulo 10: Deploy em Produção
Duração: 1 Semana
Conteúdo:
- Exportação e Servir Modelos
- Otimização para Inferência
- Construindo Produtos GPT Personalizados
Objetivos:
- Exportar modelos para deploy
- Otimizar performance de inferência
- Construir aplicações de IA prontas para produção
Progresso do Curso
| Status | Módulo | Link |
|---|---|---|
| ✅ Completo | Módulo 1 - Introdução ao Fine-Tuning | Começar |
| ✅ Completo | Módulo 2 - Fine-Tuning Completo | Começar |
| ✅ Completo | Módulo 3 - Fine-Tuning Eficiente em Parâmetros | Começar |
| ✅ Completo | Módulo 4 - LoRA em Detalhes | Começar |
| ✅ Completo | Módulo 5 - QLoRA e Quantização | Começar |
| ✅ Completo | Módulo 6 - Preparação de Dados | Começar |
| ✅ Completo | Módulo 7 - Treinamento com Hugging Face | Começar |
| ✅ Completo | Módulo 8 - Técnicas Avançadas de Fine-Tuning | Começar |
| ✅ Completo | Módulo 9 - Avaliação e Mesclagem | Começar |
| ✅ Completo | Módulo 10 - Deploy em Produção | Começar |
🎉 Curso Completo!
Todos os módulos estão prontos com conteúdo completo e quizzes interativos (30 questões por módulo).
📖 Recursos Adicionais
| Recurso | Descrição |
|---|---|
| 📚 Glossário | 150+ termos de fine-tuning com definições |
| 🔗 Recursos | Notebooks, datasets, artigos e ferramentas |
| 🎯 Prova Final | 50 questões abrangentes |
Comece Agora!
Explore os módulos na barra lateral e inicie sua jornada para dominar o Fine-Tuning de LLMs!
Boa sorte na sua jornada de aprendizado!
Última atualização: dezembro de 2024
📊 Estatísticas do Curso
| Item | Quantidade |
|---|---|
| Módulos | 10 |
| Capítulos | 30+ |
| Questões de Quiz | 300 |
| Horas Estimadas de Estudo | 50+ |