Pular para o conteúdo principal

Módulo 5: Infraestrutura de Treinamento

🎯 Objetivos de Aprendizagem​

  • Gerenciar recursos de GPU/TPU de forma eficiente para treinamento de ML
  • Implementar estratégias de treinamento distribuído (paralelismo de dados, paralelismo de modelo)
  • Utilizar plataformas de treinamento em nuvem (AWS SageMaker, GCP Vertex AI, Azure ML)

📚 Conteúdo do Módulo​

Capítulo 1: Gerenciamento de GPU/TPU​

Seleção de hardware, otimização de memória de GPU, treinamento com múltiplas GPUs, gestão de custos.

Capítulo 2: Treinamento Distribuído​

Paralelismo de dados, paralelismo de modelo, Horovod, PyTorch DDP, DeepSpeed.

Capítulo 3: Treinamento em Nuvem (AWS, GCP, Azure)​

SageMaker, Vertex AI, Azure ML, instâncias spot, estratégias de otimização de custos.

🚀 Vamos Começar!​

Comece pelo Capítulo 1: Gerenciamento de GPU/TPU.