Módulo 5: Infraestructura de Entrenamiento
🎯 Objetivos de aprendizaje
- Gestionar recursos GPU/TPU de manera efectiva para el entrenamiento de ML
- Implementar estrategias de entrenamiento distribuido (paralelismo de datos, paralelismo de modelos)
- Utilizar plataformas de entrenamiento en la nube (AWS SageMaker, GCP Vertex AI, Azure ML)
📚 Contenido del módulo
Capítulo 1: Gestión de GPU/TPU
Selección de hardware, optimización de memoria GPU, entrenamiento con múltiples GPU, gestión de costos.
Capítulo 2: Entrenamiento distribuido
Paralelismo de datos, paralelismo de modelos, Horovod, PyTorch DDP, DeepSpeed.
Capítulo 3: Entrenamiento en la nube (AWS, GCP, Azure)
SageMaker, Vertex AI, Azure ML, instancias spot, estrategias de optimización de costos.
🚀 ¡Comencemos!
Inicie con Capítulo 1: Gestión de GPU/TPU.