Fine-Tuning de LLM Completo
Construya su propio GPT personalizado
Código del curso: FINETUNE-401
Duración: 10 semanas
Nivel: Avanzado
Plataforma: inskillflow Academy
Descripción general del curso
¡Bienvenido al curso más completo sobre Fine-Tuning de LLM! Este programa avanzado le llevará desde la comprensión de los fundamentos del fine-tuning hasta el despliegue de modelos de lenguaje personalizados listos para producción.
Ya sea que usted sea un ingeniero de ML que busca especializarse en LLM, un investigador explorando técnicas de vanguardia, un desarrollador construyendo aplicaciones impulsadas por IA, o un profesional de IA que desea crear modelos específicos de dominio, este curso le proporciona el conocimiento completo y la experiencia práctica que necesita.
Objetivos de aprendizaje
Al finalizar este curso, usted será capaz de:
- Entender cuándo realizar fine-tuning frente a usar RAG o prompting
- Dominar técnicas de Fine-Tuning Eficiente en Parámetros (PEFT)
- Implementar LoRA y QLoRA para entrenamiento eficiente en memoria
- Preparar conjuntos de datos de entrenamiento de alta calidad
- Entrenar modelos usando Hugging Face Transformers y TRL
- Aplicar técnicas avanzadas como DPO y ORPO
- Evaluar y fusionar modelos fine-tuned
- Desplegar modelos fine-tuned en producción
Requisitos previos
Este es un curso avanzado. Usted debe tener:
- Sólidos conocimientos de programación en Python
- Familiaridad con PyTorch o TensorFlow
- Comprensión básica de la arquitectura transformer
- Experiencia con las librerías de Hugging Face (útil pero no obligatoria)
- Acceso a recursos GPU (el nivel gratuito de Google Colab funciona para muchos ejercicios)
Metodología de enseñanza
80% Aplicación práctica - 20% Teoría
Cada módulo combina:
- Explicaciones teóricas claras con fundamentos matemáticos
- Ejemplos de código listos para producción
- Notebooks compatibles con Google Colab
- Cuestionarios interactivos (30 preguntas por módulo)
- Estudios de caso reales y mejores prácticas
Estructura del curso - 10 módulos
Módulo 1: Introducción al Fine-Tuning
Duración: 1 semana
Contenido:
- ¿Qué es el Fine-Tuning?
- Cuándo hacer Fine-Tuning vs usar RAG
- Panorama del Fine-Tuning
Objetivos:
- Comprender los conceptos de aprendizaje por transferencia y fine-tuning
- Tomar decisiones informadas sobre cuándo hacer fine-tuning
- Visión general de los métodos y herramientas disponibles
Módulo 2: Fine-Tuning Completo
Duración: 1 semana
Contenido:
- Enfoque tradicional de Fine-Tuning
- Requisitos computacionales
- Olvido catastrófico
Objetivos:
- Comprender las actualizaciones de todos los parámetros
- Calcular los requisitos de memoria GPU
- Aprender sobre el olvido y estrategias de mitigación
Módulo 3: Fine-Tuning Eficiente en Parámetros (PEFT)
Duración: 1 semana
Contenido:
- Introducción a PEFT
- PEFT vs Fine-Tuning completo
- Panorama de métodos PEFT
Objetivos:
- Comprender la motivación detrás de PEFT
- Comparar diferentes métodos PEFT
- Saber cuándo usar cada enfoque
Módulo 4: LoRA a fondo
Duración: 1 semana
Contenido:
- Comprendiendo LoRA
- Matemáticas de LoRA
- Implementación de LoRA con la librería PEFT
Objetivos:
- Dominar los conceptos de Adaptación de Bajo Rango
- Comprender las matemáticas detrás de LoRA
- Implementar entrenamiento LoRA con Hugging Face
Módulo 5: QLoRA y Cuantización
Duración: 1 semana
Contenido:
- ¿Qué es QLoRA?
- Cuantización de 4 bits (bitsandbytes)
- Entrenamiento eficiente en memoria
Objetivos:
- Comprender la cuantización para entrenamiento
- Usar bitsandbytes para carga en 4 bits
- Optimizar el uso de memoria para modelos grandes
Módulo 6: Preparación de datos
Duración: 1 semana
Contenido:
- Formatos de conjuntos de datos (Alpaca, ShareGPT)
- Calidad y curación de datos
- Generación de datos sintéticos
Objetivos:
- Formatear datos para instruction tuning
- Aplicar estrategias de filtrado de calidad
- Generar datos sintéticos de entrenamiento
Módulo 7: Entrenamiento con Hugging Face
Duración: 1 semana
Contenido:
- Librería Transformers
- TRL (Transformer Reinforcement Learning)
- Argumentos de entrenamiento y optimización
Objetivos:
- Usar SFTTrainer para fine-tuning
- Configurar hiperparámetros de entrenamiento
- Implementar registro y monitoreo
Módulo 8: Técnicas avanzadas de Fine-Tuning
Duración: 1 semana
Contenido:
- Instruction Tuning
- DPO (Direct Preference Optimization)
- ORPO y otros métodos
Objetivos:
- Implementar pipelines de instruction tuning
- Entrenar modelos con optimización por preferencias
- Comparar DPO, ORPO y RLHF
Módulo 9: Evaluación y Fusión
Duración: 1 semana
Contenido:
- Evaluación de modelos fine-tuned
- Técnicas de fusión de modelos
- Estudios de ablación
Objetivos:
- Evaluar la calidad del modelo de manera integral
- Fusionar múltiples adaptadores y modelos
- Diseñar y ejecutar experimentos de ablación
Módulo 10: Despliegue en Producción
Duración: 1 semana
Contenido:
- Exportación y servicio de modelos
- Optimización para inferencia
- Construcción de productos GPT personalizados
Objetivos:
- Exportar modelos para despliegue
- Optimizar el rendimiento de inferencia
- Construir aplicaciones de IA listas para producción
Progreso del curso
| Estado | Módulo | Enlace |
|---|---|---|
| ✅ Completo | Módulo 1 - Introducción al Fine-Tuning | Comenzar |
| ✅ Completo | Módulo 2 - Fine-Tuning Completo | Comenzar |
| ✅ Completo | Módulo 3 - Fine-Tuning Eficiente en Parámetros | Comenzar |
| ✅ Completo | Módulo 4 - LoRA a fondo | Comenzar |
| ✅ Completo | Módulo 5 - QLoRA y Cuantización | Comenzar |
| ✅ Completo | Módulo 6 - Preparación de datos | Comenzar |
| ✅ Completo | Módulo 7 - Entrenamiento con Hugging Face | Comenzar |
| ✅ Completo | Módulo 8 - Técnicas avanzadas de Fine-Tuning | Comenzar |
| ✅ Completo | Módulo 9 - Evaluación y Fusión | Comenzar |
| ✅ Completo | Módulo 10 - Despliegue en Producción | Comenzar |
🎉 ¡Curso completo!
Todos los módulos están listos con contenido completo y cuestionarios interactivos (30 preguntas por módulo).
📖 Recursos adicionales
| Recurso | Descripción |
|---|---|
| 📚 Glosario | Más de 150 términos de fine-tuning con definiciones |
| 🔗 Recursos | Notebooks, conjuntos de datos, artículos y herramientas |
| 🎯 Examen final | 50 preguntas integrales |
¡Comience ahora!
Explore los módulos desde la barra lateral y comience su camino para dominar el Fine-Tuning de LLM.
¡Le deseamos mucho éxito en su aprendizaje!
Última actualización: diciembre de 2024
📊 Estadísticas del curso
| Ítem | Cantidad |
|---|---|
| Módulos | 10 |
| Capítulos | 30+ |
| Preguntas de cuestionario | 300 |
| Horas estimadas de aprendizaje | 50+ |