Curso Completo de Modelos de Lenguaje Grande
Bienvenido al curso integral sobre Modelos de Lenguaje Grande (LLMs). Este programa intensivo de 12 semanas le llevará desde los conceptos fundamentales hasta implementaciones listas para producción.
Descripción General del Curso
Los Modelos de Lenguaje Grande han revolucionado la inteligencia artificial y el procesamiento de lenguaje natural. Desde GPT-4 hasta Claude, pasando por modelos de código abierto como Llama y soluciones empresariales especializadas, los LLMs están transformando la manera en que interactuamos con la tecnología.
Este curso proporciona una comprensión técnica profunda de:
- 🧠 Cómo funcionan los LLMs - Arquitectura Transformer, mecanismos de atención y entrenamiento
- 🔧 Cómo usar los LLMs - APIs, ajuste fino y estrategias de despliegue
- 🚀 Cómo construir con LLMs - Sistemas en producción, evaluación y optimización
- 🔮 Hacia dónde se dirigen los LLMs - Arquitecturas emergentes y direcciones futuras
Requisitos Previos
Para aprovechar al máximo este curso, usted debe tener:
- Dominio de Python - Comodidad programando en Python
- Conocimientos básicos de ML - Comprensión de redes neuronales, descenso de gradiente
- Fundamentos de álgebra lineal - Operaciones matriciales, vectores, productos punto
- Fundamentos de cálculo - Derivadas, regla de la cadena
Estructura del Curso
Parte 1: Fundamentos (Semanas 1-3)
| Módulo | Tema | Conceptos Clave |
|---|---|---|
| 1 | Introducción a los LLMs | Qué son los LLMs, Historia, Panorama actual |
| 2 | Arquitectura Transformer | Atención, Auto-atención, Codificación posicional |
| 3 | Entrenamiento de LLMs | Pre-entrenamiento, Recolección de datos, Entrenamiento distribuido |
Parte 2: Familias de Modelos e Internos (Semanas 4-6)
| Módulo | Tema | Conceptos Clave |
|---|---|---|
| 4 | Principales Familias de LLMs | GPT, Claude, Llama, Mistral |
| 5 | Tokenización y Embeddings | BPE, Ventanas de contexto, Espacios de embedding |
| 6 | Inferencia y Despliegue | Optimización, Cuantización, Servicio |
Parte 3: Personalización y Alineación (Semanas 7-9)
| Módulo | Tema | Conceptos Clave |
|---|---|---|
| 7 | Fundamentos de Fine-Tuning | Fine-tuning completo, PEFT, Instrucción tuning |
| 8 | RLHF y Alineación | Modelos de recompensa, Constitutional AI, Seguridad |
| 9 | APIs de LLM e Integración | OpenAI, Anthropic, Construcción de aplicaciones |
Parte 4: Producción y Más Allá (Semanas 10-12)
| Módulo | Tema | Conceptos Clave |
|---|---|---|
| 10 | Evaluación y Benchmarks | MMLU, HellaSwag, Red teaming |
| 11 | Temas Avanzados | MoE, Multimodal, Agentes |
| 12 | Futuro de los LLMs | Leyes de escalado, Nuevas arquitecturas, AGI |
Evaluación
- Cuestionarios por módulo: 30 preguntas por módulo (12 módulos)
- Examen final: 50 preguntas integrales
- Total: 410 preguntas que cubren todo el material del curso
Resultados de Aprendizaje
Al completar este curso, usted será capaz de:
- Explicar en profundidad la arquitectura Transformer y el mecanismo de atención
- Comparar diferentes familias de LLMs y sus decisiones de diseño
- Implementar pipelines de fine-tuning utilizando LoRA y otros métodos PEFT
- Desplegar LLMs en producción con la optimización adecuada
- Evaluar el rendimiento de modelos utilizando benchmarks estándar de la industria
- Construir aplicaciones que aprovechen eficazmente las capacidades de los LLMs
Stack Técnico
A lo largo de este curso, utilizaremos:
# Core libraries
transformers # Hugging Face Transformers
torch # PyTorch for deep learning
peft # Parameter-Efficient Fine-Tuning
accelerate # Distributed training
vllm # High-performance inference
# APIs
openai # OpenAI API
anthropic # Anthropic API
Primeros Pasos
¿Listo para comenzar su recorrido en los LLMs? Inicie con el Módulo 1 para entender qué son los Modelos de Lenguaje Grande y cómo evolucionaron desde enfoques anteriores.
Enlaces Rápidos
- 📖 Glosario - Más de 200 términos técnicos explicados
- 📝 Examen Final - Ponga a prueba sus conocimientos
- 📚 Recursos - Artículos, repositorios y más