Saltar al contenido principal

Curso Completo de Modelos de Lenguaje Grande

Bienvenido al curso integral sobre Modelos de Lenguaje Grande (LLMs). Este programa intensivo de 12 semanas le llevará desde los conceptos fundamentales hasta implementaciones listas para producción.

Descripción General del Curso​

Los Modelos de Lenguaje Grande han revolucionado la inteligencia artificial y el procesamiento de lenguaje natural. Desde GPT-4 hasta Claude, pasando por modelos de código abierto como Llama y soluciones empresariales especializadas, los LLMs están transformando la manera en que interactuamos con la tecnología.

Este curso proporciona una comprensión técnica profunda de:

  • 🧠 Cómo funcionan los LLMs - Arquitectura Transformer, mecanismos de atención y entrenamiento
  • 🔧 Cómo usar los LLMs - APIs, ajuste fino y estrategias de despliegue
  • 🚀 Cómo construir con LLMs - Sistemas en producción, evaluación y optimización
  • 🔮 Hacia dónde se dirigen los LLMs - Arquitecturas emergentes y direcciones futuras

Requisitos Previos​

Para aprovechar al máximo este curso, usted debe tener:

  • Dominio de Python - Comodidad programando en Python
  • Conocimientos básicos de ML - Comprensión de redes neuronales, descenso de gradiente
  • Fundamentos de álgebra lineal - Operaciones matriciales, vectores, productos punto
  • Fundamentos de cálculo - Derivadas, regla de la cadena

Estructura del Curso​

Parte 1: Fundamentos (Semanas 1-3)​

MóduloTemaConceptos Clave
1Introducción a los LLMsQué son los LLMs, Historia, Panorama actual
2Arquitectura TransformerAtención, Auto-atención, Codificación posicional
3Entrenamiento de LLMsPre-entrenamiento, Recolección de datos, Entrenamiento distribuido

Parte 2: Familias de Modelos e Internos (Semanas 4-6)​

MóduloTemaConceptos Clave
4Principales Familias de LLMsGPT, Claude, Llama, Mistral
5Tokenización y EmbeddingsBPE, Ventanas de contexto, Espacios de embedding
6Inferencia y DespliegueOptimización, Cuantización, Servicio

Parte 3: Personalización y Alineación (Semanas 7-9)​

MóduloTemaConceptos Clave
7Fundamentos de Fine-TuningFine-tuning completo, PEFT, Instrucción tuning
8RLHF y AlineaciónModelos de recompensa, Constitutional AI, Seguridad
9APIs de LLM e IntegraciónOpenAI, Anthropic, Construcción de aplicaciones

Parte 4: Producción y Más Allá (Semanas 10-12)​

MóduloTemaConceptos Clave
10Evaluación y BenchmarksMMLU, HellaSwag, Red teaming
11Temas AvanzadosMoE, Multimodal, Agentes
12Futuro de los LLMsLeyes de escalado, Nuevas arquitecturas, AGI

Evaluación​

  • Cuestionarios por módulo: 30 preguntas por módulo (12 módulos)
  • Examen final: 50 preguntas integrales
  • Total: 410 preguntas que cubren todo el material del curso

Resultados de Aprendizaje​

Al completar este curso, usted será capaz de:

  1. Explicar en profundidad la arquitectura Transformer y el mecanismo de atención
  2. Comparar diferentes familias de LLMs y sus decisiones de diseño
  3. Implementar pipelines de fine-tuning utilizando LoRA y otros métodos PEFT
  4. Desplegar LLMs en producción con la optimización adecuada
  5. Evaluar el rendimiento de modelos utilizando benchmarks estándar de la industria
  6. Construir aplicaciones que aprovechen eficazmente las capacidades de los LLMs

Stack Técnico​

A lo largo de este curso, utilizaremos:

# Core libraries
transformers # Hugging Face Transformers
torch # PyTorch for deep learning
peft # Parameter-Efficient Fine-Tuning
accelerate # Distributed training
vllm # High-performance inference

# APIs
openai # OpenAI API
anthropic # Anthropic API

Primeros Pasos​

¿Listo para comenzar su recorrido en los LLMs? Inicie con el Módulo 1 para entender qué son los Modelos de Lenguaje Grande y cómo evolucionaron desde enfoques anteriores.


Enlaces Rápidos​