Quiz: Módulo 3 - Entrenamiento de LLMs

Evalúe su comprensión sobre el entrenamiento de LLM. 30 preguntas que cubren pre-entrenamiento, procesamiento de datos y entrenamiento distribuido.

---

Pregunta 1

¿Cuál es el objetivo de pre-entrenamiento para los modelos tipo GPT?

1. Predicción del siguiente token (modelado causal del lenguaje)
2. Modelado de lenguaje enmascarado
3. Clasificación de oraciones
4. Traducción

Pregunta 2

En el modelado de lenguaje enmascarado, ¿qué porcentaje de tokens se enmascara típicamente?

1. 5%
2. 15%
3. 50%
4. 80%

Pregunta 3

¿Cuál es la principal ventaja del modelado causal del lenguaje sobre el modelado enmascarado para LLMs?

1. Entrenamiento más rápido
2. Ajuste natural para la generación de texto
3. Mejor comprensión
4. Se requiere menos datos

Pregunta 4

¿Por qué es importante la deduplicación en los datos de entrenamiento?

1. Para reducir los costos de almacenamiento
2. Para evitar la memorización y mejorar la generalización
3. Para acelerar la tokenización
4. Para mejorar la gramática

Pregunta 5

¿Qué es Common Crawl?

1. Un navegador web
2. Un gran conjunto de datos de páginas web comúnmente utilizado para el entrenamiento de LLM
3. Un motor de búsqueda
4. Un filtro de calidad

Pregunta 6

¿Qué es el paralelismo de datos?

1. Cada GPU procesa diferentes datos con el mismo modelo
2. Cada GPU tiene diferentes capas del modelo
3. Cada GPU procesa los mismos datos
4. Dividir las matrices de pesos entre GPUs

Pregunta 7

¿Cuál es la limitación del paralelismo puro de datos?

1. Entrenamiento lento
2. El modelo debe caber en la memoria de una sola GPU
3. Baja precisión
4. Requiere hardware especial

Pregunta 8

En el paralelismo de tensores, ¿qué se divide entre las GPUs?

1. Datos de entrenamiento
2. Diferentes capas del modelo
3. Matrices de pesos individuales dentro de las capas
4. Solo las cabezas de atención

Pregunta 9

¿Qué significa ZeRO?

1. Zero Redundancy Optimizer
2. Zero Error Regularization Objective
3. Zoned Efficient Resource Optimization
4. Zero Entropy Reduction Operation

Pregunta 10

¿Qué particiona ZeRO-3?

1. Solo los estados del optimizador
2. Estados del optimizador y gradientes
3. Estados del optimizador, gradientes y parámetros
4. Solo los datos de entrenamiento

Pregunta 11

¿Cuál es la recomendación de escalado de Chinchilla para los tokens de entrenamiento?

1. 1 token por parámetro
2. 10 tokens por parámetro
3. ~20 tokens por parámetro
4. 100 tokens por parámetro

Pregunta 12

¿Qué precisión se utiliza comúnmente para el entrenamiento de LLM para ahorrar memoria?

1. FP64
2. FP32
3. BF16 (bfloat16)
4. INT8

Pregunta 13

¿Qué es el paralelismo de pipeline?

1. Procesar datos en lotes
2. Ubicar diferentes capas en diferentes GPUs
3. Tokenización paralela
4. Carga concurrente de datos

Pregunta 14

¿Qué framework popularizó ZeRO?

1. PyTorch
2. TensorFlow
3. DeepSpeed
4. JAX

Pregunta 15

¿Por qué es importante el filtrado de calidad para los datos de entrenamiento?

1. Para reducir el tiempo de entrenamiento
2. Para mejorar la calidad del modelo eliminando texto de baja calidad
3. Para reducir los costos de almacenamiento
4. Para simplificar la tokenización

Pregunta 16

¿Cuántos tokens de entrenamiento utilizó LLaMA 2?

1. 300 mil millones
2. 1 billón
3. 2 billones
4. 10 billones

Pregunta 17

¿Qué hace el gradient checkpointing?

1. Guarda los gradientes en disco
2. Intercambia cómputo por memoria al recomputar activaciones
3. Verifica gradientes en busca de valores NaN
4. Comprime los gradientes

Pregunta 18

¿Cuál es el principal desafío del paralelismo de pipeline?

1. Uso de memoria
2. Burbujas de pipeline (tiempo inactivo)
3. Sobrecarga de comunicación
4. Inestabilidad numérica

Pregunta 19

¿Cuál es el papel del warmup de la tasa de aprendizaje?

1. Enfriar las GPUs
2. Prevenir inestabilidad en el entrenamiento al inicio
3. Aumentar la tasa de aprendizaje
4. Reducir el sobreajuste

Pregunta 20

¿Qué optimizador se utiliza comúnmente para el entrenamiento de LLM?

1. SGD
2. AdamW
3. RMSprop
4. Adagrad

Pregunta 21

¿Qué significa "context length" durante el entrenamiento?

1. La duración de la ejecución de entrenamiento
2. La longitud máxima de secuencia que el modelo puede procesar
3. El tamaño del vocabulario
4. La dimensión del embedding

Pregunta 22

¿Qué es la perplexity en el contexto de la evaluación de LLM?

1. Una medida del tamaño del modelo
2. Exponencial de la pérdida promedio de entropía cruzada
3. El número de pasos de entrenamiento
4. Una métrica de complejidad para código

Pregunta 23

¿Cuál es el tamaño de batch típico para el entrenamiento de LLM?

1. 32 muestras
2. 256 muestras
3. Millones de tokens (usando acumulación de gradientes)
4. 1 muestra a la vez

Pregunta 24

¿Qué es el loss spiking durante el entrenamiento?

1. Comportamiento normal
2. Aumento repentino de la pérdida que indica inestabilidad en el entrenamiento
3. Un problema de carga de datos
4. Una señal de convergencia

Pregunta 25

¿Cuál es el propósito del entrenamiento del tokenizador?

1. Aprender un vocabulario eficiente para el corpus de entrenamiento
2. Entrenar la capa de embedding
3. Filtrar los datos de entrenamiento
4. Validar las salidas del modelo

Pregunta 26

¿Cuál es una programación de tasa de aprendizaje común para el entrenamiento de LLM?

1. Tasa de aprendizaje constante
2. Incremento lineal
3. Warmup seguido de decaimiento cosenoidal
4. Incremento exponencial

Pregunta 27

¿Cuál es el propósito del weight decay en el entrenamiento?

1. Acelerar el entrenamiento
2. Regularizar y prevenir el sobreajuste
3. Reducir el uso de memoria
4. Aumentar la capacidad del modelo

Pregunta 28

¿Qué es FSDP?

1. Fully Sharded Data Parallel - implementación nativa de ZeRO en PyTorch
2. Fast Synchronized Data Processing
3. Flexible Storage Data Partitioning
4. Full Scale Distributed Processing

Pregunta 29

¿Cuál es el beneficio de usar curriculum learning para LLMs?

1. Entrenar con datos cada vez más complejos puede mejorar el aprendizaje
2. Reduce el tiempo de entrenamiento
3. Elimina la necesidad de filtrar datos
4. Aumenta el tamaño del modelo

Pregunta 30

¿Cuál es la duración típica para entrenar un LLM grande (más de 100B de parámetros)?

1. Horas
2. Días
3. Semanas a meses
4. Años

---

¡Quiz completado!

Puntaje de aprobación: 24/30 (80%)

← Capítulo 3: Entrenamiento Distribuido

Módulo 4: Principales Familias de LLM →