Quiz: Fine-Tuning Completo
Ponga a prueba su conocimiento sobre fine-tuning completo, requisitos computacionales y olvido catastrófico.
30 preguntas - Haga clic en cada pregunta para revelar la respuesta correcta.
Pregunta 1
¿Qué significa "fine-tuning completo"?
A) Entrenar solo la primera capa
B) Actualizar todos los parámetros del modelo durante el entrenamiento
C) Entrenar durante un día completo
D) Usar todas las GPUs disponibles
Mostrar respuesta
Respuesta correcta: B
Fine-tuning completo significa actualizar todos los parámetros entrenables del modelo durante el proceso de entrenamiento, a diferencia de los métodos PEFT que solo actualizan un subconjunto.
Pregunta 2
¿Cuáles son los cuatro componentes principales que consumen memoria GPU durante el entrenamiento?
A) CPU, RAM, SSD, GPU
B) Pesos del modelo, gradientes, estados del optimizador, activaciones
C) Entrada, salida, pérdida, precisión
D) Forward, backward, update, save
Mostrar respuesta
Respuesta correcta: B
Los cuatro principales consumidores de memoria son: pesos del modelo, gradientes (del mismo tamaño que los pesos), estados del optimizador (AdamW almacena 2 estados por parámetro) y activaciones (valores intermedios para backpropagation).
Pregunta 3
¿Cuánta memoria añade el optimizador AdamW por parámetro (en float32)?
A) 4 bytes
B) 8 bytes (2 estados × 4 bytes)
C) 2 bytes
D) 16 bytes
Mostrar respuesta
Respuesta correcta: B
AdamW almacena dos estados por parámetro (momento y varianza), cada uno en float32 (4 bytes), sumando un total de 8 bytes por parámetro.
Pregunta 4
¿Cuánta memoria GPU se necesita aproximadamente para fine-tuning completo de un modelo 7B con bf16?
A) 7 GB
B) 14 GB
C) 60-80 GB
D) 280 GB
Mostrar respuesta
Respuesta correcta: C
Un modelo 7B requiere aproximadamente 60-80 GB para fine-tuning completo con bf16, incluyendo pesos (14GB), gradientes (14GB), estados del optimizador (56GB en fp32) y activaciones.
Pregunta 5
¿Por qué se prefiere bfloat16 sobre float16 para entrenamiento?
A) Es más rápido
B) Usa menos memoria
C) Tiene el mismo rango que float32, reduciendo el riesgo de overflow
D) Es requerido por todas las GPUs
Mostrar respuesta
Respuesta correcta: C
BFloat16 mantiene el mismo rango de exponentes que float32 (solo con menos precisión), lo que lo hace más estable para el entrenamiento. Float16 tiene un rango más estrecho y puede causar overflow/underflow.
Pregunta 6
¿Qué hace el gradient checkpointing?
A) Guarda checkpoints del modelo
B) Intercambia cómputo por memoria recomputando activaciones
C) Recorta gradientes grandes
D) Acumula gradientes a lo largo de los lotes
Mostrar respuesta
Respuesta correcta: B
Gradient checkpointing ahorra memoria al no almacenar todas las activaciones durante el forward pass. En su lugar, las recomputa durante el backward pass, intercambiando cómputo extra por menor uso de memoria.
Pregunta 7
¿Para qué se utiliza la acumulación de gradientes?
A) Prevenir explosión de gradientes
B) Simular tamaños de lote mayores con memoria limitada
C) Almacenar gradientes para análisis posterior
D) Reducir el tiempo de entrenamiento
Mostrar respuesta
Respuesta correcta: B
La acumulación de gradientes le permite simular tamaños de lote efectivos mayores acumulando gradientes a lo largo de múltiples forward passes de lotes pequeños antes de actualizar los pesos.
Pregunta 8
¿Cuál es el rango típico de learning rate para fine-tuning completo?
A) 1e-2 a 1e-3
B) 1e-5 a 5e-5
C) 1e-7 a 1e-8
D) 1.0
Mostrar respuesta
Respuesta correcta: B
El fine-tuning completo típicamente utiliza learning rates en el rango de 1e-5 a 5e-5—más bajos que los métodos PEFT porque se actualizan más parámetros.
Pregunta 9
¿Qué es el olvido catastrófico?
A) Cuando se pierden los datos de entrenamiento
B) Cuando un modelo pierde conocimientos previamente aprendidos tras entrenar con nuevos datos
C) Cuando el modelo se vuelve demasiado grande
D) Cuando los gradientes explotan
Mostrar respuesta
Respuesta correcta: B
El olvido catastrófico ocurre cuando el rendimiento de una red neuronal en tareas previamente aprendidas se degrada tras ser entrenada con nuevos datos.
Pregunta 10
¿Por qué los métodos PEFT ayudan a prevenir el olvido catastrófico?
A) Usan más datos
B) Mantienen los pesos del modelo base congelados
C) Entrenan durante más épocas
D) Usan learning rates más altos
Mostrar respuesta
Respuesta correcta: B
Los métodos PEFT mantienen los pesos del modelo base congelados, por lo que el conocimiento original se preserva. Solo se entrenan pequeños parámetros adaptadores.
Pregunta 11
¿Qué es el weight decay?
A) Disminución de los pesos del modelo con el tiempo
B) Técnica de regularización que penaliza pesos grandes
C) Degradación de la memoria GPU
D) Reducción del learning rate
Mostrar respuesta
Respuesta correcta: B
El weight decay es una técnica de regularización que añade una penalización por valores grandes de los pesos, ayudando a prevenir el sobreajuste y mantener la generalización.
Pregunta 12
¿Qué es el warmup en el entrenamiento?
A) Esperar a que la GPU alcance la temperatura óptima
B) Aumentar gradualmente el learning rate al inicio del entrenamiento
C) Precargar datos en memoria
D) Ejecutar primero un lote de prueba pequeño
Mostrar respuesta
Respuesta correcta: B
El warmup aumenta gradualmente el learning rate desde un valor pequeño hasta el valor objetivo, ayudando a estabilizar el entrenamiento en las primeras etapas cuando los gradientes pueden ser inestables.
Pregunta 13
¿Qué es DeepSpeed ZeRO Stage 2?
A) Sin optimización
B) Particionar solo los estados del optimizador
C) Particionar estados del optimizador Y gradientes
D) Particionar todo incluyendo los pesos
Mostrar respuesta
Respuesta correcta: C
ZeRO Stage 2 particiona tanto los estados del optimizador como los gradientes entre las GPUs, reduciendo la memoria por GPU. Stage 3 añade particionado de pesos.
Pregunta 14
¿Qué optimizador usa menos memoria?
A) AdamW
B) Adam 8-bit
C) Adafactor
D) SGD
Mostrar respuesta
Respuesta correcta: D
SGD usa la menor cantidad de memoria ya que no almacena estados de momento o varianza (aunque Adam 8-bit y Adafactor también reducen significativamente la memoria comparados con AdamW).
Pregunta 15
¿Qué es el entrenamiento de precisión mixta?
A) Entrenar en múltiples GPUs
B) Usar tanto fp16/bf16 como fp32 durante el entrenamiento
C) Entrenar en múltiples conjuntos de datos
D) Usar diferentes learning rates
Mostrar respuesta
Respuesta correcta: B
El entrenamiento de precisión mixta utiliza menor precisión (fp16/bf16) para la mayoría de las operaciones mientras mantiene operaciones críticas en fp32 para mayor estabilidad.
Pregunta 16
¿Qué muestra torch.cuda.memory_allocated()?
A) Memoria total de la GPU
B) Memoria GPU actualmente asignada por tensores
C) Memoria GPU libre
D) Uso de memoria en CPU
Mostrar respuesta
Respuesta correcta: B
torch.cuda.memory_allocated() devuelve la cantidad de memoria GPU actualmente ocupada por tensores.
Pregunta 17
¿Cuál es una buena estrategia para reducir el olvido catastrófico en fine-tuning completo?
A) Learning rate más alto
B) Más épocas de entrenamiento
C) Mezclar datos de fine-tuning con datos generales de instrucciones
D) Tamaños de lote mayores
Mostrar respuesta
Respuesta correcta: C
Mezclar sus datos específicos de fine-tuning con datos generales de instrucciones (data replay) ayuda a mantener las capacidades generales del modelo.
Pregunta 18
¿Cuál es el tamaño de lote efectivo con batch_size=2 y gradient_accumulation_steps=8?
A) 2
B) 8
C) 16
D) 10
Mostrar respuesta
Respuesta correcta: C
Tamaño de lote efectivo = per_device_batch_size × gradient_accumulation_steps = 2 × 8 = 16.
Pregunta 19
Al monitorear el entrenamiento, ¿qué podría indicar sobreajuste?
A) Tanto la pérdida de entrenamiento como la de validación disminuyen
B) La pérdida de entrenamiento disminuye mientras la de validación aumenta
C) Ambas pérdidas estables
D) La pérdida de entrenamiento aumenta
Mostrar respuesta
Respuesta correcta: B
Cuando la pérdida de entrenamiento sigue disminuyendo pero la de validación comienza a aumentar, indica que el modelo se está sobreajustando a los datos de entrenamiento.
Pregunta 20
¿Qué es el early stopping?
A) Detener el entrenamiento antes de que comience
B) Detener el entrenamiento cuando el rendimiento de validación deja de mejorar
C) Detener después de una época
D) Detener cuando la GPU se sobrecalienta
Mostrar respuesta
Respuesta correcta: B
El early stopping monitorea el rendimiento de validación y detiene el entrenamiento cuando deja de mejorar, previniendo el sobreajuste.
Pregunta 21
¿Cuánto pueden ahorrar aproximadamente las instancias spot en costos de entrenamiento en la nube?
A) 10%
B) 30%
C) 60-70%
D) 90%
Mostrar respuesta
Respuesta correcta: C
Las instancias spot suelen costar un 60-70% menos que las instancias bajo demanda, aunque pueden ser interrumpidas.
Pregunta 22
¿Qué sucede si el learning rate es demasiado alto?
A) El entrenamiento es demasiado lento
B) El modelo puede divergir o perder el conocimiento preentrenado
C) El modelo converge más rápido
D) Sin efecto
Mostrar respuesta
Respuesta correcta: B
Un learning rate demasiado alto puede hacer que el modelo diverja (la pérdida explota) o que realice actualizaciones tan grandes que destruya el conocimiento preentrenado.
Pregunta 23
¿Cuál es el beneficio de guardar checkpoints durante el entrenamiento?
A) Reduce el uso de memoria
B) Permite recuperación y selección del mejor modelo
C) Acelera el entrenamiento
D) Reduce el tamaño del conjunto de datos
Mostrar respuesta
Respuesta correcta: B
Guardar checkpoints le permite recuperarse de fallos, seleccionar el checkpoint de mejor rendimiento y continuar el entrenamiento desde cualquier punto.
Pregunta 24
¿Qué formato de precisión usa 2 bytes por parámetro?
A) float32
B) bfloat16/float16
C) int8
D) int4
Mostrar respuesta
Respuesta correcta: B
Tanto bfloat16 como float16 usan 2 bytes (16 bits) por parámetro, la mitad de los 4 bytes de float32.
Pregunta 25
¿Qué es la retención de capacidades en el contexto de la evaluación de fine-tuning?
A) Cuánto recuerda el modelo durante una sesión
B) El porcentaje del rendimiento de referencia base mantenido después del fine-tuning
C) Cuántos parámetros se retienen
D) Memorización de datos de entrenamiento
Mostrar respuesta
Respuesta correcta: B
La retención de capacidades mide qué porcentaje del rendimiento del modelo base en benchmarks generales se mantiene después del fine-tuning.
Pregunta 26
¿Por qué podría elegir fine-tuning completo en lugar de PEFT?
A) Siempre es mejor
B) Máximo potencial de personalización y techo de calidad
C) Usa menos memoria
D) Es más rápido de entrenar
Mostrar respuesta
Respuesta correcta: B
El fine-tuning completo se elige cuando se necesita el máximo potencial de personalización y se cuentan con recursos suficientes, ya que tiene el mayor techo de calidad.
Pregunta 27
¿Cuál es la fórmula para el tiempo de entrenamiento aproximado?
A) Tamaño del conjunto de datos × memoria GPU
B) (Tamaño del conjunto de datos × épocas) / (tamaño de lote × rendimiento)
C) Learning rate × épocas
D) Tamaño del modelo / número de GPUs
Mostrar respuesta
Respuesta correcta: B
Tiempo de entrenamiento ≈ (Total de tokens o muestras de entrenamiento × épocas) / (tamaño de lote efectivo × rendimiento en tokens/muestras por segundo).
Pregunta 28
¿Qué es el distribution shift en fine-tuning?
A) Cambiar a una nueva GPU
B) Cuando los datos de fine-tuning tienen patrones diferentes a los datos de preentrenamiento
C) Cambiar el optimizador
D) Ajustar el tamaño de lote
Mostrar respuesta
Respuesta correcta: B
Distribution shift se refiere a la diferencia entre la distribución de datos de preentrenamiento (amplia, general) y la distribución de datos de fine-tuning (especializada, estrecha).
Pregunta 29
¿Qué GPU necesitaría para fine-tuning completo de un modelo 7B con optimizaciones de eficiencia?
A) RTX 3090 (24GB)
B) A100-40GB
C) A100-80GB
D) H100
Mostrar respuesta
Respuesta correcta: C
Incluso con optimizaciones (bf16, gradient checkpointing), un modelo 7B requiere 60-80GB para fine-tuning completo, por lo que la A100-80GB es la GPU mínima adecuada.
Pregunta 30
¿Cuál es el principal trade-off del gradient checkpointing?
A) Calidad vs velocidad
B) Memoria vs cómputo (más cómputo, menos memoria)
C) Velocidad vs calidad
D) Tamaño del conjunto de datos vs épocas
Mostrar respuesta
Respuesta correcta: B
El gradient checkpointing intercambia cómputo por memoria—utiliza más cómputo (recomputando activaciones) para reducir el uso de memoria.
Resultados
| Puntuación | Nivel |
|---|---|
| 27-30 | Excelente - ¡Sólido entendimiento de fine-tuning completo! |
| 21-26 | Bueno - Revise la sección de requisitos computacionales |
| 15-20 | Promedio - Repase todos los capítulos |
| Menos de 15 | Requiere revisión exhaustiva |