Quiz: QLoRA y Cuantización
30 preguntas sobre QLoRA, cuantización de 4 bits y entrenamiento eficiente en memoria.
Pregunta 1
¿Qué combina QLoRA?
A) Cuantización y ajuste fino completo
B) Cuantización de 4 bits y LoRA
C) Entrenamiento de 8 y 16 bits
D) Múltiples modelos
Mostrar respuesta
Respuesta correcta: B
QLoRA combina la cuantización de 4 bits del modelo base con adaptadores LoRA para un ajuste fino eficiente.
Pregunta 2
¿Qué formato de cuantización utiliza QLoRA por defecto?
A) INT8
B) FP4
C) NF4 (NormalFloat de 4 bits)
D) Binario
Mostrar respuesta
Respuesta correcta: C
QLoRA utiliza NF4 (NormalFloat de 4 bits), diseñado para pesos con distribución normal.
Pregunta 3
¿Cuánta VRAM necesita QLoRA para un modelo de 7B?
A) ~28GB
B) ~14GB
C) ~6GB
D) ~1GB
Mostrar respuesta
Respuesta correcta: C
QLoRA requiere aproximadamente 6GB de VRAM para un modelo de 7 mil millones de parámetros.
Pregunta 4
¿Qué es la doble cuantización?
A) Ejecutar la cuantización dos veces
B) Cuantizar las constantes de cuantización
C) Usar dos GPUs
D) Entrenamiento en doble precisión
Mostrar respuesta
Respuesta correcta: B
La doble cuantización cuantiza las propias constantes de cuantización, ahorrando memoria adicional.
Pregunta 5
¿Qué biblioteca proporciona BitsAndBytesConfig?
A) peft
B) transformers (usando bitsandbytes)
C) torch
D) accelerate
Mostrar respuesta
Respuesta correcta: B
BitsAndBytesConfig se proporciona a través de transformers, que utiliza la biblioteca bitsandbytes.
Preguntas 6-30
(Preguntas adicionales que cubren: prepare_model_for_kbit_training, checkpointing de gradientes, acumulación de gradientes, optimizadores paginados, NF4 vs FP4, cálculos de memoria, compute dtype, combinaciones de optimización, solución de errores OOM y detalles prácticos de implementación)
Mostrar todas las respuestas restantes
Las preguntas 6-30 cubren:
- Propósito de prepare_model_for_kbit_training (B: prepara el modelo cuantizado para entrenamiento)
- Compensación del checkpointing de gradientes (B: computación por memoria)
- Cálculo del batch size efectivo (C: batch_size × accumulation_steps)
- compute dtype recomendado (C: bfloat16)
- Ahorro por doble cuantización (B: ~11%)
- Propósito del optimizador paginado (B: pagina a CPU bajo presión de memoria)
- Calidad de QLoRA vs ajuste fino completo (B: ~98%)
- Ventaja de NF4 (B: óptimo para pesos con distribución normal)
- Reducción de memoria de QLoRA vs LoRA (C: ~60%)
- Cuándo usar QLoRA (B: memoria de GPU limitada)
Resultados
| Puntaje | Nivel |
|---|---|
| 27-30 | Excelente |
| 21-26 | Bueno |
| 15-20 | Promedio |
| Menos de 15 | Revisión necesaria |