Quiz: Fine-Tuning Eficiente en Parámetros
Ponga a prueba su conocimiento sobre los métodos PEFT, sus ventajas y desventajas, y cuándo utilizar cada uno.
30 preguntas - Haga clic en cada pregunta para revelar la respuesta correcta.
Pregunta 1
¿Qué significa PEFT?
A) Parallel Efficient Fine-Tuning
B) Fine-Tuning Eficiente en Parámetros
C) Pre-training Efficient Feature Training
D) Partial Embedding Fine-Tuning
Mostrar respuesta
Respuesta correcta: B
PEFT significa Fine-Tuning Eficiente en Parámetros, una familia de métodos que entrenan solo un pequeño subconjunto de los parámetros del modelo.
Pregunta 2
¿Qué porcentaje de parámetros suele entrenar PEFT?
A) 50%
B) 25%
C) Menos del 1%
D) 10%
Mostrar respuesta
Respuesta correcta: C
Los métodos PEFT suelen entrenar menos del 1% del total de parámetros del modelo (a menudo entre 0.01% y 0.5%).
Pregunta 3
¿Por qué PEFT no causa olvido catastrófico?
A) Utiliza más datos
B) Los pesos del modelo base permanecen congelados
C) Se entrena durante menos épocas
D) Utiliza una función de pérdida especial
Mostrar respuesta
Respuesta correcta: B
PEFT mantiene congelados los pesos del modelo base, por lo que el conocimiento preentrenado original se conserva. Solo se modifican los pequeños parámetros de los adaptadores.
Pregunta 4
¿Qué es LoRA?
A) Una arquitectura de modelo
B) Low-Rank Adaptation, añade matrices entrenables a los pesos congelados
C) Un tipo de optimizador
D) Un formato de conjunto de datos
Mostrar respuesta
Respuesta correcta: B
LoRA (Low-Rank Adaptation) añade matrices entrenables de descomposición de bajo rango (B y A) junto a las matrices de pesos congeladas.
Pregunta 5
¿Qué controla el parámetro rank (r) en LoRA?
A) Velocidad de entrenamiento
B) La capacidad y el número de parámetros entrenables
C) Tasa de aprendizaje
D) Tamaño del batch
Mostrar respuesta
Respuesta correcta: B
El parámetro rank (r) determina la dimensionalidad de las matrices de bajo rango, controlando la capacidad del adaptador y el número de parámetros entrenables.
Pregunta 6
¿Cuál es la principal diferencia entre LoRA y QLoRA?
A) QLoRA utiliza una función de pérdida diferente
B) QLoRA combina cuantización de 4 bits con LoRA
C) QLoRA entrena más parámetros
D) QLoRA es solo para modelos de imagen
Mostrar respuesta
Respuesta correcta: B
QLoRA (Quantized LoRA) carga el modelo base en precisión de 4 bits y añade adaptadores LoRA encima, reduciendo drásticamente los requisitos de memoria.
Pregunta 7
¿Cuánta memoria ahorra QLoRA en comparación con LoRA para un modelo de 7B?
A) 10%
B) 30%
C) ~60% (de ~14GB a ~6GB)
D) 90%
Mostrar respuesta
Respuesta correcta: C
QLoRA reduce la memoria de aproximadamente 14GB a 6GB para un modelo de 7B, ahorrando cerca del 60% en comparación con LoRA.
Pregunta 8
¿Qué formato de cuantización utiliza QLoRA?
A) INT8
B) NF4 (4-bit NormalFloat)
C) Float16
D) Binario
Mostrar respuesta
Respuesta correcta: B
QLoRA utiliza cuantización NF4 (4-bit NormalFloat), diseñada para tener igual cantidad de valores en cada bin de cuantización para pesos distribuidos normalmente.
Pregunta 9
¿Qué es Prefix Tuning?
A) Entrenar solo la primera capa
B) Añadir tokens virtuales entrenables como prefijos a la atención
C) Optimizar los prompts de entrada
D) Un método de tokenización
Mostrar respuesta
Respuesta correcta: B
Prefix Tuning añade "tokens virtuales" entrenables como prefijos a los estados key y value en las capas de atención.
Pregunta 10
¿Qué método PEFT aprende a reescalar activaciones?
A) LoRA
B) Prefix Tuning
C) IA3
D) QLoRA
Mostrar respuesta
Respuesta correcta: C
IA3 (Infused Adapter by Inhibiting and Amplifying Inner Activations) aprende vectores de escala para reescalar activaciones en lugar de añadir nuevos pesos.
Pregunta 11
¿Qué función se utiliza para aplicar PEFT a un modelo?
A) apply_peft()
B) get_peft_model()
C) create_adapter()
D) add_lora()
Mostrar respuesta
Respuesta correcta: B
La función get_peft_model() de la librería PEFT envuelve un modelo base con la configuración PEFT especificada.
Pregunta 12
¿Qué hace model.merge_and_unload()?
A) Guarda el modelo en disco
B) Fusiona los pesos del adaptador en el modelo base y elimina la sobrecarga del adaptador
C) Carga múltiples adaptadores
D) Libera la memoria de la GPU
Mostrar respuesta
Respuesta correcta: B
merge_and_unload() fusiona los pesos del adaptador LoRA en los pesos del modelo base, creando un modelo estándar sin sobrecarga de adaptador en inferencia.
Pregunta 13
¿Qué tamaño tiene un archivo de adaptador LoRA típico en comparación con un modelo completo?
A) Mismo tamaño
B) 50% del modelo completo
C) ~10-50MB vs ~15GB+
D) 10% del modelo completo
Mostrar respuesta
Respuesta correcta: C
Los archivos de adaptador LoRA suelen tener entre 10 y 50MB, en comparación con archivos de modelo completo de más de 15GB para un modelo de 7B.
Pregunta 14
¿Para qué se utiliza el parámetro alpha en LoRA?
A) Definir la tasa de aprendizaje
B) Escalar la contribución de los pesos LoRA
C) Determinar el tamaño del batch
D) Definir la tasa de dropout
Mostrar respuesta
Respuesta correcta: B
LoRA alpha es un factor de escala que controla la magnitud de la contribución de la adaptación LoRA en la salida. El escalado efectivo es alpha/rank.
Pregunta 15
¿Qué matrices de pesos se suelen modificar con LoRA en transformers?
A) Solo capas de embedding
B) Proyecciones Query, Key, Value (q_proj, k_proj, v_proj)
C) Normalización de capa
D) Softmax de salida
Mostrar respuesta
Respuesta correcta: B
Las matrices de proyección de atención (q_proj, k_proj, v_proj, o_proj) y las capas feed-forward suelen ser los objetivos principales para LoRA.
Pregunta 16
¿Qué es Prompt Tuning?
A) Escribir mejores prompts manualmente
B) Aprender embeddings continuos que se anteponen a las entradas
C) Optimizar la tokenización
D) Un tipo de aumento de datos
Mostrar respuesta
Respuesta correcta: B
Prompt Tuning aprende vectores de embedding continuos que se anteponen a la secuencia de entrada, funcionando como "soft prompts" aprendidos.
Pregunta 17
¿Qué método PEFT utiliza la menor cantidad de parámetros entrenables?
A) LoRA
B) QLoRA
C) IA3 o Prompt Tuning
D) Prefix Tuning
Mostrar respuesta
Respuesta correcta: C
IA3 y Prompt Tuning utilizan la menor cantidad de parámetros (~0.01% del modelo), incluso menos que LoRA (~0.1-1%).
Pregunta 18
¿Qué es la doble cuantización en QLoRA?
A) Cuantizar dos veces en secuencia
B) Cuantizar las propias constantes de cuantización
C) Usar dos formatos de cuantización diferentes
D) Cuantizar pesos y activaciones
Mostrar respuesta
Respuesta correcta: B
La doble cuantización cuantiza adicionalmente las propias constantes de cuantización, ahorrando aproximadamente 0.4 bits extra por parámetro.
Pregunta 19
¿Cuál es la ventaja del intercambio de adaptadores (adapter swapping)?
A) Entrenamiento más rápido
B) Usar un modelo base con múltiples adaptadores específicos de tarea
C) Mejor calidad
D) Tamaño de modelo más pequeño
Mostrar respuesta
Respuesta correcta: B
El intercambio de adaptadores permite usar un solo modelo base con múltiples adaptadores específicos de tarea que pueden intercambiarse rápidamente en tiempo de ejecución.
Pregunta 20
¿Cuándo debería elegir fine-tuning completo en lugar de PEFT?
A) Cuando la memoria es limitada
B) Cuando la máxima calidad posible es crítica y hay recursos disponibles
C) Cuando necesita iterar rápidamente
D) Cuando entrena múltiples tareas
Mostrar respuesta
Respuesta correcta: B
El fine-tuning completo se prefiere cuando se requiere la máxima calidad posible y se dispone de suficientes recursos de cómputo.
Pregunta 21
¿Qué hace AdaLoRA diferente al LoRA estándar?
A) Utiliza un rank más alto
B) Asigna dinámicamente el rank según la importancia de la capa
C) Solo funciona con QLoRA
D) No requiere configuración
Mostrar respuesta
Respuesta correcta: B
AdaLoRA asigna dinámicamente el rank a diferentes matrices de pesos según su importancia, usando más rank para capas importantes y menos para otras.
Pregunta 22
¿Qué librería proporciona BitsAndBytesConfig para QLoRA?
A) peft
B) transformers (usando bitsandbytes)
C) trl
D) datasets
Mostrar respuesta
Respuesta correcta: B
BitsAndBytesConfig se proporciona a través de la librería transformers, que utiliza la librería bitsandbytes para la cuantización real.
Pregunta 23
¿Cuál es la diferencia típica de calidad entre LoRA y el fine-tuning completo?
A) LoRA es 20% peor
B) LoRA es 1-5% inferior en la mayoría de tareas
C) Son idénticos
D) LoRA es mejor
Mostrar respuesta
Respuesta correcta: B
LoRA suele alcanzar entre el 90% y el 99% de la calidad del fine-tuning completo, con diferencias de 1-5% en la mayoría de tareas.
Pregunta 24
¿Cuánto más rápido es el entrenamiento PEFT comparado con el fine-tuning completo?
A) Misma velocidad
B) 10% más rápido
C) 2-3 veces más rápido
D) 10 veces más rápido
Mostrar respuesta
Respuesta correcta: C
El entrenamiento PEFT suele ser 2-3 veces más rápido que el fine-tuning completo debido a menos cálculos de gradientes y actualizaciones de pesos.
Pregunta 25
¿Qué sucede después de fusionar un adaptador LoRA?
A) Disminuye la calidad
B) El modelo se vuelve más grande
C) La inferencia se ejecuta sin sobrecarga de adaptador
D) El adaptador se pierde permanentemente
Mostrar respuesta
Respuesta correcta: C
Después de fusionar, los pesos del adaptador se integran en los pesos del modelo base, por lo que la inferencia se ejecuta sin ninguna sobrecarga de adaptador, idéntico a un modelo ajustado nativamente.
Pregunta 26
¿Cuál es el rank inicial recomendado para experimentos con LoRA?
A) r=1
B) r=16 o r=32
C) r=256
D) r=1024
Mostrar respuesta
Respuesta correcta: B
Comenzar con r=16 o r=32 es lo recomendado como buen equilibrio entre capacidad y eficiencia. Ajuste según los resultados.
Pregunta 27
¿Qué tipo de dato de cómputo (compute dtype) se usa comúnmente con QLoRA?
A) float32
B) int8
C) bfloat16
D) int4
Mostrar respuesta
Respuesta correcta: C
QLoRA suele utilizar bfloat16 como tipo de dato de cómputo para los cálculos forward/backward, aunque los pesos se almacenan en 4 bits.
Pregunta 28
¿Cuál es la relación entre LoRA alpha y rank?
A) Alpha debe ser mucho menor que rank
B) Alpha suele ser 1.5-2 veces el rank
C) Alpha igual a rank
D) No están relacionados
Mostrar respuesta
Respuesta correcta: B
La práctica común es establecer alpha en 1.5-2 veces el rank (por ejemplo, r=16, alpha=32), ya que el escalado efectivo es alpha/rank.
Pregunta 29
¿Qué muestra model.print_trainable_parameters()?
A) Tamaño del modelo
B) Cantidad y porcentaje de parámetros entrenables
C) Progreso del entrenamiento
D) Uso de memoria GPU
Mostrar respuesta
Respuesta correcta: B
print_trainable_parameters() muestra el número de parámetros entrenables, el total de parámetros y el porcentaje entrenable.
Pregunta 30
¿Para la mayoría de los casos de uso, con qué método PEFT se recomienda comenzar?
A) IA3
B) Prefix Tuning
C) LoRA
D) AdaLoRA
Mostrar respuesta
Respuesta correcta: C
LoRA es el método PEFT más versátil y ampliamente utilizado, recomendado como punto de partida por defecto para la mayoría de tareas de fine-tuning.
Resultados
| Puntaje | Nivel |
|---|---|
| 27-30 | Excelente - ¡Gran comprensión de PEFT! |
| 21-26 | Bueno - Revise métodos específicos según sea necesario |
| 15-20 | Promedio - Repase todos los capítulos |
| Menos de 15 | Requiere revisión integral |