Examen Final: Fine-Tuning de LLM Completo
Evaluación integral que cubre los 10 módulos. 50 preguntas para poner a prueba su dominio de los conceptos y prácticas de fine-tuning de LLM.
Límite de tiempo: 90 minutos
Puntaje de aprobación: 80% (40/50 correctas)
Sección 1: Fundamentos (Preguntas 1-10)
Pregunta 1
¿Cuál es la principal diferencia entre fine-tuning y prompt engineering?
A) El prompt engineering es más rápido para iterar
B) El fine-tuning modifica los pesos internos del modelo
C) El prompt engineering produce mejores resultados
D) El fine-tuning no requiere ningún dato
Mostrar respuesta
Respuesta correcta: B
El fine-tuning modifica los pesos internos del modelo mediante entrenamiento basado en gradientes, mientras que el prompt engineering solo cambia el texto de entrada sin alterar el modelo en sí.
Pregunta 2
¿Cuándo debería preferir RAG sobre fine-tuning?
A) Cuando necesita cambiar el estilo de escritura del modelo
B) Cuando el conocimiento necesita actualizarse frecuentemente
C) Cuando quiere que el modelo siga instrucciones específicas
D) Cuando los recursos de cómputo son ilimitados
Mostrar respuesta
Respuesta correcta: B
RAG (Retrieval-Augmented Generation) se prefiere cuando el conocimiento necesita actualizaciones frecuentes, ya que simplemente puede actualizar la base de datos de recuperación sin volver a entrenar el modelo.
Pregunta 3
¿Qué es el aprendizaje por transferencia (transfer learning) en el contexto de los LLM?
A) Mover un modelo de una GPU a otra
B) Usar el conocimiento del pre-entrenamiento para mejorar el desempeño en nuevas tareas
C) Transferir datos entre conjuntos de datos
D) Convertir modelos entre frameworks
Mostrar respuesta
Respuesta correcta: B
El aprendizaje por transferencia aprovecha el conocimiento que el modelo adquirió durante el pre-entrenamiento en grandes conjuntos de datos para mejorar su desempeño en tareas específicas mediante fine-tuning.
Pregunta 4
¿Qué es el olvido catastrófico (catastrophic forgetting)?
A) Cuando un modelo se vuelve demasiado grande para caber en memoria
B) Cuando se pierden los datos de entrenamiento
C) Cuando un modelo pierde conocimientos previamente aprendidos tras entrenar con nuevos datos
D) Cuando los gradientes se vuelven cero
Mostrar respuesta
Respuesta correcta: C
El olvido catastrófico ocurre cuando el desempeño de un modelo en tareas previamente aprendidas se degrada después de entrenar con nuevos datos, esencialmente "olvidando" lo que aprendió antes.
Pregunta 5
¿Qué escenario es el MÁS adecuado para fine-tuning en lugar de prompting?
A) Pedirle al modelo que resuma un documento
B) Enseñar al modelo el estilo de escritura específico de una empresa
C) Hacer que el modelo responda preguntas sobre eventos actuales
D) Hacer que el modelo traduzca una oración
Mostrar respuesta
Respuesta correcta: B
El fine-tuning es ideal para interiorizar estilos, formatos o comportamientos específicos que son difíciles de transmitir solo con prompts. El estilo de escritura de una empresa es un comportamiento aprendido que se beneficia del fine-tuning.
Pregunta 6
¿Cuál es la principal ventaja de PEFT sobre el fine-tuning completo?
A) Siempre produce mejores resultados de calidad
B) Requiere significativamente menos memoria y cómputo
C) Funciona con cualquier arquitectura de modelo
D) No requiere ningún dato de entrenamiento
Mostrar respuesta
Respuesta correcta: B
Los métodos PEFT solo entrenan un pequeño número de parámetros, reduciendo drásticamente los requisitos de memoria y el tiempo de entrenamiento, manteniendo a menudo una calidad comparable al fine-tuning completo.
Pregunta 7
¿A qué se refiere "parámetros entrenables" en el contexto de PEFT?
A) Todos los parámetros del modelo
B) Solo los parámetros que se actualizan durante el entrenamiento
C) Parámetros que no requieren cálculo de gradiente
D) Solo los embeddings de entrada
Mostrar respuesta
Respuesta correcta: B
Los parámetros entrenables son específicamente aquellos pesos que reciben actualizaciones de gradiente durante el entrenamiento. En PEFT, esto es un pequeño subconjunto del total de parámetros del modelo.
Pregunta 8
¿Cuál es el porcentaje típico de parámetros entrenables en LoRA comparado con el fine-tuning completo?
A) Aproximadamente 50%
B) Aproximadamente 25%
C) Menos del 1%
D) Aproximadamente 10%
Mostrar respuesta
Respuesta correcta: C
LoRA típicamente entrena menos del 1% de los parámetros originales del modelo (a menudo 0.1-0.5%) manteniendo un desempeño comparable al fine-tuning completo.
Pregunta 9
¿Qué determina la "capacidad" de un adaptador LoRA?
A) El tamaño del modelo base
B) El rango (r) de las matrices de bajo rango
C) La tasa de aprendizaje utilizada
D) El tamaño del conjunto de datos
Mostrar respuesta
Respuesta correcta: B
El rango (r) determina cuántos parámetros tiene el adaptador LoRA y, por tanto, su capacidad de aprendizaje. Rangos más altos permiten adaptaciones más complejas pero requieren más parámetros.
Pregunta 10
¿Cuál es el propósito del parámetro alpha en LoRA?
A) Controlar la tasa de aprendizaje
B) Escalar la contribución de los pesos de LoRA
C) Establecer el número de épocas de entrenamiento
D) Determinar el tamaño del batch
Mostrar respuesta
Respuesta correcta: B
Alpha en LoRA es un factor de escala que controla cuánto contribuyen los pesos aprendidos de LoRA a la salida. El escalado efectivo es alpha/rango.
Sección 2: Implementación Técnica (Preguntas 11-25)
Pregunta 11
¿Qué formato de cuantización utiliza principalmente QLoRA?
A) INT8
B) Float16
C) NF4 (4-bit NormalFloat)
D) BFloat16
Mostrar respuesta
Respuesta correcta: C
QLoRA utiliza cuantización NF4 (4-bit NormalFloat), diseñada específicamente para tener igual número de valores en cada bin de cuantización para pesos distribuidos normalmente.
Pregunta 12
¿Qué es la "cuantización doble" en QLoRA?
A) Cuantizar el modelo dos veces
B) Usar dos esquemas de cuantización diferentes
C) Cuantizar las constantes de cuantización en sí mismas
D) Ejecutar la cuantización en dos GPUs
Mostrar respuesta
Respuesta correcta: C
La cuantización doble reduce aún más la memoria al cuantizar también las constantes utilizadas en el primer nivel de cuantización, ahorrando aproximadamente 0.4 bits adicionales por parámetro.
Pregunta 13
¿Qué biblioteca proporciona BitsAndBytesConfig para cuantización de 4 bits?
A) transformers
B) peft
C) bitsandbytes
D) accelerate
Mostrar respuesta
Respuesta correcta: C
La biblioteca bitsandbytes proporciona la funcionalidad de cuantización, aunque se configura a través de BitsAndBytesConfig de transformers.
Pregunta 14
¿Para qué se utiliza el gradient checkpointing?
A) Guardar el progreso del entrenamiento
B) Intercambiar cómputo por memoria recomputando activaciones
C) Verificar explosión de gradientes
D) Sincronizar gradientes entre GPUs
Mostrar respuesta
Respuesta correcta: B
El gradient checkpointing ahorra memoria al no almacenar todas las activaciones durante el forward pass, sino que las recomputa durante el backpropagation. Esto intercambia cómputo extra por menor uso de memoria.
Pregunta 15
¿Qué matrices de pesos se suelen modificar con LoRA en modelos transformer?
A) Solo las capas de embedding
B) Solo la proyección de salida
C) Proyecciones de Query y Value (q_proj, v_proj)
D) Parámetros de normalización de capa
Mostrar respuesta
Respuesta correcta: C
Las matrices de proyección de query y value (q_proj, v_proj) son las más comúnmente modificadas, ya que muestran buenos resultados con pocos parámetros. También se pueden incluir las proyecciones de key y output.
Pregunta 16
¿Qué hace prepare_model_for_kbit_training()?
A) Convierte el modelo a formato k-bit
B) Prepara modelos cuantizados para entrenamiento gestionando layer norms y casteo
C) Carga el modelo en memoria GPU
D) Divide el modelo entre varios dispositivos
Mostrar respuesta
Respuesta correcta: B
Esta función de PEFT prepara un modelo cuantizado para entrenamiento, casteando layer norms a float32 y habilitando gradient checkpointing, necesarios para un entrenamiento estable.
Pregunta 17
¿Cuál es el propósito del formato Alpaca en instruction tuning?
A) Un tokenizador específico
B) Un formato estructurado con campos de instrucción, entrada y salida
C) Un algoritmo de compresión
D) Una arquitectura de modelo
Mostrar respuesta
Respuesta correcta: B
El formato Alpaca estructura los datos de entrenamiento con tres campos: instrucción (qué hacer), entrada (contexto opcional) y salida (respuesta esperada), facilitando el formateo de datos para seguir instrucciones.
Pregunta 18
¿Cuál es la principal diferencia entre el formato ShareGPT y Alpaca?
A) ShareGPT usa XML
B) ShareGPT soporta conversaciones de varios turnos
C) Alpaca soporta varios idiomas
D) ShareGPT es más pequeño
Mostrar respuesta
Respuesta correcta: B
El formato ShareGPT soporta conversaciones de varios turnos con mensajes basados en roles (system, user, assistant), mientras que Alpaca está diseñado para pares de instrucción-respuesta de un solo turno.
Pregunta 19
¿Qué es SFTTrainer en la biblioteca TRL?
A) Una arquitectura de modelo
B) Una clase de entrenamiento para Supervised Fine-Tuning
C) Un cargador de conjuntos de datos
D) Un wrapper de tokenizador
Mostrar respuesta
Respuesta correcta: B
SFTTrainer (Supervised Fine-Tuning Trainer) es una clase especializada en TRL que simplifica el proceso de fine-tuning con características como manejo automático de plantillas de chat y packing.
Pregunta 20
¿Qué permite hacer el "gradient accumulation"?
A) Almacenar gradientes permanentemente
B) Simular batch sizes más grandes con memoria limitada
C) Acelerar el entrenamiento
D) Reducir el tamaño del modelo
Mostrar respuesta
Respuesta correcta: B
El gradient accumulation permite simular batch sizes efectivos más grandes acumulando gradientes durante múltiples forward passes antes de realizar una actualización de pesos.
Pregunta 21
¿Qué tasa de aprendizaje se recomienda típicamente para fine-tuning con LoRA?
A) 1e-2 a 1e-3
B) 1e-4 a 1e-5
C) 1e-6 a 1e-7
D) 1.0
Mostrar respuesta
Respuesta correcta: B
El fine-tuning con LoRA típicamente utiliza tasas de aprendizaje en el rango de 1e-4 a 1e-5, que es más alta que el fine-tuning completo porque solo se actualiza un pequeño número de parámetros.
Pregunta 22
¿Qué es DPO (Direct Preference Optimization)?
A) Una técnica de preprocesamiento de datos
B) Una alternativa a RLHF que optimiza preferencias directamente sin un modelo de recompensa
C) Un método de cuantización
D) Una arquitectura de modelo
Mostrar respuesta
Respuesta correcta: B
DPO optimiza directamente el modelo de lenguaje usando pares de preferencias (elegido/rechazado) sin necesidad de entrenar un modelo de recompensa separado, simplificando el pipeline de RLHF.
Pregunta 23
¿Qué tipo de datos requiere DPO?
A) Solo ejemplos positivos
B) Pares de preferencias (respuestas elegidas y rechazadas)
C) Datos de clasificación etiquetados
D) Texto sin etiquetar
Mostrar respuesta
Respuesta correcta: B
DPO requiere datos de preferencias consistentes en pares donde una respuesta es preferida (elegida) sobre otra (rechazada) para el mismo prompt.
Pregunta 24
¿Cuál es la principal innovación de ORPO en comparación con DPO?
A) Usa menos datos
B) Combina SFT y optimización de preferencias en una sola etapa
C) No requiere preferencias
D) Solo funciona con modelos pequeños
Mostrar respuesta
Respuesta correcta: B
ORPO (Odds Ratio Preference Optimization) combina el fine-tuning supervisado y la alineación de preferencias en una sola etapa de entrenamiento, a diferencia de DPO que normalmente requiere un paso SFT separado primero.
Pregunta 25
¿Qué controla el parámetro "beta" en DPO?
A) Tamaño del batch
B) La fuerza de la optimización de preferencias vs mantenerse cerca del modelo de referencia
C) Tasa de aprendizaje
D) Número de épocas
Mostrar respuesta
Respuesta correcta: B
Beta controla la penalización de divergencia KL, equilibrando cuán fuertemente el modelo optimiza por preferencias frente a mantenerse cerca del comportamiento del modelo base (referencia).
Sección 3: Evaluación y Despliegue (Preguntas 26-40)
Pregunta 26
¿Qué mide la perplexidad?
A) Tamaño del modelo
B) Qué tan bien el modelo predice texto (menor es mejor)
C) Velocidad de entrenamiento
D) Uso de memoria
Mostrar respuesta
Respuesta correcta: B
La perplexity mide qué tan bien un modelo de probabilidad predice una muestra. Una perplexity menor indica que el modelo predice mejor el texto, es decir, está menos "sorprendido" por los datos.
Pregunta 27
¿Qué es TIES-Merging?
A) Una técnica de entrenamiento
B) Un método para combinar varios modelos que gestiona conflictos de parámetros
C) Un esquema de tokenización
D) Una métrica de evaluación
Mostrar respuesta
Respuesta correcta: B
TIES (Trim, Elect Sign & Merge) es una técnica de fusión de modelos que gestiona mejor los conflictos entre parámetros del modelo que el promedio simple, resolviendo conflictos de signo y recortando valores pequeños.
Pregunta 28
¿Qué herramienta se usa comúnmente para fusionar adaptadores LoRA y modelos?
A) PyTorch
B) MergeKit
C) TensorFlow
D) NumPy
Mostrar respuesta
Respuesta correcta: B
MergeKit es un toolkit popular diseñado específicamente para fusionar modelos de lenguaje, soportando varios métodos como fusión lineal, TIES, DARE y SLERP.
Pregunta 29
¿Qué formato se usa comúnmente para inferencia en CPU con llama.cpp?
A) ONNX
B) GGUF
C) PyTorch
D) TensorFlow SavedModel
Mostrar respuesta
Respuesta correcta: B
GGUF (GPT-Generated Unified Format) es el formato estándar para modelos cuantizados usados con llama.cpp para inferencia eficiente en CPU.
Pregunta 30
¿Para qué está optimizado principalmente vLLM?
A) Entrenamiento de modelos
B) Servir inferencia de alto rendimiento
C) Preprocesamiento de datos
D) Cuantización de modelos
Mostrar respuesta
Respuesta correcta: B
vLLM es un motor de inferencia optimizado para servir LLMs con alto rendimiento, usando técnicas como PagedAttention para gestionar eficientemente la memoria y solicitudes en batch.
Pregunta 31
¿Qué es PagedAttention en vLLM?
A) Una técnica de entrenamiento
B) Un mecanismo de atención que gestiona la memoria KV cache mediante paginación
C) Un método de tokenización
D) Una arquitectura de modelo
Mostrar respuesta
Respuesta correcta: B
PagedAttention gestiona la memoria de la KV cache como páginas de memoria virtual, permitiendo una utilización de memoria más eficiente y mayor rendimiento en inferencia.
Pregunta 32
Para fusionar los pesos de LoRA en el modelo base, ¿qué método debe usar?
A) model.save_pretrained()
B) model.merge_and_unload()
C) model.quantize()
D) model.train()
Mostrar respuesta
Respuesta correcta: B
El método merge_and_unload() fusiona los pesos del adaptador LoRA en los pesos del modelo base y elimina el adaptador, resultando en un modelo estándar sin la sobrecarga de LoRA.
Pregunta 33
¿Qué es un estudio de ablación en el contexto de fine-tuning?
A) Eliminar el modelo de la memoria
B) Probar sistemáticamente diferentes componentes para entender su contribución
C) Un tipo de cuantización
D) Una estrategia de despliegue
Mostrar respuesta
Respuesta correcta: B
Un estudio de ablación elimina o cambia sistemáticamente componentes (como rango de LoRA, tasa de aprendizaje, tamaño del dataset) para entender su contribución individual al desempeño del modelo.
Pregunta 34
¿Cuál es el propósito de la evaluación de pérdida (evaluation loss) durante el entrenamiento?
A) Actualizar los pesos del modelo
B) Monitorear el sobreajuste en un conjunto de validación
C) Calcular gradientes
D) Guardar checkpoints
Mostrar respuesta
Respuesta correcta: B
La evaluation loss en un conjunto de validación ayuda a detectar sobreajuste: cuando la pérdida de entrenamiento disminuye pero la de validación aumenta, el modelo está memorizando en lugar de generalizar.
Pregunta 35
¿Qué previene el "early stopping"?
A) Entrenamiento lento
B) Sobreajuste deteniendo cuando el desempeño en validación deja de mejorar
C) Explosión de gradientes
D) Desbordamiento de memoria
Mostrar respuesta
Respuesta correcta: B
El early stopping monitorea el desempeño en validación y detiene el entrenamiento cuando deja de mejorar, previniendo que el modelo se sobreajuste a los datos de entrenamiento.
Pregunta 36
¿Qué métrica se usa más comúnmente para evaluar modelos que siguen instrucciones?
A) BLEU
B) Tasa de victoria contra un baseline (evaluación humana o GPT-4)
C) Tasa de error de palabras
D) Puntaje F1
Mostrar respuesta
Respuesta correcta: B
Las comparaciones de tasa de victoria (a menudo usando GPT-4 como juez o evaluación humana) son comunes porque capturan mejor la calidad de la generación libre que las métricas tradicionales.
Pregunta 37
¿Para qué se usa Weights & Biases (W&B) en el flujo de trabajo de fine-tuning?
A) Cuantización de modelos
B) Seguimiento y visualización de experimentos
C) Servir inferencia
D) Almacenamiento de datos
Mostrar respuesta
Respuesta correcta: B
Weights & Biases es una plataforma de seguimiento de experimentos que registra métricas de entrenamiento, hiperparámetros y artefactos, facilitando la comparación de ejecuciones y la reproducción de experimentos.
Pregunta 38
¿Cuál es el enfoque recomendado al desplegar un modelo fine-tuned con LoRA en producción?
A) Mantener LoRA separado para flexibilidad
B) Fusionar en el modelo base para un despliegue más simple, a menos que necesite intercambio de adaptadores
C) Usar solo versiones cuantizadas
D) Siempre volver a entrenar desde cero
Mostrar respuesta
Respuesta correcta: B
Para la mayoría de los despliegues en producción, fusionar LoRA en el modelo base simplifica la pila. Manténgalos separados solo si necesita intercambiar múltiples adaptadores dinámicamente.
Pregunta 39
¿Qué nivel de cuantización es típicamente el mejor para calidad de inferencia en producción?
A) 2-bit
B) 4-bit
C) 8-bit
D) 1-bit
Mostrar respuesta
Respuesta correcta: C
La cuantización de 8 bits (INT8) suele ofrecer el mejor equilibrio entre velocidad/memoria de inferencia y retención de calidad. 4 bits funciona bien en muchos casos pero puede mostrar más degradación de calidad.
Pregunta 40
¿Qué es la decodificación especulativa (speculative decoding)?
A) Usar un modelo pequeño de borrador para acelerar la generación proponiendo tokens que el modelo grande verifica
B) Generar múltiples salidas en paralelo
C) Predecir resultados de entrenamiento
D) Una técnica de entrenamiento
Mostrar respuesta
Respuesta correcta: A
La decodificación especulativa utiliza un modelo pequeño y rápido para proponer varios tokens, que luego el modelo grande verifica en paralelo, acelerando la generación 2-3 veces.
Sección 4: Buenas Prácticas y Conceptos Avanzados (Preguntas 41-50)
Pregunta 41
¿Cuál es el tamaño mínimo de dataset recomendado para fine-tuning de un modelo que sigue instrucciones?
A) 10 ejemplos
B) 100-500 ejemplos de alta calidad
C) Siempre 100,000+ ejemplos
D) El tamaño del dataset no importa
Mostrar respuesta
Respuesta correcta: B
100-500 ejemplos de alta calidad y diversidad pueden ser suficientes para muchas tareas de fine-tuning. La calidad importa más que la cantidad: un dataset pequeño y de alta calidad suele superar a uno grande y ruidoso.
Pregunta 42
¿Qué es la generación de datos sintéticos en fine-tuning?
A) Crear métricas de evaluación falsas
B) Usar modelos de IA para generar datos de entrenamiento
C) Simular el rendimiento de la GPU
D) Crear arquitecturas de modelo automáticamente
Mostrar respuesta
Respuesta correcta: B
La generación de datos sintéticos utiliza modelos de IA (a menudo más potentes como GPT-4) para crear ejemplos de entrenamiento, que pueden ser filtrados y curados para construir datasets de alta calidad.
Pregunta 43
¿Cuál es el beneficio de usar una plantilla de chat durante el entrenamiento?
A) Tokenización más rápida
B) Asegura un formato consistente que coincide con el uso en inferencia
C) Reduce el uso de memoria
D) Mejora la cuantización
Mostrar respuesta
Respuesta correcta: B
Las plantillas de chat aseguran que los datos de entrenamiento tengan el mismo formato que las entradas de inferencia, incluyendo tokens especiales para diferentes roles. Los formatos desalineados entre entrenamiento e inferencia pueden perjudicar el desempeño.
Pregunta 44
¿Qué es la contaminación de datos (data contamination) en la evaluación de modelos?
A) Corrupción de datos
B) Cuando los datos de evaluación fueron vistos durante el entrenamiento
C) Valores faltantes en el dataset
D) Etiquetas incorrectas
Mostrar respuesta
Respuesta correcta: B
La contaminación de datos ocurre cuando los datos de evaluación aparecen en los datos de entrenamiento, inflando artificialmente las métricas de desempeño y haciendo imposible una comparación justa.
Pregunta 45
¿Con qué rango de LoRA debería comenzar para experimentar?
A) r=1
B) r=16 o r=32
C) r=256
D) r=1024
Mostrar respuesta
Respuesta correcta: B
Comenzar con r=16 o r=32 es un buen equilibrio entre capacidad y eficiencia. Luego puede ajustar según los resultados: muchas tareas funcionan bien con r=8, mientras que tareas complejas pueden requerir r=64+.
Pregunta 46
¿Cuál es la relación entre el rango de LoRA y alpha en la práctica?
A) Alpha debe ser igual al rango
B) Alpha suele ser 1.5-2x el rango
C) Alpha debe ser mucho menor que el rango
D) Son independientes
Mostrar respuesta
Respuesta correcta: B
La práctica común es establecer alpha en 1.5-2x el rango (por ejemplo, r=16, alpha=32). Esto se debe a que el escalado efectivo es alpha/rango, y valores cercanos a 2 funcionan bien en la práctica.
Pregunta 47
¿Qué causa "NaN loss" durante el entrenamiento?
A) Datos faltantes
B) Inestabilidad numérica, a menudo por tasa de aprendizaje alta o manejo inadecuado de precisión
C) Demasiados datos
D) Optimizador incorrecto
Mostrar respuesta
Respuesta correcta: B
La pérdida NaN (Not a Number) suele deberse a inestabilidad numérica causada por tasas de aprendizaje demasiado altas, gradientes explosivos o manejo inadecuado de entrenamiento con precisión mixta.
Pregunta 48
¿Cuál es el propósito del periodo de warmup en el entrenamiento?
A) Calentar la GPU
B) Incrementar gradualmente la tasa de aprendizaje para un entrenamiento estable
C) Precargar datos
D) Compilar el modelo
Mostrar respuesta
Respuesta correcta: B
El warmup incrementa gradualmente la tasa de aprendizaje desde un valor pequeño hasta la tasa objetivo, ayudando a estabilizar el entrenamiento en las primeras etapas cuando los gradientes pueden ser inestables.
Pregunta 49
Al hacer fine-tuning para un dominio específico (por ejemplo, médico), ¿qué es lo más importante?
A) Usar el modelo más grande posible
B) Datos de alta calidad y específicos del dominio, con formato adecuado
C) Entrenar muchas épocas
D) Tamaño máximo de batch
Mostrar respuesta
Respuesta correcta: B
El fine-tuning específico de dominio depende críticamente de la calidad y relevancia de los datos de entrenamiento. Un dataset pequeño de ejemplos de alta calidad y bien formateados típicamente supera a datasets generales más grandes.
Pregunta 50
¿Cuál es el factor más importante para determinar el éxito del fine-tuning?
A) Tamaño del modelo
B) Tiempo de entrenamiento
C) Calidad y relevancia de los datos
D) Tipo de GPU
Mostrar respuesta
Respuesta correcta: C
La calidad y relevancia de los datos son los factores más críticos. Un dataset bien curado y relevante producirá mejores resultados que datos más grandes pero de menor calidad, sin importar el tamaño del modelo o el cómputo.
Interpretación de Resultados
| Puntaje | Nivel | Recomendación |
|---|---|---|
| 45-50 | Experto | Listo para proyectos de fine-tuning en producción |
| 40-44 | Competente | Entendimiento sólido, repase áreas específicas débiles |
| 35-39 | Intermedio | Revise secciones avanzadas antes de trabajo en producción |
| 30-34 | En desarrollo | Revise los módulos 4-8 para conceptos técnicos clave |
| Menos de 30 | Principiante | Complete todos los módulos con ejercicios antes de volver a intentar |
Certificación
Al lograr una puntuación del 80% o superior, usted ha demostrado un conocimiento integral de los conceptos, técnicas y buenas prácticas de fine-tuning de LLM.
Competencias clave validadas:
- ✅ Comprensión de fine-tuning vs alternativas (RAG, prompting)
- ✅ Implementación de métodos PEFT (LoRA, QLoRA)
- ✅ Preparación de datos y control de calidad
- ✅ Configuración y optimización del entrenamiento
- ✅ Técnicas avanzadas (DPO, ORPO)
- ✅ Evaluación y fusión de modelos
- ✅ Consideraciones para despliegue en producción