Quiz: Despliegue en Producción
30 preguntas sobre exportación, optimización y construcción de productos.
Pregunta 1
¿Qué formato se utiliza para la inferencia en CPU con llama.cpp?
A) ONNX
B) GGUF
C) PyTorch
D) TensorFlow
Mostrar respuesta
Respuesta correcta: B
GGUF es el formato estándar para modelos cuantizados usados con llama.cpp para inferencia en CPU.
Pregunta 2
¿Para qué está optimizado vLLM?
A) Entrenamiento
B) Servir inferencia de alto rendimiento
C) Fusión de modelos
D) Preparación de datos
Mostrar respuesta
Respuesta correcta: B
vLLM está optimizado para servir inferencia de alto rendimiento utilizando PagedAttention.
Pregunta 3
¿Qué debe hacer con LoRA antes del despliegue en producción?
A) Eliminarlo
B) Fusionarlo con el modelo base
C) Mantenerlo siempre separado
D) Comprimirlo
Mostrar respuesta
Respuesta correcta: B
Para producción, fusionar LoRA con el modelo base simplifica el despliegue y elimina la sobrecarga del adaptador.
Pregunta 4
¿Qué cuantización ofrece el mejor equilibrio entre velocidad y calidad?
A) FP32
B) FP16
C) INT8
D) INT2
Mostrar respuesta
Respuesta correcta: C
La cuantización INT8 normalmente ofrece una buena mejora de velocidad con una pérdida mínima de calidad para producción.
Pregunta 5
¿Qué es PagedAttention en vLLM?
A) Una técnica de entrenamiento
B) Gestión eficiente de la memoria caché KV
C) Una arquitectura de modelo
D) Un formato de datos
Mostrar respuesta
Respuesta correcta: B
PagedAttention gestiona eficientemente la memoria caché KV mediante paginación, permitiendo mayor rendimiento.
(Las preguntas 6-30 cubren temas adicionales de despliegue)
🎉 ¡Felicidades!
¡Ha completado el curso Completo de Fine-Tuning de LLM!