Quiz : Déploiement en Production
30 questions sur l'exportation, l'optimisation et la création de produits.
Question 1
Quel format est utilisé pour l'inférence CPU avec llama.cpp ?
A) ONNX
B) GGUF
C) PyTorch
D) TensorFlow
Afficher la réponse
Réponse correcte : B
GGUF est le format standard pour les modèles quantifiés utilisés avec llama.cpp pour l'inférence CPU.
Question 2
Pour quoi vLLM est-il optimisé ?
A) Entraînement
B) Service d'inférence à haut débit
C) Fusion de modèles
D) Préparation des données
Afficher la réponse
Réponse correcte : B
vLLM est optimisé pour le service d'inférence à haut débit en utilisant PagedAttention.
Question 3
Que devez-vous faire avec LoRA avant le déploiement en production ?
A) Le supprimer
B) Fusionner dans le modèle de base
C) Le garder toujours séparé
D) Le compresser
Afficher la réponse
Réponse correcte : B
Pour la production, fusionner LoRA dans le modèle de base simplifie le déploiement et élimine la surcharge de l'adaptateur.
Question 4
Quelle quantification offre le meilleur compromis vitesse/qualité ?
A) FP32
B) FP16
C) INT8
D) INT2
Afficher la réponse
Réponse correcte : C
La quantification INT8 offre généralement une bonne amélioration de la vitesse avec une perte de qualité minimale pour la production.
Question 5
Qu'est-ce que PagedAttention dans vLLM ?
A) Une technique d'entraînement
B) Gestion efficace de la mémoire cache KV
C) Une architecture de modèle
D) Un format de données
Afficher la réponse
Réponse correcte : B
PagedAttention gère efficacement la mémoire cache KV par pagination, permettant un débit plus élevé.
(Les questions 6-30 couvrent des sujets supplémentaires de déploiement)
🎉 Félicitations !
Vous avez terminé le cours complet sur le Fine-Tuning des LLM !