Quiz : Entraînement avec Hugging Face
30 questions sur Transformers, TRL, et l'optimisation de l'entraînement.
Question 1
Quelle classe est utilisée pour charger les modèles de génération de texte ?
A) AutoModel
B) AutoModelForCausalLM
C) AutoModelForSeq2Seq
D) GPTModel
Afficher la réponse
Réponse correcte : B
AutoModelForCausalLM est utilisé pour les modèles de langage causal (génération de texte).
Question 2
Que signifie SFTTrainer ?
A) Simple Fine-Tuning Trainer
B) Supervised Fine-Tuning Trainer
C) Sequence Fine-Tuning Trainer
D) Standard Format Trainer
Afficher la réponse
Réponse correcte : B
SFTTrainer est le Supervised Fine-Tuning Trainer de la bibliothèque TRL.
Question 3
Quel planificateur de taux d'apprentissage est le plus courant pour le fine-tuning ?
A) Constant
B) Step
C) Cosine
D) Exponential
Afficher la réponse
Réponse correcte : C
Le planificateur de taux d'apprentissage Cosine est le plus couramment utilisé pour le fine-tuning.
Question 4
Que fait device_map="auto" ?
A) Trouve automatiquement le meilleur appareil
B) Utilise uniquement le CPU
C) Distribue automatiquement le modèle sur les GPU disponibles
D) Désactive l'utilisation du GPU
Afficher la réponse
Réponse correcte : C
device_map="auto" place automatiquement les couches du modèle sur les GPU disponibles.
Question 5
À quoi doit être défini pad_token pour l'entraînement LM causal ?
A) Un nouveau token
B) Le token EOS
C) Le token BOS
D) Le laisser vide
Afficher la réponse
Réponse correcte : B
Pour les modèles de langage causal, pad_token est généralement défini sur eos_token.
(Les questions 6-30 couvrent des sujets supplémentaires sur l'entraînement)
Résultats
| Score | Niveau |
|---|---|
| 27-30 | Excellent |
| 21-26 | Bon |
| 15-20 | Moyen |
| Moins de 15 | Révision nécessaire |