Quiz : Module 7 - Fondamentaux de l'ajustement fin

Question 1

Que signifie PEFT ?

1. Ajustement fin efficace en paramètres
2. Ajustement fin efficace parallèle
3. Ajustement fin efficace pré-entraîné
4. Ajustement fin d'intégration partielle

Question 2

Quel pourcentage de paramètres LoRA entraîne-t-il généralement ?

1. 0,1-1%
2. 10-20%
3. 50%
4. 100%

Question 3

Qu'est-ce que l'oubli catastrophique ?

1. Le modèle perd ses connaissances pré-entraînées pendant l'ajustement fin
2. Débordement de mémoire pendant l'entraînement
3. Oubli de sauvegarder les points de contrôle
4. La fonction de perte tend vers zéro

Question 4

Que représente le paramètre "r" dans LoRA ?

1. Le rang des matrices de faible rang
2. Taux d'apprentissage
3. Force de régularisation
4. Nombre de répétitions

Question 5

Qu'est-ce que QLoRA ?

1. LoRA avec modèle de base quantifié
2. Poids LoRA quantifiés
3. Entraînement LoRA rapide
4. LoRA conscient de la qualité

Question 6

Qu'est-ce que l'ajustement par instruction ?

1. Entraîner des modèles à suivre des instructions en langage naturel
2. Ajustement des hyperparamètres
3. Écrire de meilleurs prompts
4. Compiler les instructions d'entraînement

Question 7

Quelles couches sont généralement ciblées par LoRA ?

1. Couches de projection d'attention (q_proj, v_proj)
2. Seulement la couche d'intégration
3. Seulement la couche de sortie
4. Toutes les couches également

Question 8

Quel est un taux d'apprentissage typique pour l'ajustement fin des LLM ?

1. 1e-5 à 5e-5
2. 0,1
3. 0,01
4. 1e-2

Question 9

Qu'est-ce que le jeu de données Alpaca ?

1. 52K exemples de suivi d'instructions générés par GPT-4
2. Un jeu de données d'images
3. Un jeu de données de code
4. Un jeu de données de traduction

Question 10

Pourquoi utiliser l'accumulation de gradients ?

1. Pour simuler des tailles de lot plus grandes avec une mémoire limitée
2. Pour accélérer l'entraînement
3. Pour améliorer la précision
4. Pour réduire le surapprentissage

Questions 11-30

(Couvrant : méthodes d'adaptateur, ajustement de prompt, ajustement de préfixe, compromis entre ajustement complet et PEFT, qualité des jeux de données, métriques d'évaluation, ajustement des hyperparamètres, ajustement fin multitâche, adaptation de domaine, apprentissage continu)

Question 11

À quoi sert lora_alpha ?

1. Facteur d'échelle pour les mises à jour LoRA
2. Taux d'apprentissage
3. Taux de dropout
4. Désintégration du poids

Question 12

Quelle VRAM est généralement nécessaire pour l'ajustement fin complet d'un modèle 7B (FP16) ?

1. ~56GB
2. 16GB
3. 8GB
4. 128GB

Question 13

Qu'est-ce que l'ajustement de préfixe ?

1. Ajouter des tokens de préfixe entraînables aux entrées
2. Entraînement sur des préfixes de texte
3. Modification du tokenizer
4. Prétraitement des données

Question 14

Qu'est-ce qui rend les données d'instruction de haute qualité ?

1. Tâches diverses, réponses précises, format cohérent
2. Grande quantité seulement
3. Réponses longues
4. Instructions simples

Question 15

Quel est le but des étapes de warmup ?

1. Augmenter progressivement le taux d'apprentissage pour éviter l'instabilité de l'entraînement
2. Charger le modèle en mémoire
3. Valider le jeu de données
4. Compiler le modèle

Question 16

Quand l'ajustement fin complet est-il préféré à LoRA ?

1. Lorsque la performance maximale est nécessaire et que le calcul est disponible
2. Toujours
3. Pour des expériences rapides
4. Lorsque la mémoire est limitée

Question 17

Quel est l'avantage de LoRA par rapport à l'ajustement fin complet ?

1. Exigences en mémoire beaucoup plus faibles
2. Toujours meilleure qualité
3. Inférence plus rapide
4. Code plus simple

Question 18

Qu'est-ce que l'ajustement d'adaptateur ?

1. Ajouter de petits modules entraînables entre les couches gelées
2. Adapter le format d'entrée
3. Convertir le format du modèle
4. Adaptation matérielle

Question 19

Comment pouvez-vous fusionner les poids LoRA dans le modèle de base ?

1. model.merge_and_unload()
2. model.combine()
3. Pas possible
4. Nécessite un réentraînement

Question 20

Pour quoi est connu le jeu de données Dolly ?

1. Données d'instructions écrites par des humains (15K exemples)
2. Le plus grand jeu de données
3. Code uniquement
4. Données synthétiques

Question 21

Que spécifie target_modules dans la configuration LoRA ?

1. À quelles couches du modèle appliquer LoRA
2. Format de sortie
3. Objectifs d'entraînement
4. Métriques d'évaluation

Question 22

Qu'est-ce que l'ajustement fin multitâche ?

1. Entraînement sur plusieurs tâches simultanément
2. Exécution de plusieurs travaux d'entraînement
3. Utilisation de plusieurs GPU
4. Entraînement de tâches séquentielles

Question 23

Quel est l'effet d'un rang LoRA (r) plus élevé ?

1. Plus de paramètres, potentiellement meilleure qualité
2. Entraînement plus rapide
3. Moins de mémoire
4. Modèle plus simple

Question 24

Pourquoi utiliser un jeu de données d'évaluation pendant l'ajustement fin ?

1. Surveiller le surapprentissage et la généralisation
2. Augmenter les données d'entraînement
3. Accélérer l'entraînement
4. Réduire la mémoire

Question 25

Qu'est-ce que la collection FLAN ?

1. Grande collection de jeux de données de tâches académiques pour l'ajustement par instruction
2. Une architecture de modèle
3. Un tokenizer
4. Une bibliothèque d'ajustement fin

Question 26

Quelle bibliothèque fournit des méthodes PEFT ?

1. peft (par Hugging Face)
2. pytorch uniquement
3. tensorflow uniquement
4. numpy

Question 27

Qu'est-ce que lora_dropout ?

1. Dropout appliqué aux couches LoRA pour la régularisation
2. Suppression des couches LoRA
3. Réduction du rang
4. Arrêt précoce

Question 28

Quand pourriez-vous avoir besoin d'un ajustement fin spécifique au domaine ?

1. Domaines juridiques, médicaux ou techniques avec un vocabulaire spécialisé
2. Chatbot général
3. Q&R simple
4. Traduction

Question 29

Qu'est-ce que l'apprentissage continu dans les LLM ?

1. Mettre à jour le modèle sur de nouvelles données sans oublier les anciennes connaissances
2. Longues sessions d'entraînement
3. Inférence continue
4. Apprentissage en temps réel

Question 30

Quelle est une bonne stratégie pour prévenir le surapprentissage pendant l'ajustement fin ?

1. Arrêt précoce basé sur la perte de validation
2. Entraîner plus longtemps
3. Augmenter le taux d'apprentissage
4. Supprimer le jeu de validation

---

Score de passage : 24/30 (80%)

← Chapitre 3Module 8 →