Examen final : Compléter le réglage fin de LLM
Évaluation complète couvrant les 10 modules. 50 questions pour tester votre maîtrise des concepts et pratiques de réglage fin de LLM.
Limite de temps : 90 minutes
Note de passage : 80 % (40/50 correct)
Section 1 : Fondamentaux (Questions 1-10)
Question 1
Quelle est la principale différence entre le réglage fin et l'ingénierie de prompt ?
A) L'ingénierie de prompt est plus rapide à itérer
B) Le réglage fin modifie les poids internes du modèle
C) L'ingénierie de prompt produit de meilleurs résultats
D) Le réglage fin ne nécessite aucune donnée
Afficher la réponse
Réponse correcte : B
Le réglage fin modifie les poids internes du modèle par le biais d'un entraînement basé sur le gradient, tandis que l'ingénierie de prompt ne change que le texte d'entrée sans altérer le modèle lui-même.
Question 2
Quand devriez-vous préférer RAG au réglage fin ?
A) Lorsque vous devez changer le style d'écriture du modèle
B) Lorsque les connaissances doivent être mises à jour fréquemment
C) Lorsque vous voulez que le modèle suive des instructions spécifiques
D) Lorsque les ressources de calcul sont illimitées
Afficher la réponse
Réponse correcte : B
RAG (Génération Augmentée par Récupération) est préféré lorsque les connaissances nécessitent des mises à jour fréquentes car vous pouvez simplement mettre à jour la base de données de récupération sans réentraîner le modèle.
Question 3
Qu'est-ce que l'apprentissage par transfert dans le contexte des LLM ?
A) Déplacer un modèle d'un GPU à un autre
B) Utiliser les connaissances acquises lors de l'entraînement préalable pour améliorer les performances sur de nouvelles tâches
C) Transférer des données entre ensembles de données
D) Convertir des modèles entre frameworks
Afficher la réponse
Réponse correcte : B
L'apprentissage par transfert exploite les connaissances qu'un modèle a acquises lors de l'entraînement préalable sur de grands ensembles de données pour améliorer ses performances sur des tâches spécifiques en aval grâce au réglage fin.
Question 4
Qu'est-ce que l'oubli catastrophique ?
A) Lorsqu'un modèle devient trop grand pour tenir en mémoire
B) Lorsque les données d'entraînement sont perdues
C) Lorsqu'un modèle perd des connaissances précédemment acquises après un entraînement sur de nouvelles données
D) Lorsque les gradients deviennent nuls
Afficher la réponse
Réponse correcte : C
L'oubli catastrophique se produit lorsque les performances d'un modèle sur des tâches précédemment apprises se dégradent après avoir été entraîné sur de nouvelles données, "oubliant" essentiellement ce qu'il avait appris auparavant.
Question 5
Quel scénario est LE MIEUX adapté pour le réglage fin plutôt que le prompt ?
A) Demander à un modèle de résumer un document
B) Enseigner à un modèle le style d'écriture spécifique d'une entreprise
C) Faire en sorte qu'un modèle réponde à des questions sur des événements actuels
D) Faire traduire une phrase par un modèle
Afficher la réponse
Réponse correcte : B
Le réglage fin est le meilleur pour internaliser des styles, formats ou comportements spécifiques qui sont difficiles à transmettre uniquement par des prompts. Le style d'écriture d'une entreprise est un comportement appris qui bénéficie du réglage fin.
Question 6
Quel est l'avantage principal de PEFT par rapport au réglage fin complet ?
A) Produit toujours des résultats de meilleure qualité
B) Nécessite beaucoup moins de mémoire et de calcul
C) Fonctionne avec n'importe quelle architecture de modèle
D) Ne nécessite aucune donnée d'entraînement
Afficher la réponse
Réponse correcte : B
Les méthodes PEFT n'entraînent qu'un petit nombre de paramètres, réduisant considérablement les besoins en mémoire et le temps d'entraînement tout en maintenant souvent une qualité comparable au réglage fin complet.
Question 7
À quoi se réfèrent les "paramètres entraînables" dans le contexte de PEFT ?
A) Tous les paramètres du modèle
B) Uniquement les paramètres mis à jour pendant l'entraînement
C) Paramètres qui ne nécessitent aucun calcul de gradient
D) Les embeddings d'entrée uniquement
Afficher la réponse
Réponse correcte : B
Les paramètres entraînables sont spécifiquement ceux qui reçoivent des mises à jour de gradient pendant l'entraînement. Dans PEFT, il s'agit d'un petit sous-ensemble des paramètres totaux du modèle.
Question 8
Quel est le pourcentage typique de paramètres entraînables dans LoRA par rapport au réglage fin complet ?
A) Environ 50 %
B) Environ 25 %
C) Moins de 1 %
D) Environ 10 %
Afficher la réponse
Réponse correcte : C
LoRA entraîne généralement moins de 1 % des paramètres du modèle original (souvent 0,1-0,5 %) tout en maintenant des performances comparables au réglage fin complet.
Question 9
Qu'est-ce qui détermine la "capacité" d'un adaptateur LoRA ?
A) La taille du modèle de base
B) Le rang (r) des matrices de faible rang
C) Le taux d'apprentissage utilisé
D) La taille de l'ensemble de données
Afficher la réponse
Réponse correcte : B
Le rang (r) détermine combien de paramètres l'adaptateur LoRA possède et donc sa capacité à apprendre. Des rangs plus élevés permettent des adaptations plus complexes mais nécessitent plus de paramètres.
Question 10
Quel est le but du paramètre alpha de LoRA ?
A) Contrôler le taux d'apprentissage
B) Échelonner la contribution des poids LoRA
C) Définir le nombre d'époques d'entraînement
D) Déterminer la taille du lot
Afficher la réponse
Réponse correcte : B
L'alpha de LoRA est un facteur d'échelle qui contrôle combien les poids LoRA appris contribuent à la sortie. L'échelle effective est alpha/rang.
Section 2 : Mise en œuvre technique (Questions 11-25)
Question 11
Quel format de quantification QLoRA utilise-t-il principalement ?
A) INT8
B) Float16
C) NF4 (4-bit NormalFloat)
D) BFloat16
Afficher la réponse
Réponse correcte : C
QLoRA utilise la quantification NF4 (4-bit NormalFloat), qui est spécifiquement conçue pour avoir un nombre égal de valeurs dans chaque bin de quantification pour les poids normalement distribués.
Question 12
Qu'est-ce que la "double quantification" dans QLoRA ?
A) Quantifier le modèle deux fois
B) Utiliser deux schémas de quantification différents
C) Quantifier les constantes de quantification elles-mêmes
D) Exécuter la quantification sur deux GPU
Afficher la réponse
Réponse correcte : C
La double quantification réduit encore la mémoire en quantifiant également les constantes utilisées dans le premier niveau de quantification, économisant environ 0,4 bits supplémentaires par paramètre.
Question 13
Quelle bibliothèque fournit le BitsAndBytesConfig pour la quantification en 4 bits ?
A) transformers
B) peft
C) bitsandbytes
D) accelerate
Afficher la réponse
Réponse correcte : C
La bibliothèque bitsandbytes fournit la fonctionnalité de quantification, bien qu'elle soit configurée via le BitsAndBytesConfig de transformers.
Question 14
À quoi sert le gradient checkpointing ?
A) Sauvegarder la progression de l'entraînement
B) Échanger du calcul contre de la mémoire en recomputant les activations
C) Vérifier l'explosion du gradient
D) Synchroniser les gradients entre les GPU
Afficher la réponse
Réponse correcte : B
Le gradient checkpointing économise de la mémoire en ne stockant pas toutes les activations pendant la passe avant, les recomputant plutôt pendant la rétropropagation. Cela échange un calcul supplémentaire contre une réduction de la mémoire.
Question 15
Quelles matrices de poids sont le plus souvent ciblées pour LoRA dans les modèles de transformateurs ?
A) Couches d'embedding uniquement
B) Projection de sortie uniquement
C) Projections de requête et de valeur (q_proj, v_proj)
D) Paramètres de normalisation de couche
Afficher la réponse
Réponse correcte : C
Les matrices de projection de requête et de valeur (q_proj, v_proj) sont le plus souvent ciblées car elles montrent de bons résultats avec un minimum de paramètres. Les projections de clé et de sortie peuvent également être incluses.
Question 16
Que fait prepare_model_for_kbit_training() ?
A) Convertit le modèle au format k-bit
B) Prépare les modèles quantifiés pour l'entraînement en gérant les normalisations de couche et le casting
C) Charge le modèle en mémoire GPU
D) Divise le modèle sur plusieurs appareils
Afficher la réponse
Réponse correcte : B
Cette fonction de PEFT prépare un modèle quantifié pour l'entraînement en castant les normalisations de couche en float32 et en activant le gradient checkpointing, nécessaires pour un entraînement stable.
Question 17
Quel est le but du format Alpaca dans le réglage par instruction ?
A) Un tokenizer spécifique
B) Un format structuré avec des champs d'instruction, d'entrée et de sortie
C) Un algorithme de compression
D) Une architecture de modèle
Afficher la réponse
Réponse correcte : B
Le format Alpaca structure les données d'entraînement avec trois champs : instruction (quoi faire), entrée (contexte optionnel) et sortie (réponse attendue), facilitant le formatage des données de suivi d'instructions.
Question 18
Quelle est la principale différence entre le format ShareGPT et Alpaca ?
A) ShareGPT utilise XML
B) ShareGPT prend en charge les conversations multi-tours
C) Alpaca prend en charge plusieurs langues
D) ShareGPT est plus petit
Afficher la réponse
Réponse correcte : B
Le format ShareGPT prend en charge les conversations multi-tours avec des messages basés sur des rôles (système, utilisateur, assistant), tandis qu'Alpaca est conçu pour des paires instruction-réponse à un seul tour.
Question 19
Qu'est-ce que SFTTrainer dans la bibliothèque TRL ?
A) Une architecture de modèle
B) Une classe d'entraîneur pour le réglage fin supervisé
C) Un chargeur de données
D) Un wrapper de tokenizer
Afficher la réponse
Réponse correcte : B
SFTTrainer (Supervised Fine-Tuning Trainer) est une classe d'entraîneur spécialisée dans TRL qui simplifie le processus de réglage fin avec des fonctionnalités telles que la gestion automatique des modèles de chat et le packing.
Question 20
Que permet de faire "l'accumulation de gradient" ?
A) Stocker les gradients de manière permanente
B) Simuler des tailles de lot plus grandes avec une mémoire limitée
C) Accélérer l'entraînement
D) Réduire la taille du modèle
Afficher la réponse
Réponse correcte : B
L'accumulation de gradient vous permet de simuler des tailles de lot effectives plus grandes en accumulant les gradients sur plusieurs passes avant avant d'effectuer une mise à jour des poids.
Question 21
Quel taux d'apprentissage est généralement recommandé pour le réglage fin de LoRA ?
A) 1e-2 à 1e-3
B) 1e-4 à 1e-5
C) 1e-6 à 1e-7
D) 1.0
Afficher la réponse
Réponse correcte : B
Le réglage fin de LoRA utilise généralement des taux d'apprentissage dans la plage de 1e-4 à 1e-5, ce qui est plus élevé que le réglage fin complet car seul un petit nombre de paramètres sont mis à jour.
Question 22
Qu'est-ce que DPO (Direct Preference Optimization) ?
A) Une technique de prétraitement des données
B) Une alternative à RLHF qui optimise directement les préférences sans modèle de récompense
C) Une méthode de quantification
D) Une architecture de modèle
Afficher la réponse
Réponse correcte : B
DPO optimise directement le modèle de langage en utilisant des paires de préférences (choisies/rejetées) sans avoir besoin d'entraîner un modèle de récompense séparé, simplifiant le pipeline RLHF.
Question 23
Quel type de données DPO nécessite-t-il ?
A) Uniquement des exemples positifs
B) Paires de préférences (réponses choisies et rejetées)
C) Données de classification étiquetées
D) Texte non étiqueté
Afficher la réponse
Réponse correcte : B
DPO nécessite des données de préférences consistant en des paires où une réponse est préférée (choisie) à une autre (rejetée) pour le même prompt.
Question 24
Quelle est l'innovation principale d'ORPO par rapport à DPO ?
A) Utilise moins de données
B) Combine le réglage fin supervisé et l'optimisation des préférences en une seule étape
C) Ne nécessite pas de préférences
D) Ne fonctionne qu'avec de petits modèles
Afficher la réponse
Réponse correcte : B
ORPO (Odds Ratio Preference Optimization) combine le réglage fin supervisé et l'alignement des préférences en une seule étape d'entraînement, contrairement à DPO qui nécessite généralement une étape SFT séparée d'abord.
Question 25
Que contrôle le paramètre "beta" dans DPO ?
A) Taille du lot
B) La force de l'optimisation des préférences par rapport à rester proche du modèle de référence
C) Taux d'apprentissage
D) Nombre d'époques
Afficher la réponse
Réponse correcte : B
Beta contrôle la pénalité de divergence KL, équilibrant la force avec laquelle le modèle optimise pour les préférences par rapport à rester proche du comportement du modèle de référence (base).
Section 3 : Évaluation et déploiement (Questions 26-40)
Question 26
Que mesure la perplexité ?
A) Taille du modèle
B) Comment un modèle prédit bien le texte (plus bas est mieux)
C) Vitesse d'entraînement
D) Utilisation de la mémoire
Afficher la réponse
Réponse correcte : B
La perplexité mesure comment un modèle de probabilité prédit un échantillon. Une perplexité plus faible indique que le modèle est meilleur pour prédire le texte, signifiant qu'il est moins "surpris" par les données.
Question 27
Qu'est-ce que TIES-Merging ?
A) Une technique d'entraînement
B) Une méthode pour combiner plusieurs modèles qui gère les conflits de paramètres
C) Un schéma de tokenisation
D) Une métrique d'évaluation
Afficher la réponse
Réponse correcte : B
TIES (Trim, Elect Sign & Merge) est une technique de fusion de modèles qui gère mieux les conflits entre les paramètres de modèle que la simple moyenne en résolvant les conflits de signe et en supprimant les petites valeurs.
Question 28
Quel outil est couramment utilisé pour fusionner les adaptateurs LoRA et les modèles ?
A) PyTorch
B) MergeKit
C) TensorFlow
D) NumPy
Afficher la réponse
Réponse correcte : B
MergeKit est un outil populaire spécifiquement conçu pour fusionner les modèles de langage, supportant diverses méthodes comme la fusion linéaire, TIES, DARE, et SLERP.
Question 29
Quel format est couramment utilisé pour l'inférence CPU avec llama.cpp ?
A) ONNX
B) GGUF
C) PyTorch
D) TensorFlow SavedModel
Afficher la réponse
Réponse correcte : B
GGUF (GPT-Generated Unified Format) est le format standard pour les modèles quantifiés utilisés avec llama.cpp pour une inférence CPU efficace.
Question 30
Pour quoi vLLM est-il principalement optimisé ?
A) Entraînement de modèle
B) Service d'inférence à haut débit
C) Prétraitement des données
D) Quantification de modèle
Afficher la réponse
Réponse correcte : B
vLLM est un moteur d'inférence optimisé pour le service à haut débit des LLM, utilisant des techniques comme PagedAttention pour gérer efficacement la mémoire et les demandes par lots.
Question 31
Qu'est-ce que PagedAttention dans vLLM ?
A) Une technique d'entraînement
B) Un mécanisme d'attention qui gère la mémoire du cache KV par pagination
C) Une méthode de tokenisation
D) Une architecture de modèle
Afficher la réponse
Réponse correcte : B
PagedAttention gère la mémoire du cache Clé-Valeur comme des pages de mémoire virtuelle, permettant une utilisation plus efficace de la mémoire et un débit plus élevé pour l'inférence.
Question 32
Pour fusionner les poids LoRA dans le modèle de base, quelle méthode devriez-vous utiliser ?
A) model.save_pretrained()
B) model.merge_and_unload()
C) model.quantize()
D) model.train()
Afficher la réponse
Réponse correcte : B
La méthode merge_and_unload() fusionne les poids de l'adaptateur LoRA dans les poids du modèle de base et supprime l'adaptateur, résultant en un modèle standard sans surcharge LoRA.
Question 33
Qu'est-ce qu'une étude d'ablation dans le contexte du réglage fin ?
A) Retirer le modèle de la mémoire
B) Tester systématiquement différents composants pour comprendre leur contribution
C) Un type de quantification
D) Une stratégie de déploiement
Afficher la réponse
Réponse correcte : B
Une étude d'ablation retire ou modifie systématiquement des composants (comme le rang LoRA, le taux d'apprentissage, la taille de l'ensemble de données) pour comprendre leur contribution individuelle à la performance du modèle.
Question 34
Quel est le but de la perte d'évaluation pendant l'entraînement ?
A) Mettre à jour les poids du modèle
B) Surveiller le surapprentissage sur un ensemble de validation
C) Calculer les gradients
D) Sauvegarder les points de contrôle
Afficher la réponse
Réponse correcte : B
La perte d'évaluation sur un ensemble de validation aide à détecter le surapprentissage—lorsque la perte d'entraînement diminue mais que la perte d'évaluation augmente, le modèle mémorise plutôt que de généraliser.
Question 35
Qu'est-ce que "l'arrêt précoce" prévient ?
A) Entraînement lent
B) Surapprentissage en s'arrêtant lorsque la performance de validation cesse de s'améliorer
C) Explosion de gradient
D) Débordement de mémoire
Afficher la réponse
Réponse correcte : B
L'arrêt précoce surveille la performance de validation et arrête l'entraînement lorsqu'elle cesse de s'améliorer, empêchant le modèle de surapprendre les données d'entraînement.
Question 36
Quelle métrique est la plus couramment utilisée pour évaluer les modèles de suivi d'instructions ?
A) BLEU
B) Taux de victoire contre une référence (évaluation humaine ou GPT-4)
C) Taux d'erreur de mot
D) Score F1
Afficher la réponse
Réponse correcte : B
Les comparaisons de taux de victoire (souvent en utilisant GPT-4 comme juge ou une évaluation humaine) sont couramment utilisées car elles capturent mieux la qualité du suivi d'instructions en forme libre que les métriques traditionnelles.
Question 37
À quoi sert Weights & Biases (W&B) dans le flux de travail de réglage fin ?
A) Quantification de modèle
B) Suivi et visualisation d'expériences
C) Service d'inférence
D) Stockage de données
Afficher la réponse
Réponse correcte : B
Weights & Biases est une plateforme de suivi d'expériences qui enregistre les métriques d'entraînement, les hyperparamètres et les artefacts, facilitant la comparaison des exécutions et la reproduction des expériences.
Question 38
Quelle est l'approche recommandée lors du déploiement d'un modèle réglé fin avec LoRA pour la production ?
A) Garder LoRA séparé pour plus de flexibilité
B) Fusionner dans le modèle de base pour un déploiement plus simple, sauf si vous avez besoin de changer d'adaptateur
C) Utiliser uniquement des versions quantifiées
D) Toujours réentraîner à partir de zéro
Afficher la réponse
Réponse correcte : B
Pour la plupart des déploiements en production, fusionner LoRA dans le modèle de base simplifie la pile. Gardez-les séparés uniquement si vous devez changer dynamiquement entre plusieurs adaptateurs.
Question 39
Quel niveau de quantification est généralement le meilleur pour la qualité d'inférence en production ?
A) 2 bits
B) 4 bits
C) 8 bits
D) 1 bit
Afficher la réponse
Réponse correcte : C
La quantification en 8 bits (INT8) offre généralement le meilleur équilibre entre la vitesse/mémoire d'inférence et la rétention de qualité. 4 bits fonctionnent bien pour de nombreux cas mais peuvent montrer plus de dégradation de qualité.
Question 40
Qu'est-ce que le décodage spéculatif ?
A) Utiliser un petit modèle de brouillon pour accélérer la génération en proposant des tokens vérifiés par le grand modèle
B) Générer plusieurs sorties en parallèle
C) Prédire les résultats d'entraînement
D) Une technique d'entraînement
Afficher la réponse
Réponse correcte : A
Le décodage spéculatif utilise un modèle de brouillon plus petit et plus rapide pour proposer plusieurs tokens, que le modèle plus grand vérifie ensuite en parallèle, accélérant la génération de 2 à 3 fois.
Section 4 : Meilleures pratiques et concepts avancés (Questions 41-50)
Question 41
Quelle est la taille minimale recommandée de l'ensemble de données pour régler finement un modèle de suivi d'instructions ?
A) 10 exemples
B) 100-500 exemples de haute qualité
C) Toujours 100 000+ exemples
D) La taille de l'ensemble de données n'a pas d'importance
Afficher la réponse
Réponse correcte : B
100-500 exemples de haute qualité et diversifiés peuvent suffire pour de nombreuses tâches de réglage fin. La qualité compte plus que la quantité—un ensemble de données plus petit et de haute qualité surpasse souvent un ensemble plus grand et bruyant.
Question 42
Qu'est-ce que la génération de données synthétiques dans le réglage fin ?
A) Créer des métriques d'évaluation factices
B) Utiliser des modèles d'IA pour générer des données d'entraînement
C) Simuler les performances du GPU
D) Créer automatiquement des architectures de modèle
Afficher la réponse
Réponse correcte : B
La génération de données synthétiques utilise des modèles d'IA (souvent plus puissants comme GPT-4) pour créer des exemples d'entraînement, qui peuvent être filtrés et organisés pour constituer des ensembles de données d'entraînement de haute qualité.
Question 43
Quel est l'avantage d'utiliser un modèle de chat pendant l'entraînement ?
A) Tokenisation plus rapide
B) Assure un formatage cohérent qui correspond à la façon dont le modèle sera utilisé en inférence
C) Réduit l'utilisation de la mémoire
D) Améliore la quantification
Afficher la réponse
Réponse correcte : B
Les modèles de chat assurent que les données d'entraînement sont formatées de la même manière que les entrées d'inférence, y compris les tokens spéciaux pour différents rôles. Des formats dépareillés entre l'entraînement et l'inférence peuvent nuire aux performances.
Question 44
Qu'est-ce que la contamination des données dans l'évaluation des modèles ?
A) Corruption des données
B) Lorsque les données d'évaluation ont été vues pendant l'entraînement
C) Valeurs manquantes dans l'ensemble de données
D) Étiquettes incorrectes
Afficher la réponse
Réponse correcte : B
La contamination des données se produit lorsque les données de référence d'évaluation apparaissent dans les données d'entraînement, gonflant artificiellement les métriques de performance et rendant la comparaison équitable impossible.
Question 45
Quel rang LoRA devriez-vous commencer pour l'expérimentation ?
A) r=1
B) r=16 ou r=32
C) r=256
D) r=1024
Afficher la réponse
Réponse correcte : B
Commencer avec r=16 ou r=32 est un bon équilibre entre capacité et efficacité. Vous pouvez ensuite ajuster vers le haut ou vers le bas en fonction des résultats—de nombreuses tâches fonctionnent bien avec r=8, tandis que des tâches complexes peuvent nécessiter r=64+.
Question 46
Quelle est la relation entre le rang LoRA et alpha en pratique ?
A) Alpha doit être égal au rang
B) Alpha est généralement 1,5-2x le rang
C) Alpha doit être beaucoup plus petit que le rang
D) Ils sont indépendants
Afficher la réponse
Réponse correcte : B
La pratique courante est de définir alpha à 1,5-2x le rang (par exemple, r=16, alpha=32). Cela est dû au fait que l'échelle effective est alpha/rang, et des valeurs autour de 2 fonctionnent bien en pratique.
Question 47
Qu'est-ce qui cause la "perte NaN" pendant l'entraînement ?
A) Données manquantes
B) Instabilité numérique souvent due à un taux d'apprentissage élevé ou une mauvaise gestion de la précision
C) Trop de données
D) Mauvais optimiseur
Afficher la réponse
Réponse correcte : B
La perte NaN (Not a Number) résulte généralement de l'instabilité numérique causée par des taux d'apprentissage trop élevés, des gradients explosifs ou une mauvaise gestion de l'entraînement en précision mixte.
Question 48
Quel est le but de la période de warmup pendant l'entraînement ?
A) Chauffer le GPU
B) Augmenter progressivement le taux d'apprentissage pour un entraînement stable
C) Précharger les données
D) Compiler le modèle
Afficher la réponse
Réponse correcte : B
Le warmup augmente progressivement le taux d'apprentissage d'une petite valeur à la valeur cible, aidant à stabiliser l'entraînement dans les premières étapes lorsque les gradients peuvent être instables.
Question 49
Lors du réglage fin pour un domaine spécifique (par exemple, médical), qu'est-ce qui est le plus important ?
A) Utiliser le modèle le plus grand possible
B) Données de haute qualité et spécifiques au domaine avec un formatage approprié
C) Entraînement pendant de nombreuses époques
D) Taille de lot maximale
Afficher la réponse
Réponse correcte : B
Le réglage fin spécifique au domaine dépend de manière critique de la qualité et de la pertinence des données d'entraînement. Un ensemble de données plus petit de haute qualité et d'exemples de domaine correctement formatés surpasse généralement les ensembles de données généraux plus grands.
Question 50
Quel est le facteur le plus important pour déterminer le succès du réglage fin ?
A) Taille du modèle
B) Temps d'entraînement
C) Qualité et pertinence des données
D) Type de GPU
Afficher la réponse
Réponse correcte : C
La qualité et la pertinence des données sont les facteurs les plus critiques. Un ensemble de données bien organisé et pertinent produira de meilleurs résultats que des données plus grandes mais de moindre qualité, indépendamment de la taille du modèle ou de la puissance de calcul.
Interprétation des résultats
| Score | Niveau | Recommandation |
|---|---|---|
| 45-50 | Expert | Prêt pour des projets de réglage fin en production |
| 40-44 | Compétent | Bonne compréhension, revoir les domaines spécifiques faibles |
| 35-39 | Intermédiaire | Revoir les sections avancées avant le travail en production |
| 30-34 | En développement | Revoir les modules 4-8 pour les concepts techniques de base |
| Moins de 30 | Débutant | Compléter tous les modules avec exercices avant de repasser |
Certification
En atteignant un score de 80 % ou plus, vous avez démontré une connaissance complète des concepts, techniques et meilleures pratiques de réglage fin de LLM.
Compétences clés validées :
- ✅ Compréhension du réglage fin vs alternatives (RAG, prompt)
- ✅ Mise en œuvre des méthodes PEFT (LoRA, QLoRA)
- ✅ Préparation des données et contrôle de la qualité
- ✅ Configuration et optimisation de l'entraînement
- ✅ Techniques avancées (DPO, ORPO)
- ✅ Évaluation et fusion de modèles
- ✅ Considérations de déploiement en production
Retour à l'accueil du cours | Revoir les ressources | Glossaire