Glossaire des termes LLM
Plus de 200 termes techniques utilisés tout au long de ce cours.
A
AGI (Artificial General Intelligence): IA hypothétique avec des capacités cognitives générales au niveau humain dans tous les domaines.
Attention: Mécanisme permettant aux modèles de se concentrer sur les parties pertinentes de l'entrée lors de la production de la sortie.
Autoregressive: Méthode de génération prédisant un jeton à la fois, chacun conditionné par les jetons précédents.
AWQ (Activation-aware Weight Quantization): Méthode de quantification qui préserve les poids importants basés sur les modèles d'activation.
Alignment: Entraînement des systèmes d'IA pour se comporter selon les intentions et les valeurs humaines.
Adapter: Petits modules entraînables insérés entre des couches gelées pour un ajustement fin des paramètres.
B
BPE (Byte Pair Encoding): Algorithme de tokenisation qui fusionne itérativement les paires de caractères fréquentes.
BERT: Bidirectional Encoder Representations from Transformers; modèle uniquement encodeur utilisant le masquage de langage.
Batch Size: Nombre d'échantillons traités ensemble pendant l'entraînement.
Beam Search: Stratégie de décodage maintenant plusieurs séquences candidates.
bitsandbytes: Bibliothèque pour la quantification à la volée pendant l'inférence.
C
Causal Attention: Attention où les positions ne peuvent se concentrer que sur les positions précédentes (pas futures).
Chain-of-Thought (CoT): Technique de sollicitation encourageant le raisonnement étape par étape.
Chinchilla: Modèle/article de DeepMind montrant que l'entraînement optimal en calcul utilise plus de données avec des modèles plus petits.
Constitutional AI: Approche d'Anthropic entraînant l'IA avec des principes plutôt que des étiquettes cas par cas.
Context Window: Nombre maximum de jetons qu'un modèle peut traiter à la fois.
Cross-Attention: Attention où les requêtes proviennent d'une séquence et les clés/valeurs d'une autre.
CLIP: Pre-training contrastif langage-image; modèle alignant images et texte.
D
Data Parallelism: Stratégie d'entraînement où chaque GPU traite des données différentes avec le même modèle.
Decoder-Only: Architecture (comme GPT) utilisant uniquement des blocs décodeurs avec attention causale.
DeepSpeed: Bibliothèque de Microsoft pour l'entraînement distribué avec optimisation ZeRO.
Distillation: Entraînement d'un modèle plus petit pour imiter le comportement d'un modèle plus grand.
DPO (Direct Preference Optimization): Alternative à RLHF qui optimise directement sur les données de préférence.
E
Embedding: Représentation vectorielle dense d'un jeton ou d'une séquence.
Emergent Capability: Capacité apparaissant uniquement à une certaine échelle de modèle, absente dans les modèles plus petits.
Encoder-Decoder: Architecture avec encodeur séparé (bidirectionnel) et décodeur (causal).
Encoder-Only: Architecture (comme BERT) utilisant uniquement des blocs encodeurs avec attention bidirectionnelle.
F
Feed-Forward Network (FFN): Couches MLP dans les blocs Transformer traitant chaque position indépendamment.
Few-Shot Learning: Apprentissage à partir de quelques exemples fournis dans la sollicitation.
Fine-Tuning: Entraînement supplémentaire d'un modèle pré-entraîné sur des données/tâches spécifiques.
Flash Attention: Implémentation d'attention efficace en mémoire optimisant l'accès à la mémoire GPU.
FSDP (Fully Sharded Data Parallel): Implémentation PyTorch de ZeRO.
Function Calling: Capacité LLM à demander l'exécution d'un outil/API externe.
G
GPTQ: Méthode de quantification post-entraînement optimisée pour les modèles de type GPT.
Gradient Accumulation: Simulation de tailles de lot plus grandes en accumulant les gradients sur plusieurs étapes.
Gradient Checkpointing: Échange de calcul pour la mémoire en recomputant les activations pendant le passage arrière.
Greedy Decoding: Sélection du jeton de probabilité la plus élevée à chaque étape.
H
Hallucination: Modèle générant des informations fausses ou non fondées.
Hidden State: Représentation interne à chaque couche du modèle.
HumanEval: Benchmark pour évaluer la capacité de génération de code.
I
In-Context Learning (ICL): Apprentissage à partir d'exemples dans la sollicitation sans mises à jour de poids.
Inference: Exécution d'un modèle entraîné pour générer des prédictions.
Instruction Tuning: Ajustement fin sur des données de suivi d'instructions.
INT4/INT8: Formats de quantification en entiers 4 bits et 8 bits.
J
Jailbreaking: Tentative de contourner les mesures de sécurité du modèle par des sollicitations astucieuses.
K
KV Cache: Stockage des paires clé-valeur calculées pour éviter la recomputation pendant la génération.
KL Divergence: Mesure de la différence entre des distributions de probabilité; utilisée dans RLHF.
L
Layer Normalization: Normalisation des activations sur les caractéristiques au sein de chaque échantillon.
LLM (Large Language Model): Réseau neuronal avec des milliards de paramètres entraîné sur un vaste texte.
LoRA (Low-Rank Adaptation): Méthode PEFT ajoutant des matrices de faible rang aux poids existants.
Loss Function: Mesure de l'erreur de prédiction du modèle; minimisée pendant l'entraînement.
M
Masked Language Modeling (MLM): Pré-entraînement en prédisant des jetons masqués (utilisé par BERT).
Mixed Precision: Utilisation de précision inférieure (FP16/BF16) pour la plupart des calculs.
MoE (Mixture of Experts): Architecture avec plusieurs réseaux experts et un routeur.
Multi-Head Attention: Exécution de plusieurs opérations d'attention en parallèle.
Multimodal: Modèles traitant plusieurs modalités (texte, images, audio).
N
Next Token Prediction: Objectif de pré-entraînement prédisant le jeton suivant donné le contexte.
Nucleus Sampling (Top-p): Échantillonnage à partir des jetons dans la masse de probabilité supérieure.
O
ONNX: Open Neural Network Exchange; format de modèle indépendant du cadre.
P
Parameter: Poids entraînable dans un réseau neuronal.
PEFT (Parameter-Efficient Fine-Tuning): Méthodes entraînant un petit sous-ensemble de paramètres.
Perplexity: Mesure de l'incertitude du modèle; exponentielle de la perte d'entropie croisée moyenne.
Pipeline Parallelism: Placement de différentes couches sur différents GPU.
Positional Encoding: Information ajoutée aux embeddings sur les positions des jetons.
PPO (Proximal Policy Optimization): Algorithme RL couramment utilisé dans RLHF.
Pre-training: Entraînement initial sur de grandes données non étiquetées.
Prompt: Texte d'entrée fourni à un modèle de langage.
Q
QLoRA: LoRA appliqué à un modèle de base quantifié.
Quantization: Réduction de la précision numérique des poids pour économiser de la mémoire.
Query, Key, Value (Q, K, V): Trois projections utilisées dans le calcul de l'attention.
R
RAG (Retrieval-Augmented Generation): Augmentation du LLM avec un contexte pertinent récupéré.
ReAct: Modèle Raisonnement + Action pour les agents LLM.
Red Teaming: Test d'adversité pour trouver des vulnérabilités du modèle.
Reward Model: Modèle entraîné à prédire les préférences humaines (utilisé dans RLHF).
RLHF (Reinforcement Learning from Human Feedback): Entraînement avec des données de préférence humaine.
RoPE (Rotary Position Embedding): Encodage de position par rotation des embeddings.
S
Scaling Laws: Relations prévisibles entre la taille du modèle, les données et la performance.
Self-Attention: Attention où une séquence s'attend à elle-même.
SentencePiece: Tokenisation indépendante de la langue traitant le texte comme des octets bruts.
SFT (Supervised Fine-Tuning): Ajustement fin sur des données de démonstration.
Softmax: Fonction convertissant les logits en probabilités sommant à 1.
Speculative Decoding: Utilisation d'un petit modèle pour rédiger, d'un grand modèle pour vérifier.
SSM (State Space Model): Architecture avec complexité linéaire (par exemple, Mamba).
Streaming: Retour des résultats partiels au fur et à mesure de leur génération.
T
Temperature: Paramètre contrôlant l'aléatoire de la sortie (plus élevé = plus aléatoire).
Tensor Parallelism: Division des matrices de poids sur les GPU.
TGI (Text Generation Inference): Solution de service en production de Hugging Face.
Token: Unité de base de texte traitée par les modèles de langage.
Tokenization: Conversion du texte en jetons (et vice versa).
Top-k Sampling: Échantillonnage à partir des k jetons de probabilité les plus élevés.
Transformer: Architecture basée sur l'auto-attention, permettant un traitement parallèle.
U
Unsupervised Learning: Apprentissage à partir de données sans étiquettes explicites.
V
vLLM: Cadre de service à haut débit avec PagedAttention.
Vision Transformer (ViT): Architecture Transformer pour les images utilisant des patchs.
Vocabulary: Ensemble de tous les jetons qu'un modèle peut traiter.
W
Weight: Paramètre entraînable dans un réseau neuronal.
WordPiece: Algorithme de tokenisation utilisé par BERT.
Z
Zero-Shot: Exécution de tâches sans aucun exemple dans la sollicitation.
ZeRO (Zero Redundancy Optimizer): Optimisation DeepSpeed partitionnant les états de l'optimiseur/gradients/paramètres.