Glossaire
Un glossaire complet de la terminologie MLOps et LLMOps.
A
Test A/B - Une méthode de comparaison de deux versions (A et B) d'un modèle ou d'un prompt pour déterminer laquelle fonctionne mieux.
API (Interface de Programmation d'Applications) - Un ensemble de protocoles et d'outils pour construire des applications logicielles, couramment utilisé pour exposer des modèles ML en tant que services.
Artefact - Tout fichier ou donnée produit au cours du cycle de vie du ML, y compris les modèles, les ensembles de données et les fichiers de configuration.
Autolog - Fonctionnalité de MLflow qui enregistre automatiquement les paramètres, les métriques et les modèles sans code explicite.
AutoML - Apprentissage Automatisé; techniques qui automatisent la sélection de modèles et l'ajustement des hyperparamètres.
B
Traitement par lots - Traitement des données en groupes plutôt qu'en flux en temps réel.
BentoML - Un cadre open-source pour emballer et déployer des modèles ML.
Score BLEU - Bilingual Evaluation Understudy; métrique pour évaluer la qualité de la traduction automatique.
C
Déploiement Canary - Déploiement progressif des changements à un petit sous-ensemble d'utilisateurs avant le déploiement complet.
CI/CD - Intégration Continue/Déploiement Continu; pratiques pour automatiser la livraison de logiciels.
Dérive de concept - Lorsque la relation entre les entrées et les sorties du modèle change au fil du temps.
Containerisation - Emballage de logiciels avec leurs dépendances en unités standardisées (conteneurs).
Dérive des covariables - Lorsque la distribution des caractéristiques d'entrée change au fil du temps.
D
DAG (Graphe Acyclique Dirigé) - Une structure de graphe utilisée par les outils d'orchestration comme Airflow pour représenter les dépendances des pipelines.
Dérive des données - Changements dans les propriétés statistiques des données d'entrée au fil du temps.
Contrôle de Version des Données (DVC) - Outil pour versionner les données et les modèles ML en parallèle avec le code.
DeepSpeed - Bibliothèque de Microsoft pour l'entraînement distribué efficace de grands modèles.
Docker - Plateforme pour containeriser des applications.
E
Embedding - Représentation vectorielle dense de données (texte, images) apprise par des réseaux neuronaux.
Suivi d'Expériences - Enregistrement des paramètres, métriques et artefacts des expériences ML.
F
Fidélité - Dans l'évaluation des LLM, si le contenu généré est fondé sur le contexte fourni.
Ingénierie des caractéristiques - Création de nouvelles caractéristiques d'entrée à partir de données brutes pour améliorer la performance du modèle.
Magasin de caractéristiques - Référentiel centralisé pour stocker et servir les caractéristiques ML.
Feast - Magasin de caractéristiques open-source pour ML.
Ajustement fin - Adaptation d'un modèle pré-entraîné à une tâche ou un domaine spécifique.
G
GPU (Unité de Traitement Graphique) - Accélérateur matériel couramment utilisé pour l'entraînement et l'inférence ML.
Gradient Checkpointing - Technique d'optimisation de la mémoire qui échange le calcul contre la mémoire.
Great Expectations - Bibliothèque Python pour la validation et la documentation des données.
H
Hallucination - Lorsque les LLMs génèrent des informations plausibles mais incorrectes ou fabriquées.
HPA (Horizontal Pod Autoscaler) - Fonctionnalité de Kubernetes pour le redimensionnement automatique des pods.
Hyperparamètre - Valeurs de configuration définies avant l'entraînement (taux d'apprentissage, taille de lot, etc.).
I
Inférence - Utilisation d'un modèle entraîné pour faire des prédictions sur de nouvelles données.
Infrastructure as Code (IaC) - Gestion de l'infrastructure par le biais de code (Terraform, Pulumi).
K
KFServing/KServe - Plateforme native Kubernetes pour servir des modèles ML.
Kubeflow - Boîte à outils ML pour Kubernetes avec pipelines, notebooks et composants de service.
Kubernetes - Plateforme d'orchestration de conteneurs pour déployer et gérer des applications.
KV Cache - Cache Clé-Valeur stockant les calculs d'attention dans les modèles transformateurs.
L
Dérive des étiquettes - Lorsque la distribution des étiquettes cibles change au fil du temps.
LangChain - Cadre pour développer des applications alimentées par LLM.
LangSmith - Plateforme pour déboguer, tester et surveiller les applications LLM.
Latence - Temps pris pour traiter une requête et retourner une réponse.
LLM (Grand Modèle de Langage) - Réseau neuronal entraîné sur des données textuelles massives (GPT, Claude, Llama).
LLMOps - Pratiques spécialisées pour déployer et maintenir des applications LLM.
M
Entraînement en Précision Mixte - Utilisation de FP16 et FP32 pour un entraînement plus rapide.
MLflow - Plateforme open-source pour la gestion du cycle de vie du ML.
MLOps - Pratiques pour déployer et maintenir des modèles ML en production.
Carte de Modèle - Documentation décrivant le but, la performance et les limites d'un modèle.
Parallélisme de Modèle - Division d'un modèle sur plusieurs GPU.
Registre de Modèles - Référentiel centralisé pour stocker et gérer les versions de modèles.
N
Neptune.ai - Plateforme de suivi d'expériences et de registre de modèles.
O
ONNX - Open Neural Network Exchange; format pour l'interopérabilité des modèles.
Observabilité - Capacité à comprendre l'état du système à travers les journaux, métriques et traces.
P
Latence P99 - Temps de réponse au 99e percentile (99% des requêtes sont plus rapides).
PagedAttention - Technique de gestion de mémoire de vLLM pour un cache KV efficace.
Pipeline - Séquence d'étapes de traitement de données ou ML.
Pod - Plus petite unité déployable dans Kubernetes, contenant un ou plusieurs conteneurs.
Prometheus - Outil open-source de surveillance et d'alerte.
Ingénierie de Prompt - Élaboration d'entrées efficaces pour obtenir les sorties souhaitées des LLMs.
Injection de Prompt - Attaque où des prompts malveillants manipulent le comportement des LLMs.
Q
Quantification - Réduction de la précision du modèle (FP32 → INT8) pour diminuer la mémoire et augmenter la vitesse.
R
RAG (Génération Augmentée par Récupération) - Combinaison de systèmes de récupération avec des LLMs pour des réponses fondées.
RAGAS - Cadre pour évaluer les pipelines RAG.
Limitation de Débit - Restriction du nombre de requêtes pour prévenir les abus.
Red Teaming - Test délibéré des systèmes pour trouver des vulnérabilités.
Reproductibilité - Capacité à recréer les mêmes résultats avec les mêmes entrées.
Runbook - Documentation des procédures pour répondre aux incidents.
S
Mode Ombre - Exécution d'un nouveau modèle parallèlement à la production sans affecter les utilisateurs.
Instance Spot - Capacité de calcul infonuagique disponible à prix réduit.
Diffusion - Envoi progressif de la sortie LLM au fur et à mesure de sa génération.
Balayage - Recherche automatisée d'hyperparamètres (terminologie W&B).
T
TensorFlow Serving - Système de Google pour servir des modèles TensorFlow.
TGI (Inférence de Génération de Texte) - Solution de service LLM de HuggingFace.
Jeton - Unité de base de texte que les LLMs traitent.
TorchServe - Cadre de service de modèle de PyTorch.
Triton Inference Server - Serveur d'inférence haute performance de NVIDIA.
V
Base de Données Vectorielle - Base de données optimisée pour stocker et rechercher des embeddings.
vLLM - Moteur de service LLM à haut débit avec PagedAttention.
W
Weights & Biases (W&B) - Plateforme MLOps pour le suivi d'expériences et la collaboration.
Ajoutez à Votre Vocabulaire
Ce glossaire couvre les termes essentiels. Au fur et à mesure que vous progressez dans le cours, vous développerez une compréhension plus approfondie de chaque concept grâce à la pratique pratique.