Glossaire LLM
Un glossaire complet de plus de 40 termes utilisés dans le monde des modèles de langage de grande taille.
A
AGI (Intelligence Artificielle Générale) - Systèmes d'IA capables de comprendre, d'apprendre et d'appliquer des connaissances dans n'importe quel domaine au niveau humain ou au-delà. Actuellement théorique.
Agent IA - Un système d'IA qui peut prendre des actions autonomes, utiliser des outils et accomplir des tâches en plusieurs étapes avec une intervention humaine minimale.
Alignement - Le défi de s'assurer que les systèmes d'IA se comportent selon les valeurs et intentions humaines.
Anthropic - Entreprise de sécurité en IA qui a créé Claude, fondée par d'anciens chercheurs d'OpenAI.
API (Interface de Programmation d'Applications) - Un moyen pour les applications de communiquer avec les services LLM, en envoyant des prompts et en recevant des réponses de manière programmatique.
Mécanisme d'attention - L'innovation clé dans les Transformers qui permet aux modèles de pondérer l'importance des différentes parties de l'entrée lors de la génération de la sortie.
Autoregressif - Méthode de génération où chaque jeton de sortie est réintroduit en entrée pour prédire le jeton suivant.
C
ChatGPT - Produit d'IA conversationnelle d'OpenAI, basé sur des modèles GPT affinés pour le dialogue.
Claude - Assistant IA d'Anthropic, connu pour ses longues fenêtres contextuelles et son accent sur la sécurité.
Code source fermé - Modèles d'IA dont les internes ne sont pas disponibles publiquement ; accès uniquement via API.
Complétion - Le texte généré par un LLM en réponse à un prompt.
Fenêtre contextuelle - La quantité maximale de texte (en jetons) qu'un LLM peut traiter à la fois. Comme la mémoire à court terme.
E
Capacités émergentes - Capacités qui apparaissent dans les LLM à une échelle suffisante sans être explicitement programmées (par exemple, raisonnement, traduction).
Embedding - Une représentation numérique du texte sous forme de vecteur, capturant le sens sémantique.
F
Apprentissage par quelques exemples - La capacité d'effectuer des tâches avec seulement quelques exemples fournis dans le prompt, sans entraînement supplémentaire.
Affinage - Entraîner un modèle existant davantage sur des données spécifiques pour le spécialiser pour des tâches particulières.
G
Gemini - Famille de modèles IA multimodaux de Google, successeur de Bard.
GPT (Generative Pre-trained Transformer) - Série de modèles de langage d'OpenAI, la base de ChatGPT.
Garde-fous - Mesures de sécurité qui restreignent ce qu'un LLM générera ou discutera.
H
Hallucination - Lorsqu'un LLM génère des informations qui semblent plausibles mais qui sont factuellement incorrectes ou inventées.
I
Inférence - Le processus d'exécution d'un modèle entraîné pour générer des sorties. (L'entraînement enseigne ; l'inférence utilise.)
Jetons d'entrée - Les jetons de votre prompt que le modèle traite. Habituellement moins chers que les jetons de sortie.
K
Date de coupure des connaissances - La date au-delà de laquelle un LLM n'a pas de données d'entraînement. Les informations après cette date sont inconnues du modèle.
L
Llama - Famille de modèles de langage de grande taille open-source de Meta.
LLM (Modèle de Langage de Grande Taille) - Modèles d'IA avec des milliards de paramètres, entraînés sur de vastes données textuelles, capables de comprendre et de générer un langage semblable à celui des humains.
LLM local - Exécution d'un LLM sur votre propre matériel plutôt que via des API infonuagiques.
M
Jetons max - Un paramètre limitant le nombre de jetons que le modèle générera dans sa réponse.
Mistral - Entreprise française d'IA connue pour ses modèles open-source efficaces comme Mistral 7B.
Multimodal - IA capable de traiter et de générer plusieurs types de données (texte, images, audio, vidéo).
O
Ollama - Un outil pour exécuter facilement des LLM open-source localement sur votre ordinateur.
Open Source - LLM dont les poids du modèle sont disponibles publiquement pour téléchargement et utilisation.
OpenAI - Entreprise de recherche en IA qui a créé GPT, DALL-E et ChatGPT.
Jetons de sortie - Les jetons générés par le modèle comme sa réponse. Habituellement plus chers que les jetons d'entrée.
P
Paramètres - Les valeurs ajustables (poids) dans un réseau neuronal qui sont apprises pendant l'entraînement. Plus de paramètres signifie généralement plus de capacité.
Pré-entraînement - La phase initiale d'entraînement d'un LLM sur des données textuelles générales massives avant l'affinage spécifique à une tâche.
Prompt - Le texte d'entrée donné à un LLM pour guider sa réponse.
Ingénierie de prompt - La pratique de concevoir des prompts efficaces pour obtenir les sorties souhaitées des LLM.
Q
Quantification - Réduire la précision du modèle (par exemple, de 16 bits à 4 bits) pour rendre les modèles plus petits et plus rapides, avec un certain compromis de qualité.
R
RAG (Génération Augmentée par Récupération) - Combinaison de LLM avec récupération de connaissances externes pour ancrer les réponses dans des informations vérifiées.
Limite de taux - Restrictions sur le nombre de requêtes API ou de jetons que vous pouvez utiliser dans une période donnée.
RLHF (Apprentissage par Renforcement à partir de Retours Humains) - Technique d'entraînement où des évaluateurs humains notent les sorties, et le modèle apprend à produire des réponses mieux notées.
S
Streaming - Réception des réponses LLM jeton par jeton au fur et à mesure qu'elles sont générées, plutôt que d'attendre la réponse complète.
Prompt système - Instructions cachées qui définissent comment une IA doit se comporter tout au long d'une conversation.
T
Température - Un paramètre contrôlant l'aléatoire dans la génération. Faible = prévisible ; élevé = créatif mais risqué.
Jeton - L'unité de base que les LLM traitent—environ ¾ d'un mot en moyenne. "Compréhension" pourrait être 3 jetons.
Tokenisation - Le processus de découpage du texte en jetons pour que le modèle les traite.
Entraînement - Le processus d'enseignement d'un LLM en ajustant ses paramètres sur la base de grandes quantités de données textuelles.
Transformer - L'architecture de réseau neuronal qui alimente les LLM modernes, introduite en 2017.
Z
Zero-Shot - Effectuer une tâche sans exemples—juste des instructions dans le prompt.
Relations clés
Référence rapide
Tailles de modèle
| Taille | Paramètres | Utilisation typique |
|---|---|---|
| Petite | 7B | Exécution locale, tâches légères |
| Moyenne | 13B-30B | Bon équilibre |
| Grande | 70B+ | Tâches complexes, haute qualité |
Approximations de jetons
- 1 jeton ≈ ¾ mot
- 100 jetons ≈ 75 mots
- 1 page ≈ 500-750 jetons
Réglages de température
| Réglage | Comportement |
|---|---|
| 0.0-0.3 | Déterministe, factuel |
| 0.4-0.7 | Équilibré |
| 0.8-1.0+ | Créatif, variable |