Aller au contenu principal

Chapitre 3 : Espaces d'Embedding et Représentations

Qu'est-ce qu'un Embedding ?​

Représentations vectorielles denses qui capturent le sens sémantique :

from sentence_transformers import SentenceTransformer

model = SentenceTransformer('all-MiniLM-L6-v2')
embeddings = model.encode([
"Machine learning is fascinating",
"AI and ML are interesting topics",
"I like pizza"
])

# Les deux premiers sont similaires, le troisième est différent

Similarité Sémantique​

similarity(A,B)=A⋅B∣∣A∣∣×∣∣B∣∣\text{similarity}(A, B) = \frac{A \cdot B}{||A|| \times ||B||}
from sklearn.metrics.pairwise import cosine_similarity
similarity = cosine_similarity([embeddings[0]], [embeddings[1]])
# Haute similarité pour des phrases liées

Applications​

ApplicationComment les Embeddings Aident
RechercheTrouver des documents sémantiquement similaires
RegroupementGrouper le contenu lié
RAGRécupérer le contexte pertinent
ClassificationVecteurs de caractéristiques pour ML

Points Clés​

astuce
  1. Les embeddings capturent le sens sémantique dans des vecteurs
  2. La similarité cosinus mesure la relation sémantique
  3. Essentiel pour RAG et la recherche sémantique