Módulo 5: Tokenización y Embeddings
Comprender cómo el texto se convierte en números y se representa en el espacio vectorial.
Objetivos de aprendizaje
- ✅ Comprender la tokenización BPE, WordPiece y SentencePiece
- ✅ Explicar las limitaciones de la ventana de contexto y sus soluciones
- ✅ Describir los espacios de embedding y sus aplicaciones
Capítulos
- Algoritmos de tokenización: BPE, WordPiece, SentencePiece
- Ventanas de contexto: Límites, modelos de contexto largo, segmentación
- Espacios de embedding: Representaciones vectoriales, similitud, visualización