Saltar al contenido principal

Módulo 5: Tokenización y Embeddings

Comprender cómo el texto se convierte en números y se representa en el espacio vectorial.

Objetivos de aprendizaje​

  • ✅ Comprender la tokenización BPE, WordPiece y SentencePiece
  • ✅ Explicar las limitaciones de la ventana de contexto y sus soluciones
  • ✅ Describir los espacios de embedding y sus aplicaciones

Capítulos​

  1. Algoritmos de tokenización: BPE, WordPiece, SentencePiece
  2. Ventanas de contexto: Límites, modelos de contexto largo, segmentación
  3. Espacios de embedding: Representaciones vectoriales, similitud, visualización