Glosario de términos de LLM
Más de 200 términos técnicos utilizados a lo largo de este curso.
A
AGI (Inteligencia Artificial General): IA hipotética con capacidades cognitivas generales a nivel humano en todos los dominios.
Atención: Mecanismo que permite a los modelos enfocarse en partes relevantes de la entrada al producir la salida.
Autoregresivo: Método de generación que predice un token a la vez, cada uno condicionado por los tokens anteriores.
AWQ (Activation-aware Weight Quantization): Método de cuantización que preserva pesos importantes según los patrones de activación.
Alineación: Entrenamiento de sistemas de IA para que se comporten de acuerdo con las intenciones y valores humanos.
Adaptador: Pequeños módulos entrenables insertados entre capas congeladas para ajuste fino eficiente en parámetros.
B
BPE (Byte Pair Encoding): Algoritmo de tokenización que fusiona iterativamente los pares de caracteres más frecuentes.
BERT: Representaciones Bidireccionales de Codificador de Transformadores; modelo solo codificador que utiliza modelado de lenguaje enmascarado.
Tamaño de lote (Batch Size): Número de muestras procesadas juntas durante el entrenamiento.
Búsqueda por haz (Beam Search): Estrategia de decodificación que mantiene múltiples secuencias candidatas.
bitsandbytes: Biblioteca para cuantización en tiempo real durante la inferencia.
C
Atención causal: Atención donde las posiciones solo pueden atender a posiciones anteriores (no futuras).
Cadena de pensamiento (Chain-of-Thought, CoT): Técnica de prompting que fomenta el razonamiento paso a paso.
Chinchilla: Modelo/artículo de DeepMind que muestra que el entrenamiento óptimo en cómputo utiliza más datos con modelos más pequeños.
IA constitucional (Constitutional AI): Enfoque de Anthropic que entrena IA con principios en lugar de etiquetas caso por caso.
Ventana de contexto (Context Window): Número máximo de tokens que un modelo puede procesar a la vez.
Atención cruzada (Cross-Attention): Atención donde las consultas provienen de una secuencia y las claves/valores de otra.
CLIP: Pre-entrenamiento contrastivo de lenguaje e imagen; modelo que alinea imágenes y texto.
D
Paralelismo de datos (Data Parallelism): Estrategia de entrenamiento donde cada GPU procesa diferentes datos con el mismo modelo.
Solo decodificador (Decoder-Only): Arquitectura (como GPT) que utiliza solo bloques de decodificador con atención causal.
DeepSpeed: Biblioteca de Microsoft para entrenamiento distribuido con optimización ZeRO.
Destilación (Distillation): Entrenamiento de un modelo más pequeño para imitar el comportamiento de uno más grande.
DPO (Direct Preference Optimization): Alternativa a RLHF que optimiza directamente sobre datos de preferencias.
E
Embedding: Representación vectorial densa de un token o secuencia.
Capacidad emergente (Emergent Capability): Habilidad que aparece solo a cierta escala de modelo, ausente en modelos más pequeños.
Codificador-decodificador (Encoder-Decoder): Arquitectura con codificador separado (bidireccional) y decodificador (causal).
Solo codificador (Encoder-Only): Arquitectura (como BERT) que utiliza solo bloques de codificador con atención bidireccional.
F
Red feed-forward (Feed-Forward Network, FFN): Capas MLP en bloques Transformer que procesan cada posición de manera independiente.
Aprendizaje con pocos ejemplos (Few-Shot Learning): Aprendizaje a partir de pocos ejemplos proporcionados en el prompt.
Ajuste fino (Fine-Tuning): Entrenamiento adicional de un modelo preentrenado en datos/tareas específicas.
Flash Attention: Implementación de atención eficiente en memoria que optimiza el acceso a memoria de GPU.
FSDP (Fully Sharded Data Parallel): Implementación de ZeRO en PyTorch.
Llamada a función (Function Calling): Capacidad del LLM para solicitar la ejecución de herramientas/APIs externas.
G
GPTQ: Método de cuantización posterior al entrenamiento optimizado para modelos tipo GPT.
Acumulación de gradientes (Gradient Accumulation): Simulación de tamaños de lote mayores acumulando gradientes en varios pasos.
Checkpointing de gradientes (Gradient Checkpointing): Intercambio de cómputo por memoria al recomputar activaciones durante el retroceso.
Decodificación codiciosa (Greedy Decoding): Selección del token de mayor probabilidad en cada paso.
H
Alucinación (Hallucination): El modelo genera información falsa o no respaldada.
Estado oculto (Hidden State): Representación interna en cada capa del modelo.
HumanEval: Benchmark para evaluar la capacidad de generación de código.
I
Aprendizaje en contexto (In-Context Learning, ICL): Aprendizaje a partir de ejemplos en el prompt sin actualización de pesos.
Inferencia (Inference): Ejecución de un modelo entrenado para generar predicciones.
Ajuste por instrucciones (Instruction Tuning): Ajuste fino en datos de seguimiento de instrucciones.
INT4/INT8: Formatos de cuantización de enteros de 4 y 8 bits.
J
Jailbreaking: Intento de eludir las medidas de seguridad del modelo mediante prompts ingeniosos.
K
KV Cache: Almacenamiento de pares clave-valor calculados para evitar recomputación durante la generación.
Divergencia KL (KL Divergence): Medida de diferencia entre distribuciones de probabilidad; utilizada en RLHF.
L
Normalización de capa (Layer Normalization): Normalización de activaciones a través de características dentro de cada muestra.
LLM (Large Language Model): Red neuronal con miles de millones de parámetros entrenada en grandes volúmenes de texto.
LoRA (Low-Rank Adaptation): Método PEFT que añade matrices de bajo rango a los pesos existentes.
Función de pérdida (Loss Function): Medida del error de predicción del modelo; se minimiza durante el entrenamiento.
M
Modelado de lenguaje enmascarado (Masked Language Modeling, MLM): Preentrenamiento prediciendo tokens enmascarados (utilizado por BERT).
Precisión mixta (Mixed Precision): Uso de menor precisión (FP16/BF16) para la mayoría de los cálculos.
MoE (Mixture of Experts): Arquitectura con múltiples redes expertas y un enrutador.
Atención multi-cabeza (Multi-Head Attention): Ejecución de múltiples operaciones de atención en paralelo.
Multimodal: Modelos que procesan múltiples modalidades (texto, imágenes, audio).
N
Predicción del siguiente token (Next Token Prediction): Objetivo de preentrenamiento que predice el siguiente token dado el contexto.
Muestreo por núcleo (Nucleus Sampling, Top-p): Muestreo de tokens dentro de la masa de probabilidad superior.
O
ONNX: Open Neural Network Exchange; formato de modelo independiente del framework.
P
Parámetro (Parameter): Peso entrenable en una red neuronal.
PEFT (Parameter-Efficient Fine-Tuning): Métodos que entrenan solo un pequeño subconjunto de parámetros.
Perplejidad (Perplexity): Medida de incertidumbre del modelo; exponencial de la pérdida de entropía cruzada promedio.
Paralelismo de pipeline (Pipeline Parallelism): Distribución de diferentes capas en diferentes GPUs.
Codificación posicional (Positional Encoding): Información añadida a los embeddings sobre las posiciones de los tokens.
PPO (Proximal Policy Optimization): Algoritmo de RL comúnmente usado en RLHF.
Preentrenamiento (Pre-training): Entrenamiento inicial en grandes datos no etiquetados.
Prompt: Texto de entrada proporcionado a un modelo de lenguaje.
Q
QLoRA: LoRA aplicada a un modelo base cuantizado.
Cuantización (Quantization): Reducción de la precisión numérica de los pesos para ahorrar memoria.
Consulta, clave, valor (Query, Key, Value; Q, K, V): Tres proyecciones utilizadas en el cálculo de atención.
R
RAG (Retrieval-Augmented Generation): LLM aumentado con contexto relevante recuperado.
ReAct: Patrón de razonamiento + acción para agentes LLM.
Red Teaming: Pruebas adversariales para encontrar vulnerabilidades del modelo.
Modelo de recompensa (Reward Model): Modelo entrenado para predecir preferencias humanas (usado en RLHF).
RLHF (Reinforcement Learning from Human Feedback): Entrenamiento con datos de preferencias humanas.
RoPE (Rotary Position Embedding): Codificación posicional mediante rotación de embeddings.
S
Leyes de escalado (Scaling Laws): Relaciones predecibles entre tamaño de modelo, datos y rendimiento.
Autoatención (Self-Attention): Atención donde una secuencia se atiende a sí misma.
SentencePiece: Tokenizador independiente del idioma que trata el texto como bytes sin procesar.
SFT (Supervised Fine-Tuning): Ajuste fino supervisado en datos de demostración.
Softmax: Función que convierte logits en probabilidades que suman 1.
Decodificación especulativa (Speculative Decoding): Uso de un modelo pequeño para redactar y uno grande para verificar.
SSM (State Space Model): Arquitectura con complejidad lineal (por ejemplo, Mamba).
Streaming: Devolución de resultados parciales a medida que se generan.
T
Temperatura (Temperature): Parámetro que controla la aleatoriedad de la salida (mayor = más aleatorio).
Paralelismo de tensores (Tensor Parallelism): División de matrices de pesos entre GPUs.
TGI (Text Generation Inference): Solución de despliegue en producción de Hugging Face.
Token: Unidad básica de texto procesada por modelos de lenguaje.
Tokenización (Tokenization): Conversión de texto a tokens (y viceversa).
Muestreo Top-k (Top-k Sampling): Muestreo de los k tokens de mayor probabilidad.
Transformer: Arquitectura basada en autoatención que permite procesamiento en paralelo.
U
Aprendizaje no supervisado (Unsupervised Learning): Aprendizaje a partir de datos sin etiquetas explícitas.
V
vLLM: Framework de despliegue de alto rendimiento con PagedAttention.
Vision Transformer (ViT): Arquitectura Transformer para imágenes usando parches.
Vocabulario (Vocabulary): Conjunto de todos los tokens que un modelo puede procesar.
W
Peso (Weight): Parámetro entrenable en una red neuronal.
WordPiece: Algoritmo de tokenización utilizado por BERT.
Z
Zero-Shot: Realización de tareas sin ningún ejemplo en el prompt.
ZeRO (Zero Redundancy Optimizer): Optimización de DeepSpeed que particiona estados del optimizador, gradientes y parámetros.