Glosario
Un glosario completo de terminología de MLOps y LLMOps.
A
A/B Testing - Un método para comparar dos versiones (A y B) de un modelo o prompt para determinar cuál tiene mejor desempeño.
API (Interfaz de Programación de Aplicaciones) - Un conjunto de protocolos y herramientas para construir aplicaciones de software, comúnmente utilizado para exponer modelos de ML como servicios.
Artifact - Cualquier archivo o dato producido durante el ciclo de vida de ML, incluyendo modelos, conjuntos de datos y archivos de configuración.
Autolog - Funcionalidad de MLflow que registra automáticamente parámetros, métricas y modelos sin necesidad de código explícito.
AutoML - Aprendizaje Automático Automatizado; técnicas que automatizan la selección de modelos y el ajuste de hiperparámetros.
B
Batch Processing - Procesamiento de datos en grupos en lugar de flujos en tiempo real.
BentoML - Un framework de código abierto para empaquetar y desplegar modelos de ML.
BLEU Score - Bilingual Evaluation Understudy; métrica para evaluar la calidad de traducción automática.
C
Canary Deployment - Implementar cambios gradualmente a un pequeño subconjunto de usuarios antes del despliegue completo.
CI/CD - Integración Continua/Despliegue Continuo; prácticas para automatizar la entrega de software.
Concept Drift - Cuando la relación entre las entradas y salidas del modelo cambia con el tiempo.
Containerization - Empaquetar software con sus dependencias en unidades estandarizadas (contenedores).
Covariate Drift - Cuando la distribución de las características de entrada cambia con el tiempo.
D
DAG (Grafo Acíclico Dirigido) - Estructura de grafo utilizada por herramientas de orquestación como Airflow para representar dependencias en pipelines.
Data Drift - Cambios en las propiedades estadísticas de los datos de entrada a lo largo del tiempo.
Data Version Control (DVC) - Herramienta para versionar datos y modelos de ML junto con el código.
DeepSpeed - Biblioteca de Microsoft para entrenamiento distribuido eficiente de modelos grandes.
Docker - Plataforma para la contenerización de aplicaciones.
E
Embedding - Representación vectorial densa de datos (texto, imágenes) aprendida por redes neuronales.
Experiment Tracking - Registro de parámetros, métricas y artefactos de experimentos de ML.
F
Faithfulness - En la evaluación de LLM, si el contenido generado está fundamentado en el contexto proporcionado.
Feature Engineering - Creación de nuevas características de entrada a partir de datos en bruto para mejorar el desempeño del modelo.
Feature Store - Repositorio centralizado para almacenar y servir características de ML.
Feast - Feature store de código abierto para ML.
Fine-tuning - Adaptación de un modelo preentrenado a una tarea o dominio específico.
G
GPU (Unidad de Procesamiento Gráfico) - Acelerador de hardware comúnmente utilizado para entrenamiento e inferencia de ML.
Gradient Checkpointing - Técnica de optimización de memoria que intercambia cómputo por memoria.
Great Expectations - Biblioteca de Python para validación y documentación de datos.
H
Hallucination - Cuando los LLM generan información plausible pero incorrecta o inventada.
HPA (Horizontal Pod Autoscaler) - Funcionalidad de Kubernetes para escalar pods automáticamente.
Hyperparameter - Valores de configuración establecidos antes del entrenamiento (tasa de aprendizaje, tamaño de lote, etc.).
I
Inference - Uso de un modelo entrenado para hacer predicciones sobre nuevos datos.
Infrastructure as Code (IaC) - Gestión de infraestructura mediante código (Terraform, Pulumi).
K
KFServing/KServe - Plataforma nativa de Kubernetes para servir modelos de ML.
Kubeflow - Kit de herramientas de ML para Kubernetes con pipelines, notebooks y componentes de serving.
Kubernetes - Plataforma de orquestación de contenedores para desplegar y gestionar aplicaciones.
KV Cache - Caché de clave-valor que almacena cálculos de atención en modelos transformadores.
L
Label Drift - Cuando la distribución de las etiquetas objetivo cambia con el tiempo.
LangChain - Framework para desarrollar aplicaciones potenciadas por LLM.
LangSmith - Plataforma para depuración, pruebas y monitoreo de aplicaciones LLM.
Latency - Tiempo que toma procesar una solicitud y devolver una respuesta.
LLM (Large Language Model) - Red neuronal entrenada con grandes volúmenes de texto (GPT, Claude, Llama).
LLMOps - Prácticas especializadas para desplegar y mantener aplicaciones LLM.
M
Mixed Precision Training - Uso de FP16 y FP32 para un entrenamiento más rápido.
MLflow - Plataforma de código abierto para la gestión del ciclo de vida de ML.
MLOps - Prácticas para desplegar y mantener modelos de ML en producción.
Model Card - Documentación que describe el propósito, desempeño y limitaciones de un modelo.
Model Parallelism - División de un modelo entre múltiples GPUs.
Model Registry - Repositorio centralizado para almacenar y gestionar versiones de modelos.
N
Neptune.ai - Plataforma de seguimiento de experimentos y registro de modelos.
O
ONNX - Open Neural Network Exchange; formato para interoperabilidad de modelos.
Observability - Capacidad de comprender el estado del sistema mediante logs, métricas y trazas.
P
P99 Latency - Tiempo de respuesta del percentil 99 (el 99% de las solicitudes son más rápidas).
PagedAttention - Técnica de gestión de memoria de vLLM para un KV cache eficiente.
Pipeline - Secuencia de pasos de procesamiento de datos o ML.
Pod - Unidad desplegable más pequeña en Kubernetes, que contiene uno o más contenedores.
Prometheus - Kit de herramientas de monitoreo y alertas de código abierto.
Prompt Engineering - Elaboración de entradas efectivas para obtener salidas deseadas de los LLM.
Prompt Injection - Ataque en el que prompts maliciosos manipulan el comportamiento del LLM.
Q
Quantization - Reducción de la precisión del modelo (FP32 → INT8) para disminuir memoria y aumentar velocidad.
R
RAG (Retrieval-Augmented Generation) - Combinación de sistemas de recuperación con LLMs para respuestas fundamentadas.
RAGAS - Framework para evaluar pipelines de RAG.
Rate Limiting - Restricción del número de solicitudes para prevenir abusos.
Red Teaming - Pruebas deliberadas de sistemas para encontrar vulnerabilidades.
Reproducibility - Capacidad de recrear los mismos resultados dados los mismos insumos.
Runbook - Documentación de procedimientos para responder a incidentes.
S
Shadow Mode - Ejecución de un nuevo modelo junto al de producción sin afectar a los usuarios.
Spot Instance - Capacidad de computación en la nube disponible a precios reducidos.
Streaming - Envío incremental de la salida de un LLM a medida que se genera.
Sweep - Búsqueda automatizada de hiperparámetros (terminología de W&B).
T
TensorFlow Serving - Sistema de Google para servir modelos de TensorFlow.
TGI (Text Generation Inference) - Solución de HuggingFace para servir LLMs.
Token - Unidad básica de texto que procesan los LLMs.
TorchServe - Framework de serving de modelos de PyTorch.
Triton Inference Server - Servidor de inferencia de alto rendimiento de NVIDIA.
V
Vector Database - Base de datos optimizada para almacenar y buscar embeddings.
vLLM - Motor de serving de LLMs de alto rendimiento con PagedAttention.
W
Weights & Biases (W&B) - Plataforma de MLOps para seguimiento de experimentos y colaboración.
Agregue a su vocabulario
Este glosario cubre los términos esenciales. A medida que avance en el curso, desarrollará una comprensión más profunda de cada concepto mediante la práctica práctica.