Glossário
Um glossário abrangente de terminologia de MLOps e LLMOps.
A
Teste A/B - Um método de comparar duas versões (A e B) de um modelo ou prompt para determinar qual apresenta melhor desempenho.
API (Interface de Programação de Aplicações) - Um conjunto de protocolos e ferramentas para construir aplicações de software, comumente usado para expor modelos de ML como serviços.
Artefato - Qualquer arquivo ou dado produzido durante o ciclo de vida de ML, incluindo modelos, conjuntos de dados e arquivos de configuração.
Autolog - Funcionalidade do MLflow que registra automaticamente parâmetros, métricas e modelos sem necessidade de código explícito.
AutoML - Machine Learning Automatizado; técnicas que automatizam a seleção de modelos e ajuste de hiperparâmetros.
B
Processamento em Lote - Processamento de dados em grupos ao invés de fluxos em tempo real.
BentoML - Framework open-source para empacotamento e deploy de modelos de ML.
Pontuação BLEU - Bilingual Evaluation Understudy; métrica para avaliar a qualidade de tradução automática.
C
Deploy Canary - Implantação gradual de mudanças para um pequeno subconjunto de usuários antes do deploy completo.
CI/CD - Integração Contínua/Deploy Contínuo; práticas para automação da entrega de software.
Desvio de Conceito (Concept Drift) - Quando a relação entre entradas e saídas do modelo muda ao longo do tempo.
Containerização - Empacotamento de software com suas dependências em unidades padronizadas (containers).
Desvio de Covariáveis (Covariate Drift) - Quando a distribuição das features de entrada muda ao longo do tempo.
D
DAG (Grafo Acíclico Direcionado) - Estrutura de grafo usada por ferramentas de orquestração como Airflow para representar dependências de pipelines.
Desvio de Dados (Data Drift) - Mudanças nas propriedades estatísticas dos dados de entrada ao longo do tempo.
Data Version Control (DVC) - Ferramenta para versionamento de dados e modelos de ML junto com o código.
DeepSpeed - Biblioteca da Microsoft para treinamento distribuído eficiente de grandes modelos.
Docker - Plataforma para containerização de aplicações.
E
Embedding - Representação vetorial densa de dados (texto, imagens) aprendida por redes neurais.
Rastreamento de Experimentos - Registro de parâmetros, métricas e artefatos de experimentos de ML.
F
Fidedignidade (Faithfulness) - Na avaliação de LLM, se o conteúdo gerado está fundamentado no contexto fornecido.
Engenharia de Features - Criação de novas features de entrada a partir de dados brutos para melhorar o desempenho do modelo.
Feature Store - Repositório centralizado para armazenar e servir features de ML.
Feast - Feature store open-source para ML.
Fine-tuning - Adaptação de um modelo pré-treinado para uma tarefa ou domínio específico.
G
GPU (Unidade de Processamento Gráfico) - Acelerador de hardware comumente usado para treinamento e inferência de ML.
Gradient Checkpointing - Técnica de otimização de memória que troca processamento por memória.
Great Expectations - Biblioteca Python para validação e documentação de dados.
H
Alucinação (Hallucination) - Quando LLMs geram informações plausíveis, porém incorretas ou inventadas.
HPA (Horizontal Pod Autoscaler) - Funcionalidade do Kubernetes para escalonamento automático de pods.
Hiperparâmetro - Valores de configuração definidos antes do treinamento (taxa de aprendizado, tamanho do batch, etc.).
I
Inferência - Uso de um modelo treinado para fazer previsões em novos dados.
Infraestrutura como Código (IaC) - Gerenciamento de infraestrutura por meio de código (Terraform, Pulumi).
K
KFServing/KServe - Plataforma nativa do Kubernetes para servir modelos de ML.
Kubeflow - Kit de ferramentas de ML para Kubernetes com pipelines, notebooks e componentes de serving.
Kubernetes - Plataforma de orquestração de containers para deploy e gerenciamento de aplicações.
KV Cache - Cache de chave-valor que armazena cálculos de atenção em modelos transformadores.
L
Desvio de Rótulo (Label Drift) - Quando a distribuição dos rótulos alvo muda ao longo do tempo.
LangChain - Framework para desenvolvimento de aplicações baseadas em LLM.
LangSmith - Plataforma para depuração, teste e monitoramento de aplicações LLM.
Latência - Tempo necessário para processar uma requisição e retornar uma resposta.
LLM (Large Language Model) - Rede neural treinada com grandes volumes de texto (GPT, Claude, Llama).
LLMOps - Práticas especializadas para deploy e manutenção de aplicações LLM.
M
Treinamento de Precisão Mista (Mixed Precision Training) - Uso de FP16 e FP32 para acelerar o treinamento.
MLflow - Plataforma open-source para gerenciamento do ciclo de vida de ML.
MLOps - Práticas para deploy e manutenção de modelos de ML em produção.
Model Card - Documentação que descreve o propósito, desempenho e limitações de um modelo.
Paralelismo de Modelo (Model Parallelism) - Divisão de um modelo entre múltiplas GPUs.
Model Registry - Repositório centralizado para armazenar e gerenciar versões de modelos.
N
Neptune.ai - Plataforma de rastreamento de experimentos e registro de modelos.
O
ONNX - Open Neural Network Exchange; formato para interoperabilidade de modelos.
Observabilidade - Capacidade de entender o estado do sistema por meio de logs, métricas e traces.
P
Latência P99 - Tempo de resposta no percentil 99 (99% das requisições são mais rápidas).
PagedAttention - Técnica de gerenciamento de memória do vLLM para KV cache eficiente.
Pipeline - Sequência de etapas de processamento de dados ou ML.
Pod - Menor unidade de deploy no Kubernetes, contendo um ou mais containers.
Prometheus - Ferramenta open-source para monitoramento e alertas.
Prompt Engineering - Elaboração de entradas eficazes para obter saídas desejadas de LLMs.
Prompt Injection - Ataque em que prompts maliciosos manipulam o comportamento do LLM.
Q
Quantização (Quantization) - Redução da precisão do modelo (FP32 → INT8) para diminuir memória e aumentar velocidade.
R
RAG (Retrieval-Augmented Generation) - Combinação de sistemas de recuperação com LLMs para respostas fundamentadas.
RAGAS - Framework para avaliação de pipelines RAG.
Rate Limiting - Restrição do número de requisições para evitar abusos.
Red Teaming - Testes deliberados em sistemas para encontrar vulnerabilidades.
Reprodutibilidade - Capacidade de recriar os mesmos resultados dados os mesmos inputs.
Runbook - Documentação de procedimentos para resposta a incidentes.
S
Shadow Mode - Execução de novo modelo em paralelo ao de produção sem impactar usuários.
Spot Instance - Capacidade de computação em nuvem disponível a preços reduzidos.
Streaming - Envio incremental da saída do LLM à medida que é gerada.
Sweep - Busca automatizada de hiperparâmetros (terminologia do W&B).
T
TensorFlow Serving - Sistema do Google para servir modelos TensorFlow.
TGI (Text Generation Inference) - Solução da HuggingFace para serving de LLM.
Token - Unidade básica de texto processada por LLMs.
TorchServe - Framework de serving de modelos do PyTorch.
Triton Inference Server - Servidor de inferência de alto desempenho da NVIDIA.
V
Banco de Dados Vetorial (Vector Database) - Banco de dados otimizado para armazenar e buscar embeddings.
vLLM - Motor de serving de LLM de alta vazão com PagedAttention.
W
Weights & Biases (W&B) - Plataforma de MLOps para rastreamento de experimentos e colaboração.
Amplie Seu Vocabulário
Este glossário cobre os termos essenciais. Conforme você avança no curso, desenvolverá uma compreensão mais profunda de cada conceito por meio da prática prática.