Glosario de LLM
Un glosario completo de más de 40 términos utilizados en el mundo de los modelos de lenguaje de gran tamaño (LLM).
A
AGI (Inteligencia Artificial General) - Sistemas de IA capaces de comprender, aprender y aplicar conocimientos en cualquier dominio al nivel humano o superior. Actualmente es teórico.
Agente de IA - Un sistema de IA que puede tomar acciones autónomas, utilizar herramientas y completar tareas de varios pasos con mínima intervención humana.
Alineación - El desafío de asegurar que los sistemas de IA se comporten de acuerdo con los valores e intenciones humanas.
Anthropic - Empresa de seguridad en IA que creó Claude, fundada por ex-investigadores de OpenAI.
API (Interfaz de Programación de Aplicaciones) - Una forma en que las aplicaciones se comunican con servicios de LLM, enviando prompts y recibiendo respuestas de manera programática.
Mecanismo de Atención - La innovación clave en los Transformers que permite a los modelos ponderar la importancia de diferentes partes de la entrada al generar la salida.
Autorregresivo - Método de generación donde cada token de salida se retroalimenta como entrada para predecir el siguiente token.
C
ChatGPT - Producto de IA conversacional de OpenAI, basado en modelos GPT ajustados para el diálogo.
Claude - Asistente de IA de Anthropic, conocido por ventanas de contexto largas y enfoque en la seguridad.
Código Cerrado - Modelos de IA cuyos detalles internos no son públicos; acceso solo mediante API.
Completion (compleción) - El texto generado por un LLM en respuesta a un prompt.
Ventana de Contexto - La cantidad máxima de texto (en tokens) que un LLM puede procesar a la vez. Similar a la memoria a corto plazo.
E
Habilidades Emergentes - Capacidades que aparecen en los LLM a escala suficiente sin ser programadas explícitamente (por ejemplo, razonamiento, traducción).
Embedding - Representación numérica de un texto como un vector, capturando su significado semántico.
F
Aprendizaje con Pocos Ejemplos (Few-Shot Learning) - La capacidad de realizar tareas con solo unos pocos ejemplos proporcionados en el prompt, sin entrenamiento adicional.
Fine-Tuning (Ajuste Fino) - Entrenar un modelo existente adicionalmente con datos específicos para especializarlo en tareas particulares.
G
Gemini - Familia de modelos de IA multimodal de Google, sucesora de Bard.
GPT (Generative Pre-trained Transformer) - Serie de modelos de lenguaje de OpenAI, base de ChatGPT.
Guardrails - Medidas de seguridad que restringen lo que un LLM generará o discutirá.
H
Alucinación - Cuando un LLM genera información que suena plausible pero es incorrecta o inventada.
I
Inferencia - El proceso de ejecutar un modelo entrenado para generar salidas. (El entrenamiento enseña; la inferencia utiliza.)
Tokens de Entrada - Los tokens de su prompt que el modelo procesa. Usualmente son más baratos que los tokens de salida.
K
Knowledge Cutoff (Fecha Límite de Conocimiento) - La fecha posterior a la cual un LLM no tiene datos de entrenamiento. La información después de esta fecha es desconocida para el modelo.
L
Llama - Familia de modelos de lenguaje de gran tamaño de código abierto de Meta.
LLM (Large Language Model) - Modelos de IA con miles de millones de parámetros, entrenados con grandes cantidades de datos de texto, capaces de comprender y generar lenguaje similar al humano.
LLM Local - Ejecutar un LLM en su propio hardware en lugar de a través de APIs en la nube.
M
Max Tokens (Máximo de Tokens) - Parámetro que limita cuántos tokens generará el modelo en su respuesta.
Mistral - Empresa francesa de IA conocida por modelos de código abierto eficientes como Mistral 7B.
Multimodal - IA que puede procesar y generar múltiples tipos de datos (texto, imágenes, audio, video).
O
Ollama - Herramienta para ejecutar fácilmente LLMs de código abierto localmente en su computadora.
Código Abierto - LLMs cuyos pesos del modelo están disponibles públicamente para descargar y usar.
OpenAI - Empresa de investigación en IA que creó GPT, DALL-E y ChatGPT.
Tokens de Salida - Los tokens generados por el modelo como respuesta. Usualmente son más costosos que los tokens de entrada.
P
Parámetros - Los valores ajustables (pesos) en una red neuronal que se aprenden durante el entrenamiento. Más parámetros generalmente significa mayor capacidad.
Pre-entrenamiento - La fase inicial de entrenamiento de un LLM con grandes cantidades de datos de texto general antes del ajuste fino para tareas específicas.
Prompt - El texto de entrada dado a un LLM para guiar su respuesta.
Ingeniería de Prompts - La práctica de diseñar prompts efectivos para obtener salidas deseadas de los LLM.
Q
Cuantización - Reducción de la precisión del modelo (por ejemplo, de 16 bits a 4 bits) para hacer los modelos más pequeños y rápidos, con cierta pérdida de calidad.
R
RAG (Generación Aumentada por Recuperación) - Combinación de LLMs con recuperación de conocimiento externo para fundamentar las respuestas en información verificada.
Límite de Tasa (Rate Limit) - Restricciones sobre cuántas solicitudes de API o tokens puede usar en un período de tiempo determinado.
RLHF (Aprendizaje por Refuerzo a partir de Retroalimentación Humana) - Técnica de entrenamiento donde evaluadores humanos califican las salidas, y el modelo aprende a producir respuestas mejor valoradas.
S
Streaming - Recibir respuestas de LLM token por token a medida que se generan, en lugar de esperar la respuesta completa.
Prompt del Sistema - Instrucciones ocultas que definen cómo debe comportarse una IA durante toda una conversación.
T
Temperatura - Parámetro que controla la aleatoriedad en la generación. Bajo = predecible; alto = creativo pero arriesgado.
Token - La unidad básica que procesan los LLM; en promedio, aproximadamente ¾ de una palabra. En inglés, "Understanding" podría ser 3 tokens.
Tokenización - El proceso de dividir el texto en tokens para que el modelo los procese.
Entrenamiento - El proceso de enseñar a un LLM ajustando sus parámetros a partir de grandes cantidades de datos de texto.
Transformer - La arquitectura de red neuronal que impulsa los LLM modernos, introducida en 2017.
Z
Zero-Shot - Realizar una tarea sin ejemplos, solo con instrucciones en el prompt.
Relaciones Clave
Referencia Rápida
Tamaños de Modelo
| Tamaño | Parámetros | Uso Típico |
|---|---|---|
| Pequeño | 7B | Ejecución local, tareas ligeras |
| Mediano | 13B-30B | Buen equilibrio |
| Grande | 70B+ | Tareas complejas, alta calidad |
Aproximaciones de Tokens
- 1 token ≈ ¾ palabra
- 100 tokens ≈ 75 palabras
- 1 página ≈ 500-750 tokens
Configuraciones de Temperatura
| Configuración | Comportamiento |
|---|---|
| 0.0-0.3 | Determinista, fáctico |
| 0.4-0.7 | Equilibrado |
| 0.8-1.0+ | Creativo, variable |