Examen Final: Modelos de Lenguaje Grande Completo

Este examen integral cubre los 12 módulos. Usted necesita 40/50 (80%) para aprobar.

Estimación de tiempo: 60-90 minutos

---

Sección A: Fundamentos (Preguntas 1-15)

Pregunta 1

¿Qué distingue a un Modelo de Lenguaje Grande de los modelos anteriores?

1. Billones de parámetros y capacidades emergentes por escala
2. Lenguaje de programación diferente
3. Aprendizaje en tiempo real
4. Tamaño más pequeño

Pregunta 2

¿Qué arquitectura utilizan los LLM modernos?

1. RNN
2. LSTM
3. Transformer
4. CNN

Pregunta 3

¿Cuál es la fórmula de atención?

1. softmax(QK^T / √d_k) × V
2. Q + K + V
3. Q × K × V
4. softmax(Q) × softmax(K)

Pregunta 4

¿Por qué se escala por √d_k en la atención?

1. Prevenir que los productos punto grandes lleven el softmax a extremos
2. Acelerar el cálculo
3. Reducir la memoria
4. Mejorar la precisión

Pregunta 5

¿Qué permite la atención multi-cabeza?

1. Atender a diferentes subespacios de representación en paralelo
2. Entrenamiento más rápido
3. Modelo más pequeño
4. Menos memoria

Pregunta 6

¿Por qué los Transformers necesitan codificación posicional?

1. La auto-atención es invariante a la permutación sin información de posición
2. Reducir el cálculo
3. Mejorar la precisión
4. Permitir el entrenamiento

Pregunta 7

¿Para qué se utiliza la atención causal?

1. Prevenir la atención a posiciones futuras en modelos autoregresivos
2. Encontrar causas
3. Comprensión bidireccional
4. Acelerar la inferencia

Pregunta 8

¿Cuál es el objetivo de preentrenamiento de GPT?

1. Predicción del siguiente token
2. Modelado de lenguaje enmascarado
3. Clasificación de oraciones
4. Traducción

Pregunta 9

¿Cuál es la proporción óptima de tokens por parámetro según Chinchilla?

1. ~20 tokens por parámetro
2. 1 token por parámetro
3. 100 tokens por parámetro
4. 0.1 tokens por parámetro

Pregunta 10

¿Qué es ZeRO-3?

1. Particionamiento de estados del optimizador, gradientes Y parámetros
2. Tasa de aprendizaje cero
3. Gradiente cero
4. Tres GPUs

Pregunta 11

¿Qué empresa desarrolló Claude?

1. OpenAI
2. Anthropic
3. Google
4. Meta

Pregunta 12

¿Qué es la IA Constitucional?

1. Entrenamiento con principios en lugar de etiquetado caso por caso
2. Regulaciones gubernamentales
3. IA legal
4. Conjunto de datos de derecho constitucional

Pregunta 13

¿Qué es la tokenización BPE?

1. Fusión iterativa de pares de caracteres frecuentes
2. Codificación de procesamiento de bytes
3. División en párrafos
4. Procesamiento binario

Pregunta 14

¿Qué es RoPE?

1. Rotary Position Embedding - codificación de posición mediante rotación
2. Codificación de posición aleatoria
3. Operación recursiva
4. Tasa de procesamiento

Pregunta 15

¿Qué determina la dimensión del embedding?

1. Tamaño del vector que representa cada token
2. Número de tokens
3. Tamaño del vocabulario
4. Longitud de la secuencia

---

Sección B: Entrenamiento y Optimización (Preguntas 16-25)

Pregunta 16

¿Qué es el KV cache?

1. Almacenar pares clave-valor calculados para evitar recálculo
2. Base de datos clave-valor
3. Cache solo para claves
4. Cache de entrenamiento

Pregunta 17

¿Qué reducción de memoria proporciona INT4?

1. ~87.5% (hasta 12.5% de FP32)
2. 50%
3. 25%
4. 75%

Pregunta 18

¿Cuál es la innovación clave de vLLM?

1. PagedAttention para gestión eficiente de memoria
2. Mejor tokenización
3. Entrenamiento mejorado
4. Nueva arquitectura

Pregunta 19

¿Qué añade LoRA a los pesos existentes?

1. Matrices de bajo rango (W + BA)
2. Nuevos pesos completos
3. Solo términos de sesgo
4. Capas de normalización

Pregunta 20

¿Qué es QLoRA?

1. LoRA con modelo base cuantizado
2. Pesos LoRA cuantizados
3. LoRA rápido
4. LoRA de calidad

Pregunta 21

¿Qué es RLHF?

1. Reinforcement Learning from Human Feedback
2. Random Learning Human Feedback
3. Aprendizaje recursivo
4. Aprendizaje en tiempo real

Pregunta 22

¿Qué predice el modelo de recompensa?

1. Qué respuesta preferirían los humanos
2. Probabilidades de tokens
3. Pérdida de entrenamiento
4. Precisión del modelo

Pregunta 23

¿Qué es DPO?

1. Direct Preference Optimization - alternativa a RLHF
2. Data Processing Optimization
3. Distribution Policy Optimization
4. Dynamic Parameter Optimization

Pregunta 24

¿Qué es el olvido catastrófico?

1. El modelo pierde conocimiento preentrenado durante el fine-tuning
2. Desbordamiento de memoria
3. Olvidar checkpoints
4. Pérdida de datos

Pregunta 25

¿Por qué usar acumulación de gradientes?

1. Simular tamaños de lote mayores con memoria limitada
2. Acelerar el entrenamiento
3. Mejorar la precisión
4. Reducir el sobreajuste

---

Sección C: APIs y Aplicaciones (Preguntas 26-35)

Pregunta 26

¿Qué produce temperature=0?

1. Salida más determinista/predictible
2. Salida más aleatoria
3. Sin salida
4. Error

Pregunta 27

¿Qué es function calling?

1. LLM solicitando la ejecución de herramientas externas
2. Llamar funciones de Python
3. Depuración de API
4. Ejecución de código

Pregunta 28

¿Qué es RAG?

1. Retrieval-Augmented Generation
2. Random Answer Generation
3. Recursive API Grouping
4. Response Accuracy Grading

Pregunta 29

¿Qué mide MMLU?

1. Conocimiento en 57 materias académicas
2. Generación de código
3. Calidad de traducción
4. Comprensión de imágenes

Pregunta 30

¿Qué es red teaming?

1. Pruebas adversariales para encontrar vulnerabilidades
2. Trabajo en equipo
3. Pruebas de rendimiento
4. Pruebas codificadas por color

Pregunta 31

¿Qué es HumanEval?

1. Benchmark de generación de código
2. Recopilación de preferencias humanas
3. Prueba de calidad de escritura
4. Pruebas de chatbot

Pregunta 32

¿Qué es la contaminación de datos?

1. Entrenamiento con datos de pruebas de benchmark
2. Datos corruptos
3. Violación de privacidad
4. Ruido en los datos

Pregunta 33

¿Qué es jailbreaking?

1. Eludir medidas de seguridad mediante prompts ingeniosos
2. Escapar de prisiones
3. Desbloquear pesos del modelo
4. Eliminar límites

Pregunta 34

¿Cómo manejar los límites de tasa?

1. Retroceso exponencial con reintentos
2. Ignorar y continuar
3. Cambiar la clave de API
4. Reiniciar la aplicación

Pregunta 35

¿Para qué es útil el streaming?

1. Mostrar resultados parciales a los usuarios de inmediato
2. Reducir costos
3. Mejorar la precisión
4. Ahorrar memoria

---

Sección D: Temas Avanzados (Preguntas 36-50)

Pregunta 36

¿Qué es MoE?

1. Mixture of Experts - arquitectura dispersa con enrutador
2. Multiple Output Encoding
3. Model of Everything
4. Method of Extraction

Pregunta 37

En Mixtral, ¿cuántos expertos están activos por token?

1. 2 de 8
2. Los 8
3. 1
4. 4

Pregunta 38

¿Qué es GPT-4V?

1. GPT-4 con capacidades de visión
2. Versión de GPT-4
3. Modelo de video
4. Modelo de voz

Pregunta 39

¿Qué es ReAct?

1. Patrón de razonamiento + acción para agentes
2. Framework React.js
3. Pruebas de reacción
4. Acciones en tiempo real

Pregunta 40

¿Qué es un agente LLM?

1. LLM que puede planificar, usar herramientas y tomar acciones
2. Bot de atención al cliente
3. Wrapper de API
4. Asistente de entrenamiento

Pregunta 41

¿Qué es Mamba?

1. Selective State Space Model con complejidad lineal
2. Variante nueva de Transformer
3. Framework de entrenamiento
4. Conjunto de datos

Pregunta 42

¿Qué complejidad tiene la atención estándar?

1. O(n²) en la longitud de la secuencia
2. O(n)
3. O(log n)
4. O(1)

Pregunta 43

¿Qué es AGI?

1. Artificial General Intelligence
2. Advanced Generated Intelligence
3. Automated Global Intelligence
4. Artificial Gradient Intelligence

Pregunta 44

¿Con qué tienen dificultades los LLM actuales?

1. Precisión factual confiable y razonamiento complejo
2. Generación de texto
3. Seguir instrucciones
4. Tareas básicas

Pregunta 45

¿Qué es la decodificación especulativa?

1. Modelo pequeño redacta, modelo grande verifica
2. Decodificación aleatoria
3. Decodificación paralela
4. Ejecución especulativa

Pregunta 46

¿Qué es el batching continuo?

1. Agregar/eliminar solicitudes dinámicamente del lote
2. Tamaño de lote fijo
3. Entrenamiento continuo
4. Normalización por lotes

Pregunta 47

¿Qué es el alignment tax?

1. Reducción potencial de utilidad debido a medidas de seguridad
2. Impuesto gubernamental
3. Costo computacional
4. Precios de API

Pregunta 48

¿Qué es la perplejidad?

1. Exponencial de la pérdida promedio de entropía cruzada (menor es mejor)
2. Confusión del modelo
3. Medida de complejidad
4. Métrica de entrenamiento

Pregunta 49

¿Para qué se utiliza la similitud coseno?

1. Medir la similitud semántica entre embeddings
2. Cálculo de ángulos
3. Pérdida de entrenamiento
4. Peso de atención

Pregunta 50

¿Cuál es el futuro probable de las arquitecturas LLM?

1. Híbrido que combina atención y capas lineales
2. Retorno puro a RNN
3. Sin cambios
4. Abandonar las redes neuronales

---

¡Examen completado! 🎓

Puntaje de aprobación: 40/50 (80%)

¡Felicitaciones por completar el curso Modelos de Lenguaje Grande Completo!

← GlosarioRecursos →