Quiz: Módulo 12 - Futuro de los LLM

Pregunta 1

¿Qué demostró el escalado Chinchilla?

1. Modelos más pequeños entrenados con más datos pueden superar a modelos más grandes
2. Más grande siempre es mejor
3. Los datos no importan
4. El entrenamiento debe detenerse temprano

Pregunta 2

¿Cuál es la proporción óptima de tokens por parámetro según Chinchilla?

1. ~20 tokens por parámetro
2. 1 token por parámetro
3. 100 tokens por parámetro
4. 1000 tokens por parámetro

Pregunta 3

¿Qué es Mamba?

1. Modelo de Espacio de Estados Selectivo con complejidad lineal
2. Nueva variante de Transformer
3. Framework de entrenamiento
4. Conjunto de datos

Pregunta 4

¿Qué complejidad tiene la atención estándar?

1. O(n²) en la longitud de la secuencia
2. O(n)
3. O(log n)
4. O(1)

Pregunta 5

¿Qué complejidad tienen los SSM?

1. O(n) lineal
2. O(n²)
3. O(n³)
4. O(log n)

Pregunta 6

¿Qué significa AGI?

1. Inteligencia Artificial General
2. Inteligencia Generada Avanzada
3. Inteligencia Global Automatizada
4. Inteligencia Artificial de Gradiente

Pregunta 7

¿Con qué tienen dificultades los LLM actuales?

1. Precisión factual confiable y razonamiento complejo
2. Generación de texto
3. Seguir instrucciones simples
4. Procesar la entrada

Pregunta 8

¿Qué es RWKV?

1. Arquitectura que combina la eficiencia de RNN con la calidad de Transformer
2. Random Weight Key Value
3. Atención Residual Weighted KV
4. Técnica de entrenamiento

Pregunta 9

¿Cuál es una dirección probable para la arquitectura futura?

1. Híbrida que combina atención y capas lineales
2. Retorno puro a RNN
3. Sin cambios respecto al actual
4. Abandonar las redes neuronales

Pregunta 10

¿Cuál es el desafío del aprendizaje continuo?

1. Actualizar el modelo sin olvidar el conocimiento previo
2. Duración del entrenamiento
3. Programación de la tasa de aprendizaje
4. Recolección de datos

Preguntas 11-30

(Incluye: eficiencia de escalado, capacidades emergentes, saturación de benchmarks, limitaciones de datos, modelos del mundo, mejoras en razonamiento, seguridad a escala, implicaciones económicas, arquitecturas híbridas, tendencias en cómputo, mejoras algorítmicas, planificación en varios pasos, aprendizaje en línea, gobernanza de IA, incertidumbres en los plazos)

Pregunta 11

¿Qué es la saturación de benchmarks?

1. Los modelos alcanzan puntuaciones casi perfectas, limitando la diferenciación
2. Demasiados benchmarks
3. Desbordamiento de datos
4. Entrenamiento demasiado largo

Pregunta 12

¿Qué es un modelo del mundo en IA?

1. Representación interna de cómo funciona el mundo
2. Modelo global de IA
3. Datos de mapas
4. Modelo de traducción

Pregunta 13

¿Qué limita la disponibilidad de datos para el entrenamiento?

1. El texto de alta calidad es finito; la calidad importa más que la cantidad
2. Costos de almacenamiento
3. Velocidad de procesamiento
4. No existen límites

Pregunta 14

¿Qué mejora el chain-of-thought?

1. Razonamiento en varios pasos mostrando el proceso
2. Velocidad de generación de texto
3. Uso de memoria
4. Eficiencia de entrenamiento

Pregunta 15

¿Cuál es el desafío de la seguridad a escala?

1. Mantener la alineación a medida que aumentan las capacidades
2. Seguridad física
3. Seguridad del servidor
4. Seguridad de contraseñas

Pregunta 16

¿Qué impacto económico tienen los LLM?

1. Cambios importantes en la productividad en todas las industrias
2. Sin impacto significativo
3. Solo en la industria tecnológica
4. Solo en investigación

Pregunta 17

¿De qué trata la ley de escalado de Kaplan?

1. Relación de ley de potencias entre el tamaño del modelo y la pérdida
2. Tiempo de entrenamiento
3. Uso de memoria
4. Costos de API

Pregunta 18

¿Qué es una capacidad emergente?

1. Habilidad que aparece repentinamente a cierta escala
2. Funcionalidad diseñada
3. Error
4. Función de emergencia

Pregunta 19

¿Qué es el entrenamiento óptimo en cómputo?

1. Mejor asignación de cómputo entre tamaño del modelo y datos
2. Entrenamiento más rápido
3. Entrenamiento más barato
4. Más parámetros

Pregunta 20

¿Qué es la gobernanza de IA?

1. Políticas y reglas para el desarrollo y despliegue de IA
2. La IA se gestiona a sí misma
3. Uso gubernamental de IA
4. Estructura corporativa

Pregunta 21

¿Qué es el aprendizaje en línea?

1. Aprendizaje continuo a partir de nuevos datos sin reentrenamiento completo
2. Cursos por internet
3. Entrenamiento basado en la web
4. Juegos en línea

Pregunta 22

¿Qué significa "selectivo" en el SSM selectivo de Mamba?

1. Parámetros dependientes de la entrada que seleccionan información relevante
2. Selección aleatoria
3. Selección del usuario
4. Selección fija

Pregunta 23

¿Por qué podrían persistir los transformers?

1. Bien comprendidos, optimizados y de alta calidad
2. No hay alternativas
3. Opción más barata
4. Arquitectura más simple

Pregunta 24

¿Qué es la comprensión fundamentada?

1. Lenguaje conectado al conocimiento y percepción del mundo real
2. Puesta a tierra eléctrica
3. Conocimiento básico
4. Modelos fundacionales

Pregunta 25

¿Cuál es el debate entre reconocimiento de patrones y comprensión?

1. Si los LLM realmente comprenden o solo reconocen patrones
2. Regex vs PLN
3. Algoritmos de búsqueda
4. Reconocimiento de imágenes

Pregunta 26

¿Qué tendencia en cómputo permite modelos más grandes?

1. Mejoras continuas en hardware (GPUs, TPUs)
2. Solo reducción de costos
3. Solo software
4. Sin tendencia

Pregunta 27

¿Qué es una mejora algorítmica?

1. Mejores métodos de entrenamiento que logran los mismos resultados con menos cómputo
2. Más cómputo
3. Mejor hardware
4. Más datos

Pregunta 28

¿Cuál es el desafío de la planificación en varios pasos?

1. Los LLM tienen dificultades con planes coherentes a largo plazo
2. Demasiados pasos en el entrenamiento
3. Problemas de programación
4. Límites de tasa de API

Pregunta 29

¿Cuál es la transformación educativa derivada de los LLM?

1. Tutoría personalizada, evaluación cambiada, nuevas habilidades requeridas
2. Sin cambios
3. Solo aprendizaje en línea
4. Menos educación necesaria

Pregunta 30

¿Por qué son inciertos los plazos para la AGI?

1. Requisitos desconocidos y avances impredecibles
2. Mala planificación
3. Falta de financiación
4. No hay suficientes investigadores

---

¡Felicidades!

¡Ha completado todos los cuestionarios de los 12 módulos! 🎉

Puntaje de aprobación: 24/30 (80%)

← Capítulo 3Glosario →