Quiz: Sistemas RAG en Producción
30 preguntas sobre escalabilidad, caché y seguridad.
P1: ¿A partir de cuántos documentos debería considerar el sharding?
Respuesta: Normalmente, alrededor de 1M+ documentos requieren sharding.
P2: ¿Qué es la caché semántica?
Respuesta: Almacenar en caché los resultados de consultas similares a consultas vistas previamente.
P3: ¿Cuál es el beneficio de la caché de embeddings?
Respuesta: Reduce las llamadas a la API para embeddings de consultas repetidas.
P4: ¿Qué es la multi-tenencia?
Respuesta: Servir a múltiples clientes/organizaciones desde un solo sistema con aislamiento de datos.
P5: ¿Cómo ayudan los namespaces con la multi-tenencia?
Respuesta: Los datos de cada inquilino se almacenan en un namespace separado, aislando las búsquedas.
P6: ¿Qué es la inyección de prompt?
Respuesta: Entrada maliciosa diseñada para manipular el comportamiento del LLM.
P7: ¿Cómo prevenir la inyección de prompt?
Respuesta: Validación de entradas, sanitización y diseño seguro de prompts.
P8: ¿Qué debe registrarse en los logs de auditoría en RAG?
Respuesta: ID de usuario, consulta, documentos accedidos, marca de tiempo y metadatos de la respuesta.
P9: ¿Qué son los permisos a nivel de documento?
Respuesta: Controlar qué usuarios pueden acceder a qué documentos específicos.
P10: ¿Cómo implementar permisos a nivel de documento?
Respuesta: Almacenar los IDs de documentos permitidos por usuario y filtrar los resultados de búsqueda.
P11: ¿Para qué es útil el procesamiento asíncrono?
Respuesta: Manejar alto volumen de consultas e indexación por lotes sin bloqueo.
P12: ¿Cuál es un umbral típico para la caché semántica?
Respuesta: 0.95+ de similitud: solo almacenar en caché consultas muy similares.
P13: ¿Cuándo debe invalidarse la caché?
Respuesta: Cuando los documentos subyacentes se actualizan o eliminan.
P14: ¿Cuál es el tipo de caché más rápido?
Respuesta: Caché de respuesta: devuelve la respuesta completa almacenada en caché (<50ms).
P15: ¿Cómo manejar más de 10M de documentos?
Respuesta: Base de datos vectorial distribuida con sharding.
P16: ¿Qué es la indexación basada en colas?
Respuesta: Agregar documentos a una cola para indexación asíncrona en segundo plano.
P17: ¿Qué es el balanceo de carga en RAG?
Respuesta: Distribuir las consultas entre múltiples instancias de RAG.
P18: ¿Qué metadato habilita la multi-tenencia?
Respuesta: El campo tenant_id almacenado con cada documento.
P19: ¿Qué es el aislamiento de datos?
Respuesta: Garantizar que un inquilino no pueda acceder a los datos de otro inquilino.
P20: ¿Qué es TTL en caché?
Respuesta: Time To Live: cuánto tiempo permanecen válidos los elementos en caché.
P21: ¿Por qué usar Redis para la caché en RAG?
Respuesta: Almacenamiento rápido en memoria con soporte de TTL y opciones de persistencia.
P22: ¿Cuál es la desventaja de un TTL de caché más corto?
Respuesta: Mayor frescura pero menos aciertos en caché y mayores costos.
P23: ¿Cómo funciona el sharding?
Respuesta: Dividir los datos entre varios nodos de base de datos según una clave.
P24: ¿Qué debe cifrarse?
Respuesta: Documentos en reposo, claves API y datos en tránsito.
P25: ¿Qué es una auditoría de seguridad en RAG?
Respuesta: Revisión regular de controles de acceso, logs y vulnerabilidades.
P26: ¿Con qué frecuencia deben revisarse los logs de auditoría?
Respuesta: Continuamente mediante monitoreo automatizado, revisión manual mensual.
P27: ¿Qué es el procesamiento por lotes para la indexación?
Respuesta: Procesar documentos en grupos en lugar de uno por uno.
P28: ¿Qué costo reduce la caché?
Respuesta: Llamadas a la API de embeddings, llamadas a la API de LLM y recursos de cómputo.
P29: ¿Qué es la escalabilidad horizontal?
Respuesta: Agregar más instancias/nodos en lugar de máquinas más grandes.
P30: ¿Cuál es la consideración de SLA para RAG en producción?
Respuesta: Garantías de tiempo de respuesta (por ejemplo, percentil 95 <3 segundos).