Quiz : Systèmes RAG en production
30 questions sur la mise à l'échelle, la mise en cache et la sécurité.
Q1 : À quel nombre de documents devriez-vous envisager le sharding ?
Réponse : Environ 1M+ documents nécessitent généralement le sharding.
Q2 : Qu'est-ce que la mise en cache sémantique ?
Réponse : Mise en cache des résultats pour des requêtes similaires à des requêtes déjà vues.
Q3 : Quel est l'avantage de la mise en cache des embeddings ?
Réponse : Réduit les appels API pour les embeddings de requêtes répétées.
Q4 : Qu'est-ce que la multi-location ?
Réponse : Servir plusieurs clients/organisations à partir d'un seul système avec isolation des données.
Q5 : Comment les espaces de noms aident-ils avec la multi-location ?
Réponse : Les données de chaque locataire sont stockées dans un espace de noms séparé, isolant les recherches.
Q6 : Qu'est-ce que l'injection de prompt ?
Réponse : Entrée malveillante conçue pour manipuler le comportement du LLM.
Q7 : Comment prévenir l'injection de prompt ?
Réponse : Validation des entrées, assainissement et conception sécurisée des prompts.
Q8 : Que doit-on enregistrer dans les journaux d'audit dans RAG ?
Réponse : ID utilisateur, requête, documents consultés, horodatage et métadonnées de réponse.
Q9 : Qu'est-ce que les permissions au niveau du document ?
Réponse : Contrôler quels utilisateurs peuvent accéder à quels documents spécifiques.
Q10 : Comment implémenter les permissions au niveau du document ?
Réponse : Stocker les ID de documents autorisés par utilisateur et filtrer les résultats de recherche.
Q11 : À quoi sert le traitement asynchrone ?
Réponse : Gérer un volume élevé de requêtes et l'indexation par lots sans blocage.
Q12 : Quel est le seuil typique de mise en cache sémantique ?
Réponse : 0.95+ de similarité - ne mettre en cache que les requêtes très similaires.
Q13 : Quand la cache doit-elle être invalidée ?
Réponse : Lorsque les documents sous-jacents sont mis à jour ou supprimés.
Q14 : Quel est le type de cache le plus rapide ?
Réponse : Cache de réponse - retourne une réponse mise en cache complète (<50ms).
Q15 : Comment gérer 10M+ documents ?
Réponse : Base de données vectorielle distribuée avec sharding.
Q16 : Qu'est-ce que l'indexation basée sur une file d'attente ?
Réponse : Ajouter des documents à une file d'attente pour une indexation en arrière-plan asynchrone.
Q17 : Qu'est-ce que l'équilibrage de charge dans RAG ?
Réponse : Distribuer les requêtes sur plusieurs instances RAG.
Q18 : Quelles métadonnées permettent la multi-location ?
Réponse : Champ tenant_id stocké avec chaque document.
Q19 : Qu'est-ce que l'isolation des données ?
Réponse : Assurer qu'un locataire ne peut pas accéder aux données d'un autre locataire.
Q20 : Qu'est-ce que le TTL dans la mise en cache ?
Réponse : Temps de vie - durée pendant laquelle les éléments mis en cache restent valides.
Q21 : Pourquoi utiliser Redis pour la mise en cache RAG ?
Réponse : Stockage en mémoire rapide avec support TTL et options de persistance.
Q22 : Quel est le compromis avec un TTL de cache plus petit ?
Réponse : Plus de fraîcheur mais moins de hits de cache et des coûts plus élevés.
Q23 : Comment fonctionne le sharding ?
Réponse : Répartition des données sur plusieurs nœuds de base de données en fonction d'une clé.
Q24 : Que doit-on chiffrer ?
Réponse : Documents au repos, clés API et données en transit.
Q25 : Qu'est-ce qu'un audit de sécurité dans RAG ?
Réponse : Revue régulière des contrôles d'accès, des journaux et des vulnérabilités.
Q26 : À quelle fréquence les journaux d'audit doivent-ils être examinés ?
Réponse : En continu via une surveillance automatisée, examen manuel mensuel.
Q27 : Qu'est-ce que le traitement par lots pour l'indexation ?
Réponse : Traiter les documents en groupes plutôt qu'un à la fois.
Q28 : Quel coût la mise en cache réduit-elle ?
Réponse : Appels API d'embedding, appels API LLM et ressources de calcul.
Q29 : Qu'est-ce que la mise à l'échelle horizontale ?
Réponse : Ajouter plus d'instances/nœuds plutôt que des machines plus grandes.
Q30 : Quelle est la considération SLA pour la production RAG ?
Réponse : Garanties de temps de réponse (par exemple, 95e percentile <3 secondes).