اختبار: الوحدة 6 - الاستدلال والنشر
السؤال 1
ماذا يخزن ذاكرة التخزين المؤقت KV؟
السؤال 2
ما هو فك التشفير التخميني؟
السؤال 3
ما هو تقليل الذاكرة الذي يوفره التكميم INT4؟
السؤال 4
ما هو GPTQ؟
السؤال 5
ما هو الابتكار الرئيسي لـ vLLM؟
السؤال 6
ما الذي يحسنه التجميع المستمر؟
السؤال 7
ما هو AWQ؟
السؤال 8
أي مكتبة توفر التكميم الفوري؟
السؤال 9
ما هو TGI؟
السؤال 10
لماذا نستخدم موازنة التحميل لخدمة LLM؟
الأسئلة 11-30
(تغطي مواضيع التحسين المتقدمة: الانتباه الفوري، التوازي في الموتر للاستدلال، استراتيجيات التوسع التلقائي، تحسين التكلفة، المقايضة بين التأخير ومعدل الإنتاجية، اختبار A/B، المراقبة، استراتيجيات التخزين المؤقت، تحديد المعدل، وأنماط النشر)
السؤال 11
ما الذي يحسنه الانتباه الفوري؟
السؤال 12
ما هو التوازي في الموتر في الاستدلال؟
السؤال 13
متى يجب استخدام التوسع التلقائي؟
السؤال 14
ما هي استراتيجية تحسين التكلفة الرئيسية؟
السؤال 15
ما هي المقايضة مع أحجام الدفعات الأكبر؟
السؤال 16
ما هي فائدة التخزين المؤقت للاستجابة؟
السؤال 17
ما هو تحديد المعدل؟
السؤال 18
ما هو المقياس الذي يقيس تجربة المستخدم بشكل أفضل؟
السؤال 19
ما هو التأثير النموذجي على الدقة لـ INT8؟
السؤال 20
ما هي فائدة الاستدلال غير المتزامن؟
السؤال 21
ما الذي يدعمه خادم Triton Inference؟
السؤال 22
متى يجب استخدام الاستجابات المتدفقة؟
السؤال 23
ما هو تسخين النموذج؟
السؤال 24
ماذا يقيس "الرموز في الثانية"؟
السؤال 25
لماذا نستخدم ONNX للنشر؟
السؤال 26
ما هو التمهيد مقابل فك التشفير في استدلال LLM؟
السؤال 27
ما الذي يحد من ذاكرة GPU أثناء الاستدلال؟
السؤال 28
ما هي فائدة تقطير النموذج للنشر؟
السؤال 29
ما هو فحص الصحة في نشر LLM؟
السؤال 30
ما هو المقياس الذي يشير إلى كفاءة GPU؟
درجة النجاح: 24/30 (80%)