اختبار: الوحدة 3 - تدريب نماذج اللغة الكبيرة
اختبر فهمك لتدريب نماذج اللغة الكبيرة. 30 سؤالًا تغطي التدريب المسبق، معالجة البيانات، والتدريب الموزع.
السؤال 1
ما هو الهدف من التدريب المسبق لنماذج على نمط GPT؟
السؤال 2
في نمذجة اللغة المقنعة، ما هي النسبة المئوية للرموز التي يتم إخفاؤها عادةً؟
السؤال 3
ما هي الفائدة الأساسية لنمذجة اللغة السببية مقارنة بنمذجة اللغة المقنعة لنماذج اللغة الكبيرة؟
السؤال 4
لماذا يعتبر إزالة التكرار مهمًا في بيانات التدريب؟
السؤال 5
ما هو Common Crawl؟
السؤال 6
ما هو التوازي في البيانات؟
السؤال 7
ما هو القيد في التوازي النقي للبيانات؟
السؤال 8
في التوازي في الموترات، ما الذي يتم تقسيمه عبر وحدات معالجة الرسومات؟
السؤال 9
ما الذي يرمز إليه ZeRO؟
السؤال 10
ما الذي يقسمه ZeRO-3؟
السؤال 11
ما هي توصية مقياس Chinchilla لرموز التدريب؟
السؤال 12
ما هي الدقة المستخدمة عادةً لتدريب نماذج اللغة الكبيرة لتوفير الذاكرة؟
السؤال 13
ما هو التوازي في الأنابيب؟
السؤال 14
أي إطار عمل شائع ZeRO؟
السؤال 15
لماذا يعتبر تصفية الجودة مهمًا لبيانات التدريب؟
السؤال 16
كم عدد رموز التدريب التي استخدمها LLaMA 2؟
السؤال 17
ما الذي يفعله التحقق من التدرجات؟
السؤال 18
ما هو التحدي الرئيسي مع التوازي في الأنابيب؟
السؤال 19
ما هو دور تسخين معدل التعلم؟
السؤال 20
أي محسن يُستخدم عادةً لتدريب نماذج اللغة الكبيرة؟
السؤال 21
ماذا يعني "طول السياق" أثناء التدريب؟
السؤال 22
ما هو التعقيد في سياق تقييم نماذج اللغة الكبيرة؟
السؤال 23
ما هو حجم الدفعة النموذجي لتدريب نماذج اللغة الكبيرة؟
السؤال 24
ما هو ارتفاع الخسارة أثناء التدريب؟
السؤال 25
ما هو الغرض من تدريب الترميز؟
السؤال 26
ما هو جدول معدل التعلم الشائع لتدريب نماذج اللغة الكبيرة؟
السؤال 27
ما هو الغرض من تآكل الأوزان في التدريب؟
السؤال 28
ما هو FSDP؟
السؤال 29
ما هي فائدة استخدام التعلم المنهجي لنماذج اللغة الكبيرة؟
السؤال 30
ما هي المدة النموذجية لتدريب نموذج لغة كبير (100 مليار+ معلمة)؟
اكتمل الاختبار!
درجة النجاح: 24/30 (80%)