اختبار: الوحدة 5 - التجزئة والتمثيلات

السؤال 1

ما هو BPE (Byte Pair Encoding)؟

1. خوارزمية تجزئة تدمج أزواج الحروف المتكررة بشكل تكراري
2. نوع من الشبكات العصبية
3. طريقة تمثيل
4. خوارزمية ضغط للنماذج

السؤال 2

أي مجزئ يستخدمه BERT؟

1. BPE
2. WordPiece
3. SentencePiece
4. Unigram

السؤال 3

كيف يعامل SentencePiece النص؟

1. كلمات
2. حروف
3. بايتات خام (غير معتمد على اللغة)
4. جمل

السؤال 4

ما هي نافذة السياق لـ GPT-3؟

1. 2K رموز
2. 4K رموز
3. 8K رموز
4. 32K رموز

السؤال 5

ما هي نافذة السياق لـ Claude 3؟

1. 32K رموز
2. 100K رموز
3. 200K رموز
4. 1M رموز

السؤال 6

لماذا نستخدم التجزئة مع التداخل؟

1. لتقليل وقت المعالجة
2. للحفاظ على السياق عند حدود القطع
3. لزيادة الدقة
4. لتقليل عدد الرموز

السؤال 7

ماذا تعني RoPE؟

1. Rotary Position Embedding
2. Recursive Operator for Position Encoding
3. Random Orthogonal Position Encoding
4. Relative Order Position Embedding

السؤال 8

ماذا تمثل التمثيلات؟

1. معرفات الرموز
2. متجهات كثيفة تلتقط المعنى الدلالي
3. احتمالات
4. أوزان الانتباه

السؤال 9

كيف يتم قياس التشابه الدلالي عادة؟

1. المسافة الإقليدية
2. التشابه الكوني
3. مسافة مانهاتن
4. مسافة هامنج

السؤال 10

ما هو التطبيق الرئيسي للتمثيلات؟

1. تدريب النموذج
2. البحث الدلالي وRAG
3. التجزئة
4. حساب الانتباه

السؤال 11

ما هو حجم المفردات النموذجي لـ LLMs؟

1. 1,000 رموز
2. 10,000 رموز
3. 30,000-50,000 رموز
4. 1,000,000 رموز

السؤال 12

ما هي ميزة تجزئة الكلمات الفرعية؟

1. تعالج الكلمات غير المعروفة عن طريق تقسيمها إلى كلمات فرعية معروفة
2. معالجة أسرع
3. حجم نموذج أصغر
4. نحو أفضل

السؤال 13

ماذا يشير البادئة ## في WordPiece؟

1. بداية الكلمة
2. استمرار الكلمة (ليس البداية)
3. رمز خاص
4. رمز غير معروف

السؤال 14

ما هو النموذج الذي حقق 1M+ سياق؟

1. GPT-4
2. Claude 3
3. Gemini 1.5
4. LLaMA 3

السؤال 15

ما هو بُعد التمثيل لـ GPT-3؟

1. 768
2. 1024
3. 12288
4. 4096

السؤال 16-30

(أسئلة إضافية تغطي حالات الحافة في التجزئة، تطبيقات التمثيلات، إدارة نافذة السياق، والتنفيذات العملية)

السؤال 16

ماذا يحدث عندما لا تكون الكلمة في مفردات المجزئ؟

1. يتم تجاهلها
2. يتم تقسيمها إلى كلمات فرعية أو حروف معروفة
3. يتم رفع خطأ
4. يتم استبدالها بـ [UNK]

السؤال 17

ما هو تأثير حجم المفردات على النموذج؟

1. مفردات أكبر = المزيد من المعلمات في طبقة التمثيل
2. لا تأثير
3. يؤثر فقط على سرعة التدريب
4. يؤثر فقط على سرعة الاستدلال

السؤال 18

أي مكتبة شائعة لتمثيلات الجمل؟

1. sentence-transformers
2. spaCy
3. NLTK
4. gensim

السؤال 19

ما هو الغرض من الرموز الخاصة مثل [CLS] و[SEP]؟

1. تحديد حدود الجمل وتمكين المهام الخاصة
2. تقليل حجم المفردات
3. تسريع التجزئة
4. تحسين الدقة

السؤال 20

ما هو دمج الرموز في المجزئات؟

1. دمج أزواج الرموز المتكررة في رموز فردية
2. إزالة الرموز المكررة
3. دمج التمثيلات
4. تقليل المفردات

السؤال 21

لماذا تعتبر التجزئة على مستوى البايت مفيدة؟

1. يمكنها تمثيل أي إدخال بدون رموز UNK
2. معالجة أسرع
3. مفردات أصغر
4. دقة أفضل

السؤال 22

ما هي العلاقة بين الرموز والكلمات؟

1. 1 رمز = 1 كلمة دائمًا
2. 1 كلمة يمكن أن تكون عدة رموز؛ 1 رمز يمكن أن يكون جزء من كلمة
3. 1 رمز = 1 حرف
4. 1 رمز = 1 جملة

السؤال 23

تقريبًا كم عدد الرموز التي تعادل كلمة واحدة في الإنجليزية؟

1. 0.5 رموز
2. 1 رمز
3. ~1.3-1.5 رموز
4. 3 رموز

السؤال 24

من أين يتم تعلم تمثيل الرمز؟

1. التصنيف اليدوي
2. بيانات التدريب أثناء تدريب النموذج
3. تعريفات القاموس
4. ملاحظات المستخدم

السؤال 25

ماذا يحدث عند حد نافذة السياق؟

1. لا يمكن للنموذج معالجة الرموز الإضافية؛ يحتاج إلى قطع أو تجزئة
2. تتباطأ المعالجة
3. يقوم النموذج بالتلخيص تلقائيًا
4. تتحسن الجودة

السؤال 26

ما هي مشكلة تعقيد الانتباه مع السياقات الطويلة؟

1. O(n²) ذاكرة وحساب لطول التسلسل n
2. O(n) استخدام الذاكرة
3. لا توجد مشكلة تعقيد
4. يؤثر فقط على التدريب

السؤال 27

ما هو استخدام ALiBi؟

1. ترميز الموضع من خلال تحيزات الانتباه
2. التجزئة
3. ضغط التمثيل
4. بناء المفردات

السؤال 28

إلى ماذا تضاف تمثيلات الموضع؟

1. تمثيلات الرموز
2. أوزان الانتباه
3. ناتج اللوغاريتمات
4. دالة الخسارة

السؤال 29

ما هو تكميم التمثيل؟

1. تقليل دقة قيم التمثيل لتوفير الذاكرة
2. عد التمثيلات
3. قياس جودة التمثيل
4. تطبيع التمثيلات

السؤال 30

ما هي فائدة استخدام نفس المجزئ لجميع متغيرات LLaMA؟

1. تعيين ثابت من الرموز إلى النص وتسهيل تبديل النماذج
2. تجزئة أسرع
3. دقة أفضل
4. مفردات أصغر

---

درجة النجاح: 24/30 (80%)

← الفصل 3الوحدة 6 →