الوحدة 1: مقدمة إلى النماذج اللغوية الكبيرة
نظرة عامة على الوحدة
توفر هذه الوحدة التمهيدية أساسًا شاملاً لفهم النماذج اللغوية الكبيرة (LLMs). سنستكشف ما يجعل هذه النماذج "كبيرة"، ونتتبع تطورها من الأساليب السابقة، ونستعرض المشهد الحالي للنماذج المتاحة.
أهداف التعلم
بنهاية هذه الوحدة، ستكون قادرًا على:
- ✅ تعريف ما يشكل نموذجًا لغويًا كبيرًا
- ✅ شرح الخصائص الرئيسية التي تميز النماذج اللغوية الكبيرة عن النماذج السابقة
- ✅ وصف التطور التاريخي من الشبكات العصبية المتكررة (RNNs) إلى المحولات (Transformers)
- ✅ تحديد مقدمي النماذج اللغوية الكبيرة الرئيسيين وعروضهم
- ✅ مقارنة النماذج مفتوحة المصدر مقابل النماذج المملوكة
محتويات الوحدة
الفصل 1: ما هي النماذج اللغوية الكبيرة؟
استكشاف التعريف وخصائص الحجم والقدرات الناشئة للنماذج اللغوية الكبيرة. فهم ما يجعلها مختلفة عن النماذج اللغوية الأصغر.
الفصل 2: التاريخ - من الشبكات العصبية المتكررة إلى المحولات
تتبع تطور النماذج اللغوية العصبية من الشبكات العصبية المتكررة عبر LSTMs إلى بنية المحولات الثورية.
الفصل 3: مشهد النماذج اللغوية الكبيرة اليوم
استعراض النظام البيئي الحالي للنماذج اللغوية الكبيرة، بما في ذلك اللاعبين الرئيسيين مثل OpenAI وAnthropic وGoogle وMeta، بالإضافة إلى المجتمع النشط مفتوح المصدر.
معاينة المفاهيم الرئيسية
| المفهوم | التعريف |
|---|---|
| النموذج اللغوي الكبير | شبكة عصبية تحتوي على مليارات المعلمات مدربة على مجموعات نصية ضخمة |
| القدرات الناشئة | قدرات تظهر فقط على نطاق واسع، غير موجودة في النماذج الأصغر |
| المحول | بنية تعتمد على الانتباه الذاتي، مما يمكن من المعالجة المتوازية |
| التدريب المسبق | التدريب الأولي على بيانات نصية غير معنونة كبيرة |
| قوانين التوسع | علاقة متوقعة بين حجم النموذج والبيانات والأداء |
القراءة الموصى بها
قبل الغوص في هذه الوحدة، يُفضل مراجعة:
- Attention Is All You Need - ورقة المحول الأصلية
- Language Models are Few-Shot Learners - ورقة GPT-3
تقدير الوقت
- القراءة: 2-3 ساعات
- الاختبار: 30-45 دقيقة
- الإجمالي: 3-4 ساعات