إنتقل إلى المحتوى الرئيسي

تحسين LLM الكامل

بناء GPT مخصص خاص بك​

رمز الدورة: FINETUNE-401
المدة: 10 أسابيع
المستوى: متقدم
المنصة: أكاديمية inskillflow

نظرة عامة على الدورة​

مرحبًا بكم في الدورة الأكثر شمولاً حول تحسين LLM! سيأخذك هذا البرنامج المتقدم من فهم أساسيات التحسين إلى نشر نماذج لغوية مخصصة جاهزة للإنتاج.

سواء كنت مهندس تعلم آلي يتطلع إلى التخصص في LLMs، أو باحثًا يستكشف تقنيات متقدمة، أو مطورًا يبني تطبيقات مدعومة بالذكاء الاصطناعي، أو ممارسًا للذكاء الاصطناعي يرغب في إنشاء نماذج مخصصة للمجال، توفر لك هذه الدورة المعرفة الكاملة والخبرة العملية التي تحتاجها.

أهداف التعلم​

بنهاية هذه الدورة، ستكون قادرًا على:

  • فهم متى يجب تحسين النموذج مقابل استخدام RAG أو التوجيه
  • إتقان تقنيات تحسين المعلمات بكفاءة (PEFT)
  • تنفيذ LoRA وQLoRA للتدريب بكفاءة في الذاكرة
  • إعداد مجموعات بيانات تدريب عالية الجودة
  • تدريب النماذج باستخدام Hugging Face Transformers وTRL
  • تطبيق تقنيات متقدمة مثل DPO وORPO
  • تقييم ودمج النماذج المحسنة
  • نشر النماذج المحسنة للإنتاج

المتطلبات الأساسية​

هذه دورة متقدمة. يجب أن يكون لديك:

  • مهارات برمجة قوية في Python
  • إلمام بـ PyTorch أو TensorFlow
  • فهم أساسي لبنية المحولات
  • خبرة في مكتبات Hugging Face (مفيدة ولكن ليست مطلوبة)
  • الوصول إلى موارد GPU (يعمل Google Colab المجاني للعديد من التمارين)

منهجية التدريس​

80% تطبيق عملي - 20% نظرية

كل وحدة تجمع بين:

  • تفسيرات نظرية واضحة مع أسس رياضية
  • أمثلة على كود جاهز للإنتاج
  • دفاتر متوافقة مع Google Colab
  • اختبارات تفاعلية (30 سؤالًا لكل وحدة)
  • دراسات حالة واقعية وأفضل الممارسات

هيكل الدورة - 10 وحدات​

الوحدة 1: مقدمة في التحسين​

المدة: 1 أسبوع

المحتوى:

  • ما هو التحسين؟
  • متى يجب تحسين النموذج مقابل استخدام RAG
  • مشهد التحسين

الأهداف:

  • فهم مفاهيم التعلم بالنقل والتحسين
  • اتخاذ قرارات مستنيرة حول متى يجب تحسين النموذج
  • نظرة عامة على الأساليب والأدوات المتاحة

الوحدة 2: التحسين الكامل​

المدة: 1 أسبوع

المحتوى:

  • نهج التحسين التقليدي
  • المتطلبات الحاسوبية
  • النسيان الكارثي

الأهداف:

  • فهم تحديثات المعلمات الكاملة
  • حساب متطلبات ذاكرة GPU
  • التعرف على النسيان واستراتيجيات التخفيف

الوحدة 3: تحسين المعلمات بكفاءة (PEFT)​

المدة: 1 أسبوع

المحتوى:

  • مقدمة في PEFT
  • PEFT مقابل التحسين الكامل
  • نظرة عامة على أساليب PEFT

الأهداف:

  • فهم الدافع وراء PEFT
  • مقارنة بين أساليب PEFT المختلفة
  • معرفة متى يجب استخدام كل نهج

الوحدة 4: تعمق في LoRA​

المدة: 1 أسبوع

المحتوى:

  • فهم LoRA
  • رياضيات LoRA
  • تنفيذ LoRA باستخدام مكتبة PEFT

الأهداف:

  • إتقان مفاهيم التكيف منخفض الرتبة
  • فهم الرياضيات وراء LoRA
  • تنفيذ تدريب LoRA باستخدام Hugging Face

الوحدة 5: QLoRA والتكميم​

المدة: 1 أسبوع

المحتوى:

  • ما هو QLoRA؟
  • التكميم بـ 4 بت (bitsandbytes)
  • التدريب بكفاءة في الذاكرة

الأهداف:

  • فهم التكميم للتدريب
  • استخدام bitsandbytes للتحميل بـ 4 بت
  • تحسين استخدام الذاكرة للنماذج الكبيرة

الوحدة 6: إعداد البيانات​

المدة: 1 أسبوع

المحتوى:

  • تنسيقات مجموعات البيانات (Alpaca، ShareGPT)
  • جودة البيانات والتنسيق
  • توليد البيانات الاصطناعية

الأهداف:

  • تنسيق البيانات لتوجيه التعليمات
  • تطبيق استراتيجيات تصفية الجودة
  • توليد بيانات تدريب اصطناعية

الوحدة 7: التدريب باستخدام Hugging Face​

المدة: 1 أسبوع

المحتوى:

  • مكتبة Transformers
  • TRL (التعلم المعزز للمحول)
  • حجج التدريب والتحسين

الأهداف:

  • استخدام SFTTrainer للتحسين
  • تكوين معلمات التدريب الفائقة
  • تنفيذ التسجيل والمراقبة

الوحدة 8: تقنيات التحسين المتقدمة​

المدة: 1 أسبوع

المحتوى:

  • توجيه التعليمات
  • DPO (تحسين التفضيل المباشر)
  • ORPO وأساليب أخرى

الأهداف:

  • تنفيذ خطوط توجيه التعليمات
  • تدريب النماذج مع تحسين التفضيلات
  • مقارنة بين DPO وORPO وRLHF

الوحدة 9: التقييم والدمج​

المدة: 1 أسبوع

المحتوى:

  • تقييم النماذج المحسنة
  • تقنيات دمج النماذج
  • دراسات الإزالة

الأهداف:

  • تقييم جودة النموذج بشكل شامل
  • دمج محولات ونماذج متعددة
  • تصميم وتنفيذ تجارب الإزالة

الوحدة 10: نشر الإنتاج​

المدة: 1 أسبوع

المحتوى:

  • تصدير وتقديم النماذج
  • التحسين للاستدلال
  • بناء منتجات GPT مخصصة

الأهداف:

  • تصدير النماذج للنشر
  • تحسين أداء الاستدلال
  • بناء تطبيقات ذكاء اصطناعي جاهزة للإنتاج

تقدم الدورة​

الحالةالوحدةالرابط
✅ مكتملالوحدة 1 - مقدمة في التحسينابدأ
✅ مكتملالوحدة 2 - التحسين الكاملابدأ
✅ مكتملالوحدة 3 - تحسين المعلمات بكفاءةابدأ
✅ مكتملالوحدة 4 - تعمق في LoRAابدأ
✅ مكتملالوحدة 5 - QLoRA والتكميمابدأ
✅ مكتملالوحدة 6 - إعداد البياناتابدأ
✅ مكتملالوحدة 7 - التدريب باستخدام Hugging Faceابدأ
✅ مكتملالوحدة 8 - تقنيات التحسين المتقدمةابدأ
✅ مكتملالوحدة 9 - التقييم والدمجابدأ
✅ مكتملالوحدة 10 - نشر الإنتاجابدأ

🎉 الدورة مكتملة!​

جميع الوحدات جاهزة بمحتوى كامل واختبارات تفاعلية (30 سؤالًا لكل وحدة).

📖 موارد إضافية​

الموردالوصف
📚 مسرد المصطلحاتأكثر من 150 مصطلحًا في التحسين مع تعريفات
🔗 الموارددفاتر، مجموعات بيانات، أوراق وأدوات
🎯 الامتحان النهائي50 سؤالًا شاملًا

ابدأ الآن!​

استكشف الوحدات من الشريط الجانبي وابدأ رحلتك لإتقان تحسين LLM!

حظًا موفقًا في رحلتك التعليمية!

آخر تحديث: ديسمبر 2024

📊 إحصائيات الدورة​

العنصرالعدد
الوحدات10
الفصول30+
أسئلة الاختبار300
ساعات التعلم المقدرة50+