الوحدة 2: الضبط الدقيق الكامل
فهم الضبط الدقيق التقليدي
تغطي هذه الوحدة النهج التقليدي للضبط الدقيق حيث يتم تحديث جميع معلمات النموذج أثناء التدريب. على الرغم من أنه أكثر استهلاكًا للموارد، فإن فهم الضبط الدقيق الكامل ضروري لفهم سبب تطوير طرق PEFT.
ما ستتعلمه
في هذه الوحدة، سوف:
- تفهم الضبط الدقيق التقليدي وكيف يعمل
- تحسب المتطلبات الحسابية لأحجام النماذج المختلفة
- تتعلم عن النسيان الكارثي واستراتيجيات التخفيف
- تعرف متى يكون الضبط الدقيق الكامل هو الخيار الصحيح
هيكل الوحدة
| الفصل | الموضوع | المدة |
|---|---|---|
| الفصل 1 | نهج الضبط الدقيق التقليدي | 25 دقيقة |
| الفصل 2 | المتطلبات الحسابية | 30 دقيقة |
| الفصل 3 | النسيان الكارثي | 25 دقيقة |
| الاختبار | اختبار الوحدة 2 | 30 دقيقة |
معاينة المفاهيم الأساسية
الضبط الدقيق الكامل
تحديث جميع معلمات النموذج أثناء التدريب، مما يوفر أقصى قدر من إمكانيات التخصيص.
ذاكرة GPU
الـ VRAM المطلوبة لتخزين أوزان النموذج، التدرجات، حالات المحسن، والتفعيلات.
النسيان الكارثي
فقدان المعرفة المكتسبة سابقًا عند التدريب على بيانات جديدة.
تراكم التدرجات
محاكاة أحجام الدفعات الأكبر من خلال تراكم التدرجات عبر تمريرات أمامية متعددة.
لماذا هذا مهم
يمثل الضبط الدقيق الكامل الحد الأقصى لما يمكن تحقيقه من خلال التدريب. فهم متطلباته وقيوده يساعدك على:
- تقدير سبب تطوير طرق PEFT
- اتخاذ قرارات مستنيرة حول متى يكون الضبط الدقيق الكامل يستحق التكلفة
- التخطيط بشكل صحيح لموارد الحوسبة لمشاريعك
- تجنب الأخطاء الشائعة مثل النسيان الكارثي
المتطلبات الأساسية
قبل بدء هذه الوحدة، يجب أن تكون قد:
- أكملت الوحدة 1
- تفهم مفاهيم الشبكات العصبية الأساسية
- تكون على دراية بمفاهيم GPU/VRAM
- لديك معرفة أساسية بـ Python وPyTorch
لنبدأ!
ابدأ مع الفصل 1: نهج الضبط الدقيق التقليدي.
الوقت المقدر لإكمال هذه الوحدة: ساعتان