إنتقل إلى المحتوى الرئيسي

الوحدة 5: QLoRA والتكميم

تدريب النماذج الكبيرة على أجهزة المستهلك​

تغطي هذه الوحدة QLoRA (Quantized LoRA)، التي تجمع بين التكميم بـ 4 بت مع LoRA لتمكين تحسين النماذج الكبيرة على وحدات معالجة الرسوميات للمستهلكين مع فقدان جودة ضئيل.

ما ستتعلمه​

  1. فهم QLoRA وكيفية تمكينها من كفاءة الذاكرة القصوى
  2. إتقان التكميم بـ 4 بت باستخدام مكتبة bitsandbytes
  3. تنفيذ تقنيات تدريب فعالة في استخدام الذاكرة
  4. تحسين التدريب للأجهزة المحدودة

هيكل الوحدة​

الفصلالموضوعالمدة
الفصل 1ما هو QLoRA؟25 دقيقة
الفصل 2التكميم بـ 4 بت30 دقيقة
الفصل 3التدريب الفعال في استخدام الذاكرة30 دقيقة
اختباراختبار الوحدة 530 دقيقة

المفاهيم الرئيسية​

  • QLoRA: Quantized LoRA باستخدام تنسيق NF4 بـ 4 بت
  • NF4: تنسيق التكميم NormalFloat بـ 4 بت
  • التكميم المزدوج: تكميم الثوابت الخاصة بالتكميم
  • التحقق من التدرج: مبادلة الحساب بالذاكرة

الوقت المقدر: ساعتان