الوحدة 11: نشر النماذج اللغوية الكبيرة
🎯 الأهداف التعليمية
- نشر وتقديم النماذج اللغوية الكبيرة على نطاق واسع باستخدام vLLM وTGI
- تحسين الاستدلال باستخدام التكميم والتجميع
- تنفيذ استراتيجيات فعالة لإدارة التكاليف
📚 محتوى الوحدة
الفصل 1: تقديم النماذج اللغوية الكبيرة على نطاق واسع
vLLM، TGI، تحسين الاستدلال، استراتيجيات التجميع، البث.
الفصل 2: تحسين الاستدلال
التكميم في الإنتاج، فك التشفير التخميني، تحسين ذاكرة التخزين المؤقت KV.
الفصل 3: إدارة التكاليف
تتبع الرموز، استراتيجيات التخزين المؤقت، اختيار النموذج، تحديد المعدل.
🚀 لنبدأ!
ابدأ مع الفصل 1: تقديم النماذج اللغوية الكبيرة على نطاق واسع.