الفصل 3: النماذج مفتوحة المصدر
لماذا المصدر المفتوح؟
- الخصوصية: التشغيل محليًا، البيانات لا تغادر نظامك أبدًا
- التكلفة: لا توجد رسوم API لكل رمز
- التخصيص: الضبط الدقيق لحالات استخدام محددة
- التحكم: لا توجد تبعيات خارجية
النماذج المفتوحة المصدر الشهيرة
| النموذج | المنشئ | الأحجام | نقاط القوة |
|---|---|---|---|
| Llama 3 | Meta | 8B, 70B | عام الغرض، موثق جيدًا |
| Mistral | Mistral AI | 7B | كفاءة، أداء قوي |
| Mixtral | Mistral AI | 8x7B | مزيج من الخبراء، متعدد الاستخدامات |
| Phi-2/3 | Microsoft | 2.7B-3.8B | صغير ولكنه قادر |
اختلافات الموجّهات
قد تتطلب النماذج مفتوحة المصدر:
- تنسيقات موجّهات محددة (مثل
[INST]...[/INST]لـ Llama) - توقعات معدلة للنماذج الأصغر
- تعليمات أكثر وضوحًا
مثال على تنسيق Llama
[INST] أنت مساعد مفيد.
اكتب هايكو عن البرمجة. [/INST]
خيارات النشر
- Ollama: نشر محلي سهل
- vLLM: تقديم جاهز للإنتاج
- Hugging Face: سحابي أو محلي مع transformers
- llama.cpp: استدلال فعال على وحدة المعالجة المركزية
النقاط الرئيسية
ملخص
- المصدر المفتوح = الخصوصية، توفير التكاليف، التحكم
- النماذج المختلفة تحتاج إلى تنسيقات موجّهات مختلفة
- النماذج الأصغر تحتاج إلى تعليمات أوضح
- اختر طريقة النشر بناءً على النطاق