إنتقل إلى المحتوى الرئيسي

الفصل 2: نماذج LLM المحلية مقابل السحابية

تشغيل الذكاء الاصطناعي على جهازك​

ليس عليك استخدام واجهات API السحابية للوصول إلى نماذج LLM. مع النماذج مفتوحة المصدر والعتاد المناسب، يمكنك تشغيل الذكاء الاصطناعي محلياً — بخصوصية كاملة ودون اتصال.

ما هو تشغيل LLM محلياً؟​

تعريف

يعني Local LLM تشغيل نموذج الذكاء الاصطناعي على حاسوبك أو خادمك، بدلاً من إرسال الطلبات إلى خدمة سحابية.

الفرق الأساسي​

LLM سحابيLLM محلي
بياناتك تذهب إلى OpenAI/Anthropicبياناتك تبقى على جهازك
ادفع حسب الاستخدامادفع ثمن العتاد مرة واحدة
أحدث نموذج دائماًحدّث يدوياً
يتطلب إنترنتيعمل دون اتصال

أدوات تشغيل نماذج LLM محلياً​

Ollama​

الخيار الأسهل استخداماً لنماذج LLM المحلية.

الميزات:

  • تثبيت بأمر واحد
  • إدارة نماذج بسيطة
  • يعمل على Mac, Windows, Linux
  • API متوافقة مع OpenAI

البدء (مثال):

# Install Ollama, then:
ollama run llama3

LM Studio​

تطبيق سطح مكتب بواجهة رسومية.

الميزات:

  • لا حاجة إلى سطر أوامر
  • تصفح النماذج وتنزيلها
  • واجهة دردشة مدمجة
  • يعمل على Mac, Windows

llama.cpp​

تقني لكن خفيف.

الميزات:

  • فعّال جداً
  • يعمل على عتاد محدود
  • يشغّل كثيراً من الأدوات الأخرى
  • سيطرة كاملة على الإعدادات

أخرى​

  • Text Generation WebUI — واجهة غنية بالميزات
  • GPT4All — تطبيق سطح مكتب بسيط
  • Jan — حديث ويركّز على الخصوصية

متطلبات العتاد​

ما تحتاجه​

يتطلب تشغيل نماذج LLM محلياً عتاداً لائقاً:

حجم النموذجالحد الأدنى من RAMGPU موصى به
7B parameters8GBاختياري (أبطأ على CPU)
13B parameters16GB8GB VRAM
30B parameters32GB16GB VRAM
70B parameters64GB+24GB+ VRAM

فهم أحجام النماذج​

النموذجالحجم التقريبيمستوى الجودة
7Bنحو 4-7 GBجيد لكثير من المهام
13Bنحو 7-13 GBجودة أفضل
30Bنحو 15-30 GBيقترب من GPT-3.5
70Bنحو 35-70 GBقرب جودة الطليعة

Quantization: جعل النماذج أصغر​

ما هو Quantization؟

يقلّل Quantization دقة النموذج لجعله أصغر وأسرع، مع بعض التنازل عن الجودة.

مستويات Quantization​

المستوىتقليل الحجمأثر الجودة
FP16خط الأساسجودة كاملة
Q8أصغر بنحو 50%فقدان ضئيل
Q4أصغر بنحو 75%ملحوظ لكن قابل للاستخدام
Q2أصغر بنحو 87%فقدان كبير

يمكن أن يتراوح نموذج 7B من نحو 14GB (FP16) إلى نحو 3GB (Q4)، ما يجعله قابلاً للتشغيل على الحواسيب المحمولة.

فوائد الخصوصية​

بياناتك تبقى خاصة​

عند استخدام نماذج LLM سحابية:

  • تُرسل الـ prompts عبر الإنترنت
  • تُخزَّن على خوادم المزوّد
  • قد تُستخدم للتدريب (راجع شروط الخدمة)
  • تخضع لسياسات المزوّد

عند استخدام نماذج LLM محلية:

  • لا شيء يغادر جهازك
  • لا تسجيل من أطراف ثالثة
  • سيطرة كاملة على الامتثال
  • يعمل في بيئات معزولة عن الشبكة (air-gapped)

حالات استخدام حرجة للخصوصية​

القطاعلماذا يهم المحلي
الرعاية الصحيةامتثال HIPAA، بيانات المرضى
القانونسرية المحامي وموكله
الماليةاستراتيجيات تداول ملكية
الحكومةمعلومات سرية
المؤسساتأسرار تجارية

اعتبارات الأداء​

زمن الاستجابة (Latency)​

النشرزمن الرد النموذجي
Cloud API (GPT-4)2-10 ثوانٍ
محلي (M3 Max، 7B)1-3 ثوانٍ
محلي (RTX 4090، 7B)أقل من ثانية
محلي (CPU فقط، 7B)10-30 ثانية

الإنتاجية (Throughput)​

تتعامل واجهات API السحابية غالباً مع مزيد من الطلبات المتوازية، بينما يحدّ عتادك النشر المحلي.

مزايا السحابة​

لماذا ما زالت السحابة منطقية​

  1. لا استثمار مقدّم — لا تحتاج إلى عتاد باهظ
  2. محدَّث دائماً — أحدث النماذج تلقائياً
  3. قابلية التوسع — التعامل مع ذروات الحركة
  4. متعدد الوسائط — قدرات صور وصوت وفيديو
  5. توافر عالمي — وصول من أي مكان
  6. صيانة خبيرة — يتولى المزوّدون التشغيل

مقارنة التكلفة​

تحليل نقطة التعادل​

السيناريوتكلفة السحابة (شهرية)التكلفة المحلية (عتاد)
استخدام خفيف (1K استعلام)نحو 5-20 دولاراًGPU بـ 1,000 دولار+
استخدام متوسط (100K استعلام)نحو 500-2,000 دولارالعتاد نفسه
استخدام كثيف (1M استعلام)نحو 5,000-20,000 دولارالعتاد نفسه

قاعدة تقريبية: المستخدمون الكثيفون يوفّرون بالمحلي؛ والمستخدمون الخفيفون يوفّرون بالسحابة.

مقاربات هجينة​

أفضل ما في العالمين​

أنماط هجينة شائعة​

النمطكيف يعمل
توجيه حسب الحساسيةبيانات حسّاسة ← محلي؛ وإلا ← سحابة
توجيه حسب التعقيدأسئلة صعبة ← نموذج أفضل
احتياطيالمحلي أولاً، السحابة احتياطاً
مسودة محلية، صقل سحابيالمحلي يولّد، السحابة تصقل

البدء بنماذج LLM المحلية​

الخطوة 1: تحقق من عتادك​

  • 8GB RAM على الأقل للنماذج الصغيرة
  • يُوصى بـ GPU لكنه غير مطلوب

الخطوة 2: اختر أداة​

  • المبتدئون: LM Studio أو Ollama
  • المستخدمون المتقدمون: llama.cpp أو text-generation-webui

الخطوة 3: نزّل نموذجاً​

  • ابدأ بـ Llama 3 8B أو Mistral 7B
  • استخدم quantization بمستوى Q4 إذا كانت RAM محدودة

الخطوة 4: جرّب​

  • جرّب prompts مختلفة
  • قارن بالنماذج السحابية
  • اكتشف ما يناسب حالة استخدامك

النقاط الأساسية​

✅ تعمل نماذج LLM المحلية على عتادك، فتبقي البيانات خاصة

✅ أدوات مثل Ollama, LM Studio تجعل التشغيل المحلي في المتناول

✅ تتفاوت متطلبات العتاد مع حجم النموذج (7B الأكثر سهولة)

✅ يقايض quantization الجودة بنماذج أصغر وأسرع

✅ كثيراً ما تتطلب التطبيقات الحرجة للخصوصية نشراً محلياً

✅ تجمع المقاربات الهجينة خصوصية المحلي بقدرة السحابة

فكّر في ذلك​

  1. أي بيانات شخصية أو مهنية لن تريد أبداً إرسالها إلى نموذج LLM سحابي؟
  2. كيف قد تتغيّر الأجهزة الطرفية (هواتف، حواسيب محمولة) لو استطاعت تشغيل نماذج LLM قادرة محلياً؟
  3. متى تختار السحابة حتى لو كان المحلي ممكناً تقنياً؟

الخطوات التالية​

الآن ننظر إلى أين تتجه نماذج LLM في الفصل 3: التطوّرات المستقبلية.