إنتقل إلى المحتوى الرئيسي

الفصل 3: السياق والذاكرة

كيف «تتذكر» نماذج LLM محادثتك​

عندما تدردش مع نموذج LLM، يبدو أنه يتذكر ما قلته سابقاً. لكن كيف يعمل ذلك؟ الجواب يكمن في فهم نافذة السياق — الذاكرة قصيرة المدى للنموذج.


ما هي نافذة السياق؟​

تعريف

نافذة السياق هي أقصى كمية نص يستطيع نموذج LLM «رؤيتها» دفعة واحدة عند توليد الرد.

فكّر فيها كنافذة​

تخيّل أنك تقرأ مستنداً طويلاً عبر نافذة صغيرة. لا ترى إلا جزءاً في كل مرة. عندما تحرّك النافذة ترى نصاً جديداً، لكنك تفقد رؤية النص القديم.

هذا تماماً كيف تعمل نوافذ السياق لنماذج LLM.


أحجام نوافذ السياق​

للنماذج المختلفة أحجام «نوافذ» مختلفة:

النموذجنافذة السياقتعادل تقريباً
GPT-3.54K tokensنحو 3,000 كلمة (6 صفحات)
GPT-48K-128K tokens6-100 صفحة
Claude 3200K tokensنحو 150,000 كلمة (رواية)
Gemini 1.51M tokensعدة كتب

ما هي الـ Tokens؟​

الـ tokens أجزاء كلمات — ليست كلمات تماماً، لكنها قريبة:

النصTokens تقريبية
"Hello"1 token
"Unbelievable"3 tokens (un-believ-able)
"ChatGPT is amazing"نحو 4-5 tokens
صفحة نص واحدةنحو 500-750 tokens

كيف يخلق السياق «ذاكرة»​

وهم الذاكرة​

ليس لدى نماذج LLM ذاكرة دائمة فعلاً. بدلاً من ذلك:

  1. رسالتك + تاريخ المحادثة كاملاً يُرسل في كل مرة
  2. يرى النموذج كل شيء داخل نافذة السياق
  3. يولّد رداً استناداً إلى هذا كله

ما يُرسل إلى النموذج​

[System prompt: You are a helpful assistant...]
[User: Hello!]
[Assistant: Hi there! How can I help you?]
[User: I'm learning about AI]
[Assistant: Great! What would you like to know?]
[User: What is machine learning?] ← Current message

كل هذا يذهب إلى النموذج في كل مرة، لا رسالتك الأخيرة فقط.


أثر النافذة المنزلقة​

عندما يطول السياق أكثر من اللازم​

إذا تجاوزت محادثتك نافذة السياق:

لهذا السبب:

  • المحادثات الطويلة جداً قد «تنسى» التفاصيل المبكرة
  • قد يسأل الذكاء الاصطناعي عن شيء أخبرته به أصلاً
  • التلخيص يساعد على الحفاظ على السياق المهم

لماذا «تنسى» نماذج LLM​

1. فيض نافذة السياق​

تُدفع الرسائل الأقدم إلى الخارج عندما تمتلئ النافذة.

2. لا تخزين دائم​

بين الجلسات لا يُحتفظ بشيء (ما لم يحفظه التطبيق).

3. تشتت الانتباه​

حتى داخل النافذة، يولي النموذج انتباهاً أكبر للمحتوى الحديث والبارز.


الـ System Prompt​

ما هو System Prompt؟

الـ system prompt تعليمات مخفية تشكّل كيف يتصرف الذكاء الاصطناعي طوال المحادثة.

أمثلة على System Prompts​

التطبيققد يقول الـ System Prompt
ChatGPT"You are a helpful assistant..."
روبوت دعم العملاء"You are a support agent for XYZ company..."
مساعد شيفرة"You are a programming expert. Always explain your code..."
لعبة تمثيل أدوار"You are a medieval knight named Sir Galahad..."

يأخذ الـ system prompt جزءاً من نافذة السياق لكنه يوجّه كل الردود.


استراتيجيات للعمل مع حدود السياق​

1. كن موجزاً​

رسائل أقصر = مساحة أكبر لتاريخ المحادثة.

2. لخّص عند الحاجة​

"Let me summarize what we've discussed so far..."

3. أشر إلى المعلومات الأساسية​

كرّر التفاصيل المهمة إذا طالت المحادثة: "As I mentioned earlier, my budget is $1000..."

4. ابدأ من جديد لموضوعات جديدة​

ابدأ دردشة جديدة لموضوعات غير مرتبطة لتجنّب التشويش.

5. استخدم إشارات صريحة​

"Based on the code you showed in your second message..."

كيف تتعامل التطبيقات المختلفة مع السياق​

المقاربةكيف تعملالمقايضة
الاقتطاع البسيطتُحذف الرسائل الأقدميُفقد السياق المبكر
النافذة المنزلقةتُحفظ أحدث N رسائلقد يُفقد الإعداد المهم
التلخيصيلخّص الذكاء الاصطناعي الرسائل القديمةتُفقد التفاصيل، يبقى الجوهر
هجينةsystem prompt + ملخص + الأحدثتوازن جيد

ميزات الذاكرة مقابل السياق​

تضيف بعض منتجات الذكاء الاصطناعي ميزات ذاكرة تتجاوز نافذة السياق:

ذاكرة ChatGPT​

  • تخزّن حقائق تخبرها بها صراحة
  • تستمر بين المحادثات
  • تستخدم تخزيناً منفصلاً، لا السياق

معرفة مخصّصة​

  • مستندات مرفوعة
  • تُسترجع عند الصلة
  • تقنية تُدعى RAG (Retrieval-Augmented Generation)

هذه إضافات إلى آلية السياق الأساسية، لا بدائل عنها.


تبعات عملية​

لماذا يعطي السؤال نفسه إجابات مختلفة​

  • سياق مختلف (تاريخ المحادثة)
  • بذرة عشوائية مختلفة في التوليد
  • إصدار أو وقت مختلف في اليوم

لماذا المستندات الطويلة صعبة​

  • قد لا تتسع في السياق
  • انتباه النموذج محدود
  • المعلومات في البداية والنهاية تُتذكر أفضل من الوسط

لماذا قد «تُنسى» التعليمات​

  • تُدفع خارج السياق في المحادثات الطويلة
  • التعليمات الأحدث تطغى على الأقدم
  • تساعد الـ system prompts لكنها ليست مثالية

النقاط الأساسية​

✅ نافذة السياق هي «الذاكرة قصيرة المدى» لنموذج LLM

✅ تُعاد إرسال المحادثة كاملة مع كل رسالة

✅ للنماذج المختلفة حدود سياق متفاوتة جداً

✅ الفيض يسبب فقدان بداية المحادثة

✅ تشكّل الـ system prompts السلوك لكنها تستهلك مساحة السياق

✅ ميزات الذاكرة إضافات، وليست جزءاً من وظيفة LLM الأساسية


فكّر في ذلك​

  1. لماذا قد «ينسى» روبوت دعم العملاء رقم طلبك في محادثة طويلة جداً؟
  2. كيف يساعدك معرفة نوافذ السياق على الحصول على نتائج أفضل من مساعدي الذكاء الاصطناعي؟
  3. لماذا تُعد نافذة سياق Claude البالغة 200K ذات قيمة لتحليل المستندات الطويلة؟

الخطوات التالية​

اختبر فهمك لكيفية عمل نماذج LLM في اختبار الوحدة 2، ثم انتقل إلى الوحدة 3 لتتعلم استخدام نماذج LLM في الممارسة.