إنتقل إلى المحتوى الرئيسي

الفصل 2: الذكاء الاصطناعي الدستوري

نهج أنثروبيك​

بدلاً من تصنيف كل حالة، قم بتحديد المبادئ:

الدستور:
1. كن مفيدًا وغير ضار وصادق
2. تجنب الخداع
3. احترم الاستقلال البشري
4. لا تساعد في الأنشطة الضارة

RLAIF (التعلم المعزز من ملاحظات الذكاء الاصطناعي)​

استخدم الذكاء الاصطناعي لتوليد بيانات التفضيل بناءً على الدستور:

1. توليد استجابات متعددة
2. يقيم الذكاء الاصطناعي أيها يتبع الدستور بشكل أفضل
3. تدريب نموذج المكافأة على تفضيلات الذكاء الاصطناعي
4. الضبط الدقيق باستخدام التعلم المعزز

عملية التحسين الذاتي​

# النموذج ينتقد استجابته الخاصة
critique_prompt = f"""
Response: {response}
Principle: {principle}
Does this response follow the principle? How could it be improved?
"""

# النموذج يعدل بناءً على النقد
revision_prompt = f"""
Original: {response}
Critique: {critique}
Please write a revised response that addresses the critique.
"""

الفوائد​

  • قابل للتوسع (لا حاجة لتصنيف بشري لكل حالة)
  • تطبيق متسق للمبادئ
  • منطق شفاف