الفصل 1: ضبط التعليمات
تعليم النماذج اتباع التعليمات
ضبط التعليمات يدرب النماذج على اتباع تعليمات المستخدم بفعالية.
ما هو ضبط التعليمات؟
التدريب على أزواج التعليمات والاستجابات لإنشاء مساعدين مفيدين:
{
"instruction": "اكتب قصيدة عن المحيط",
"response": "الأمواج تتحطم على الشاطئ..."
}
متطلبات مجموعة البيانات
| الجودة | المتطلبات |
|---|---|
| متنوعة | تغطي العديد من أنواع التعليمات |
| دقيقة | استجابات صحيحة |
| مفيدة | إجابات مفيدة حقًا |
| آمنة | لا تحتوي على محتوى ضار |
مجموعات بيانات التعليمات الشهيرة
| مجموعة البيانات | الحجم | الجودة |
|---|---|---|
| Dolly 15k | 15K | عالية |
| OpenAssistant | 161K | عالية |
| Alpaca | 52K | متوسطة |
| OpenHermes | 1M+ | عالية |
مثال على التدريب
from trl import SFTTrainer
from datasets import load_dataset
dataset = load_dataset("databricks/dolly-15k")
def format_instruction(example):
return {
"text": f"""### Instruction:
{example['instruction']}
### Response:
{example['response']}"""
}
dataset = dataset.map(format_instruction)
trainer = SFTTrainer(
model=model,
train_dataset=dataset,
dataset_text_field="text",
...
)