Chapitre 3 : Ajustement des instructions
Qu'est-ce que l'ajustement des instructions ?
Entraîner des modèles à suivre des instructions en langage naturel.
Format du jeu de données
{
"instruction": "Résumez le texte suivant",
"input": "Long texte à résumer...",
"output": "Résumé concis..."
}
Jeux de données populaires
| Jeu de données | Taille | Source |
|---|---|---|
| Alpaca | 52K | Généré par GPT-4 |
| Dolly | 15K | Écrit par des humains |
| OpenAssistant | 161K | Participatif |
| FLAN | 1.8M | Tâches académiques |
Modèle d'entraînement
def format_instruction(example):
return f"""### Instruction:
{example['instruction']}
### Input:
{example['input']}
### Response:
{example['output']}"""
Impact sur la qualité
Meilleures données d'instruction → Meilleure suivi des instructions :
- Instructions diversifiées
- Réponses de haute qualité
- Formatage cohérent
- Variété des tâches