Aller au contenu principal

Chapitre 3 : Ajustement des instructions

Qu'est-ce que l'ajustement des instructions ?​

Entraîner des modèles à suivre des instructions en langage naturel.

Format du jeu de données​

{
"instruction": "Résumez le texte suivant",
"input": "Long texte à résumer...",
"output": "Résumé concis..."
}

Jeux de données populaires​

Jeu de donnéesTailleSource
Alpaca52KGénéré par GPT-4
Dolly15KÉcrit par des humains
OpenAssistant161KParticipatif
FLAN1.8MTâches académiques

Modèle d'entraînement​

def format_instruction(example):
return f"""### Instruction:
{example['instruction']}

### Input:
{example['input']}

### Response:
{example['output']}"""

Impact sur la qualité​

Meilleures données d'instruction → Meilleure suivi des instructions :

  • Instructions diversifiées
  • Réponses de haute qualité
  • Formatage cohérent
  • Variété des tâches