Capítulo 3: Ajuste por Instrução
O que é Ajuste por Instrução?
Treinar modelos para seguir instruções em linguagem natural.
Formato do Dataset
{
"instruction": "Resuma o texto a seguir",
"input": "Texto longo para resumir...",
"output": "Resumo conciso..."
}
Datasets Populares
| Dataset | Tamanho | Fonte |
|---|---|---|
| Alpaca | 52K | Gerado por GPT-4 |
| Dolly | 15K | Escrito por humanos |
| OpenAssistant | 161K | Colaborativo |
| FLAN | 1,8M | Tarefas acadêmicas |
Template de Treinamento
def format_instruction(example):
return f"""### Instruction:
{example['instruction']}
### Input:
{example['input']}
### Response:
{example['output']}"""
Impacto na Qualidade
Melhores dados de instrução → Melhor seguimento de instruções:
- Instruções diversas
- Respostas de alta qualidade
- Formatação consistente
- Variedade de tarefas