Capítulo 2: Evitando vieses em prompts
Fontes de viés em IA
| Fonte | Descrição | Exemplo |
|---|---|---|
| Dados de treinamento | Vieses históricos nos dados | Estereótipos de gênero em profissões |
| Formulação do prompt | Perguntas tendenciosas ou carregadas | "Por que X é ruim?" vs "Avalie X" |
| Amostragem | Exemplos não representativos | Few-shot com exemplos homogêneos |
| Confirmação | Busca por respostas esperadas | Solicitar apenas evidências favoráveis |
Reconhecendo viés nas respostas
Fique atento a:
- Representações estereotipadas
- Tratamento desigual de grupos
- Suposições sobre dados demográficos
- Perspectivas ausentes
Técnicas de redução de viés
Formulação neutra de prompts
❌ Tendencioso: "Por que o trabalho remoto é melhor que o trabalho presencial?"
✓ Neutro: "Quais são as vantagens e desvantagens do
trabalho remoto vs. trabalho presencial?"
❌ Tendencioso: "Explique por que o Produto A é superior"
✓ Neutro: "Compare objetivamente o Produto A e o Produto B"
Exemplos diversos
Ao fornecer exemplos few-shot, inclua:
- Diferentes perfis demográficos
- Diversas perspectivas
- Variedade de cenários
- Múltiplos desfechos
Instruções explícitas de equilíbrio
"Analise este tema sob múltiplas perspectivas, incluindo:
- Argumentos dos defensores
- Argumentos dos críticos
- Visões de observadores neutros
- Perspectivas de partes interessadas sub-representadas
Apresente cada uma de forma justa, sem favorecer nenhuma posição."
Checklist de viés
Antes de usar a resposta da IA:
☐ A linguagem está neutra?
☐ Todos os grupos relevantes estão representados?
☐ Estereótipos foram evitados?
☐ A análise está equilibrada?
☐ Considerei pontos de vista alternativos?
Principais aprendizados
Summary
- O viés vem de dados de treinamento, prompts e amostragem
- Use formulação neutra nos prompts
- Inclua exemplos diversos em few-shot
- Solicite explicitamente perspectivas equilibradas
- Revise as respostas para identificar viés antes de usar
← Anterior: Uso responsável de IA | Próximo: Segurança e prompt injection →