Capítulo 2: Claude (Anthropic)
Misión de Anthropic
Fundada por ex-investigadores de OpenAI, Anthropic se enfoca en la seguridad y alineación de la IA.
IA Constitucional
En lugar de etiquetado humano para cada caso, Claude se entrena con una "constitución" de principios:
1. Ser útil, inofensivo y honesto
2. Evitar el engaño
3. Respetar la autonomía humana
4. Apoyar la supervisión humana
Modelos Claude
| Modelo | Contexto | Mejor para |
|---|---|---|
| Claude 3 Haiku | 200K | Rápido, rentable |
| Claude 3 Sonnet | 200K | Rendimiento equilibrado |
| Claude 3 Opus | 200K | Tareas complejas |
Diferenciadores
- Contexto largo: 200K tokens (repositorios de código completos)
- Seguridad: Fuerte rechazo a solicitudes dañinas
- Honestidad: Reconoce la incertidumbre
- Utilidad: Respuestas detalladas y reflexivas
Puntos clave
Summary
- La IA Constitucional proporciona alineación basada en principios
- Claude 3 ofrece excelentes capacidades de contexto largo
- El enfoque prioridad en la seguridad influye en todas las decisiones de diseño