Chapitre 2 : Claude (Anthropic)
Mission d'Anthropic
Fondée par d'anciens chercheurs d'OpenAI, Anthropic se concentre sur la sécurité et l'alignement de l'IA.
IA Constitutionnelle
Au lieu d'un étiquetage humain pour chaque cas, Claude est entraîné avec une "constitution" de principes :
1. Être utile, inoffensif et honnête
2. Éviter la tromperie
3. Respecter l'autonomie humaine
4. Soutenir la supervision humaine
Modèles Claude
| Modèle | Contexte | Idéal Pour |
|---|---|---|
| Claude 3 Haiku | 200K | Rapide, économique |
| Claude 3 Sonnet | 200K | Performance équilibrée |
| Claude 3 Opus | 200K | Tâches complexes |
Différenciateurs
- Long contexte : 200K tokens (entiers codebases)
- Sécurité : Forte refus des requêtes nuisibles
- Honnêteté : Reconnaît l'incertitude
- Utilité : Réponses détaillées et réfléchies
Points Clés
Résumé
- IA Constitutionnelle offre un alignement basé sur des principes
- Claude 3 propose d'excellentes capacités de long contexte
- L'approche sécurité d'abord influence toutes les décisions de conception