Chapitre 2 : Jetons et Tarification
Comprendre l'économie des LLM
L'utilisation des API LLM coûte de l'argent, et comprendre comment fonctionne la tarification vous aide à budgétiser et à optimiser. La clé pour comprendre les coûts ? Les jetons.
Que sont les jetons ?
Un jeton est l'unité de base que les LLM traitent—en gros un mot ou une partie de mot.
Exemples de jetons
| Texte | Jetons | Nombre |
|---|---|---|
| "Hello" | [Hello] | 1 |
| "Hello!" | [Hello] [!] | 2 |
| "ChatGPT" | [Chat] [G] [PT] | 3 |
| "unbelievable" | [un] [believ] [able] | 3 |
| "こんにちは" | [こんに] [ち] [は] | 3 |
Règles générales
- 1 jeton ≈ 4 caractères en anglais
- 1 jeton ≈ ¾ d'un mot
- 100 jetons ≈ 75 mots
- 1 page ≈ 500-750 jetons
Comment fonctionne la tarification
Paiement par jeton
La plupart des API LLM facturent par 1 000 ou 1 000 000 de jetons :
| Modèle | Prix d'entrée (par 1M) | Prix de sortie (par 1M) |
|---|---|---|
| GPT-3.5-turbo | $0.50 | $1.50 |
| GPT-4 Turbo | $10 | $30 |
| GPT-4o | $5 | $15 |
| Claude 3 Haiku | $0.25 | $1.25 |
| Claude 3 Sonnet | $3 | $15 |
| Claude 3 Opus | $15 | $75 |
Prix à la fin de 2024 ; consultez les sites des fournisseurs pour les prix actuels.
Jetons d'entrée vs. de sortie
| Type | Ce que c'est | Coût habituel |
|---|---|---|
| Jetons d'entrée | Votre prompt + contexte | Moins cher |
| Jetons de sortie | Réponse de l'IA | Plus cher |
Pourquoi la différence ? Générer une sortie nécessite plus de calcul que lire une entrée.
Estimation des coûts
Exemple de calcul
Scénario : Bot de support client utilisant GPT-4 Turbo
| Élément | Jetons |
|---|---|
| Prompt système | 200 |
| Historique de conversation (moyenne) | 500 |
| Question de l'utilisateur | 50 |
| Total Entrée | 750 |
| Réponse de l'IA (moyenne) | 200 |
| Total Sortie | 200 |
Coût par interaction :
- Entrée : 750 jetons × $10/1M = $0.0075
- Sortie : 200 jetons × $30/1M = $0.006
- Total : ~0,01 $ par conversation
À 10 000 conversations/mois : ~100 $
Paliers gratuits et limites
Produits pour consommateurs
| Produit | Palier gratuit |
|---|---|
| ChatGPT | GPT-3.5 illimité |
| Claude | Messages quotidiens limités |
| Gemini | Requêtes limitées |
Paliers gratuits API
| Fournisseur | Crédits gratuits |
|---|---|
| OpenAI | $5-18 pour les nouveaux comptes |
| Anthropic | $5 pour les nouveaux comptes |
| Google AI | Palier gratuit généreux |
Stratégies d'optimisation des coûts
1. Choisir le bon modèle
| Complexité de la tâche | Modèle recommandé | Pourquoi |
|---|---|---|
| Tâches simples | GPT-3.5, Haiku | Bon marché et rapide |
| Raisonnement complexe | GPT-4, Sonnet | Meilleure qualité |
| Tâches critiques | GPT-4, Opus | Capacité maximale |
2. Optimiser les prompts
Mauvais (gaspillage) :
"Je voudrais que vous m'aidiez à rédiger une réponse par courriel professionnelle à mon collègue John pour reprogrammer notre réunion qui devait avoir lieu mardi mais que je dois déplacer à mercredi si possible, et veuillez la rendre professionnelle et amicale en même temps."
Bon (efficace) :
"Rédigez un courriel professionnel et amical à John pour reprogrammer la réunion de mardi à mercredi."
3. Utiliser le cache
Si la même question est posée fréquemment, mettez en cache la réponse au lieu d'appeler à nouveau l'API.
4. Limiter la longueur de la sortie
Définissez max_tokens pour éviter des réponses inutilement longues.
5. Regroupement
Combinez plusieurs petites requêtes en moins de requêtes plus grandes lorsque c'est possible.
Comprendre les limites de débit
Qu'est-ce que les limites de débit ?
Limites sur le nombre de requêtes ou de jetons que vous pouvez utiliser dans une période donnée.
Limites courantes
| Type de limite | Palier gratuit | Palier payant |
|---|---|---|
| Requêtes/minute | 3-20 | 60-500+ |
| Jetons/minute | 10K-40K | 60K-300K+ |
| Jetons/jour | 150K-200K | Souvent illimité |
Erreurs de limite de débit
Lorsque vous atteignez les limites :
- Vous recevez une erreur "429 Too Many Requests"
- Attendez et réessayez
- Ou passez à un palier supérieur
Comparaison des économies des fournisseurs
OpenAI
- Avantages : Tarification prévisible, bonne documentation
- Inconvénients : Peut devenir coûteux à grande échelle
Anthropic
- Avantages : Tarification compétitive, Haiku est très bon marché
- Inconvénients : Moins d'options de modèles
Google
- Avantages : Palier gratuit très généreux
- Inconvénients : La tarification peut être complexe
Open Source (Llama)
- Avantages : Gratuit à exécuter (pas de coûts API)
- Inconvénients : Nécessite votre propre matériel/hébergement
Exemples de coûts réels
Bot rédacteur de blog personnel
- 10 articles/semaine × 1 000 mots chacun
- Utilisation de GPT-3.5 turbo
- Coût : ~0,50-1 $/mois
Support client (entreprise moyenne)
- 1 000 conversations/jour
- Utilisation de Claude Haiku
- Coût : ~50-100 $/mois
Analyse de documents d'entreprise
- 10 000 documents/jour
- Utilisation de GPT-4 pour la précision
- Coût : ~3 000-5 000 $/mois
Coûts cachés
N'oubliez pas :
| Coût | Description |
|---|---|
| Temps de développement | Construire et maintenir l'intégration |
| Surveillance | Suivi de l'utilisation et des erreurs |
| Assurance qualité | Révision des sorties |
| Infrastructure | Serveurs, bases de données, etc. |
Points clés à retenir
✅ Les jetons sont les unités de facturation—environ ¾ de mot chacun
✅ Les jetons d'entrée sont moins chers que les jetons de sortie
✅ Le choix du modèle affecte considérablement le coût
✅ Optimisez les prompts pour réduire l'utilisation des jetons
✅ Les paliers gratuits sont bons pour l'apprentissage et les petits projets
✅ Les modèles open source échangent les coûts API contre les coûts d'hébergement
Réfléchissez-y
- Pourquoi pensez-vous que les jetons de sortie coûtent plus cher que les jetons d'entrée ?
- Comment décideriez-vous entre un modèle bon marché et un modèle coûteux pour un nouveau projet ?
- Que pourrait-il se passer si vous ne surveillez pas votre utilisation de l'API ?
Prochaines étapes
Explorons maintenant ce que les LLM ne peuvent pas faire dans Chapitre 3 : Limitations et Hallucinations.