Points clés
- Un routeur vend l'accès à plusieurs modèles ; un modèle hébergé unique vend un seul modèle à un seul prix. L'économie dépend de celui dont votre application a vraiment besoin.
- Cet endpoint facture $0,15 par 1M de tokens d'entrée et $0,50 par 1M de tokens de sortie, sans abonnement.
- Un chatbot avec 100 000 requêtes par mois à 2 000 tokens d'entrée et 300 tokens de sortie coûte $45 ici.
- Vérifiez vous-même les prix actuels de chaque fournisseur ; cet article ne cite les tarifs d'aucun autre.
Routeur ou modèle unique : ce que vous achetez vraiment
Un routeur vous donne une clé API et un catalogue de modèles provenant de nombreux fournisseurs. Vous choisissez un modèle par requête, comparez la qualité et changez quand un meilleur apparaît. Cette flexibilité a de la valeur, surtout lorsque vous décidez encore de ce dont votre produit a besoin.
Un modèle hébergé unique fonctionne différemment. Vous obtenez un modèle, un ID et un prix. Si votre application a besoin du même comportement à chaque appel, comme un bot de jeu de rôle, un classificateur ou un résumeur, la flexibilité devient secondaire et le prix devient la variable principale. C'est le cas où les alternatives à OpenRouter moins chères qu'un catalogue ont du sens.
Ce site vend le deuxième type : une API texte compatible OpenAI avec un seul modèle à poids ouverts, conçu pour répondre sans refus de contenu pour un usage adulte légal, hébergé par un fournisseur indépendant. Ce n'est pas un routeur entre fournisseurs et ce n'est pas l'API officielle d'aucun fournisseur. Consultez la présentation du fournisseur pour voir ce que cela signifie en pratique.
Étape 1 : mesurez vos tokens
Les prix sont par million de jetons, donc vous avez besoin de trois chiffres issus de votre propre trafic : requêtes par mois, jetons d'entrée moyens par requête et jetons de sortie moyens par requête. Chaque réponse API inclut un bloc d'utilisation avec les compteurs, donc une journée de journalisation vous donne des moyennes réelles.
La formule est :
coût mensuel = requêtes × (jetons d'entrée × prix d'entrée + jetons de sortie × prix de sortie) / 1 000 000
avec les prix en dollars par million de jetons. Attention aux jetons d'entrée. Les applications de chat renvoient l'historique, et les agents renvoient les résultats d'outils, donc la moyenne d'entrée est souvent plusieurs fois supérieure à la taille d'un seul message utilisateur. Si vous ne l'avez pas mesuré, vous devinez.
Quatre charges de travail à $0,15 et $0,50
Voici ce que coûtent quatre cas d'usage typiques sur cet endpoint. Remplacez les entrées par les vôtres.
| Charge de travail | Volume | Tokens par requête | Coût mensuel |
|---|---|---|---|
| Chatbot | 100 000 requêtes | 2 000 entrées, 300 sorties | $30 + $15 = $45 |
| Classifieur | 1 000 000 de requêtes | 300 entrées, 20 sorties | $45 + $10 = $55 |
| Résumés de documents | 10 000 documents | 8 000 entrées, 400 sorties | $12 + $2 = $14 |
| Générateur d'histoires | 20 000 requêtes | 500 entrées, 2 000 sorties | $1,50 + $20 = $21,50 |
Vérifiez une ligne. Entrée chatbot : 100 000 x 2 000 = 200 000 000 jetons = 200 x $0,15 = $30. Sortie : 100 000 x 300 = 30 000 000 jetons = 30 x $0,50 = $15. Total $45.
Notez le schéma. Le générateur d'histoires est dominé par le volume de sortie, le classificateur et le chatbot par le volume d'entrée. Comparez chaque fournisseur sur le côté qui domine votre facture, pas seulement sur le chiffre affiché.
Comparez sans faire confiance à un prix d'appel
Pour comparer équitablement avec un routeur ou tout autre service, consultez son prix actuel pour le modèle exact que vous utiliseriez, et posez-vous ces questions :
- Quels sont les prix d'entrée et de sortie pour ce modèle ? N'utilisez pas de moyennes sur tout le catalogue.
- Y a-t-il des frais supplémentaires sur les recharges ou l'utilisation ? Consultez leur page de prix actuelle.
- Le modèle dont vous avez besoin est-il disponible, et refuse-t-il le contenu que vous devez écrire ?
- Les requêtes échouées ou refusées sont-elles facturées ? Ici, non.
- Le crédit expire-t-il ? Ici, il n'expire jamais.
Ensuite, appliquez la même formule avec leurs chiffres. L'outil ci-dessous le fait, et montre aussi comment conserver un seul chemin de code pour pouvoir échanger les backends avec une variable d'environnement.
import os
from openai import OpenAI
# One client, two possible backends. Switch with environment variables.
client = OpenAI(
base_url=os.getenv("LLM_BASE_URL", "https://api.bestuncensoredllm.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")
def monthly_cost(requests, in_tokens, out_tokens, in_price, out_price):
"""Prices are dollars per 1M tokens."""
return requests * (in_tokens * in_price + out_tokens * out_price) / 1_000_000
# this endpoint: $0.15 in, $0.50 out
print(monthly_cost(100_000, 2_000, 300, 0.15, 0.50)) # 45.0
# fill in another provider's current prices to compare
# print(monthly_cost(100_000, 2_000, 300, THEIR_IN, THEIR_OUT))Étant donné que les deux côtés utilisent le format OpenAI, essayer cet endpoint signifie changer une URL de base et une clé. La documentation liste les routes : POST /v1/chat/completions, POST /v1/responses et GET /v1/models.
Quand un routeur reste le meilleur choix
Moins cher n'est pas toujours mieux. Un routeur vous convient mieux si vous :
- avez besoin d'essayer de nombreux modèles de différents fournisseurs, ou de router par tâche ;
- avez besoin d'endpoints image, audio ou embedding, que ce service n'offre pas ;
- avez besoin du modèle d'un fournisseur spécifique par nom pour un contrat ou une conformité ;
- voulez une solution de secours automatique entre fournisseurs quand l'un a une panne.
Un modèle hébergé unique convient mieux si un modèle couvre votre application, vous voulez une tarification prévisible par token sans catalogue à naviguer, et les refus de contenu sont un problème dans votre produit. De nombreuses équipes utilisent les deux : un endpoint unique pour le chemin texte à fort volume et sans censure, et un routeur pour les expériences.
Déplacer un cas d'usage en un après-midi
Une migration pratique comporte quatre étapes. Premièrement, enregistrez l'utilisation chez votre fournisseur actuel pendant une journée afin de connaître vos moyennes réelles de tokens. Deuxièmement, rejouez un échantillon de 200 prompts réels sur cet endpoint et enregistrez les sorties à côté des anciennes. Troisièmement, lisez les deux ensembles à l'aveugle et marquez ceux que vous livreriez. Quatrièmement, acheminez une petite part du trafic en direct, disons 10 %, via un indicateur fonctionnel et surveillez les refus, la latence perceptible et le coût par requête. Conservez l'ancien fournisseur configuré comme solution de secours jusqu'à ce que vous ayez confiance dans le nouveau chemin. Comme les deux utilisent le format OpenAI, aucune de ces étapes ne nécessite de réécriture.
Limites et détails pratiques
Le prix est une partie du coût total. Les limites de débit façonnent la conception de l'application. Une clé complète ici permet 8 requêtes simultanées et 300 par minute. La clé d'essai permet 2 et 60. Au-delà d'une limite, vous obtenez un HTTP 429, avec rate_limited pour les requêtes par minute ou concurrency pour trop de requêtes à la fois, et Retry-After: 5 en cas de surcharge temporaire. La fenêtre de contexte est de 100 000 tokens, et max_tokens est optionnel.
Les recharges vont de $20 à $500, avec +5 % à partir de $50, +10 % à partir de $100 et +15 % à partir de $200, par crypto. Par exemple, une recharge de $200 donne 15 % de crédit en plus, soit $230 à dépenser. Le crédit est prépayé et n'expire jamais. Voir tarification.
Lancez un test à moindre coût
Ne changez pas par croyance. Prenez une journée de prompts réels, envoyez-les à l'endpoint, lisez les sorties et calculez le coût à partir des champs d'utilisation. Les nouveaux utilisateurs peuvent obtenir $0,50 de crédit d'essai en un clic sur la page clé API ; il dure 7 jours et ne nécessite pas de carte. À 2 000 tokens d'entrée et 300 tokens de sortie par requête, $0,50 achètent environ 1 100 requêtes de chat. Cela suffit pour juger à la fois de la qualité et du prix : 2 000 x $0,15 / 1M = $0,0003 plus 300 x $0,50 / 1M = $0,00015 font $0,00045 par requête, et $0,50 / $0,00045 font environ 1 111.
Si vous voulez des options gratuites avant de payer quoi que ce soit, lisez options LLM sans censure gratuites pour leurs limites.
