JA ▾
API キーを取得
  1. ホーム
  2. ガイド

OpenRouterより安価な代替サービス:コスト検証

マルチモデルルーターよりも安価なOpenRouterの代替を探している場合、まずはトークン単位で自社のワークロードのコストを計算し、単一のホスト済みモデルと比較します。このページには計算式、4つの具体例、ルーターがまだ最適な選択肢となる場合の正直なリストが記載されています。

更新

1つのサーバーへの単一の直線軌道の隣にある分岐軌道の分岐点。ルーターと1つのホストモデルの比較

主要ポイント

  1. ルーターは複数のモデルへのアクセスを販売しますが、単一ホストモデルは1つのモデルを1つの価格で販売します。節約額は、あなたのアプリが本当に必要とするモデルによります。
  2. このエンドポイントは、サブスクリプションなしで、1M入力トークンあたり$0.15、1M出力トークンあたり$0.50を課金します。
  3. 月100,000リクエスト、入力2,000トークン、出力300トークンのチャットボットは、ここで$45かかります。
  4. 各プロバイダーの現在の価格を自分で確認してください。この記事は他のプロバイダーの料金を引用していません。

ルーターか単一モデルか:あなたが本当に購入しているもの

ルーターは1つのAPIキーと、多数のベンダーからのモデルカタログを提供します。リクエストごとにモデルを選択し、品質を比較し、より優れたモデルが登場した際に切り替えることができます。この柔軟性には価値がありますが、特に製品に必要なものがまだ決まっていない間は特に重要です。

単一のホスト済みモデルは異なる動作をします。1つのモデル、1つのID、1つの価格が得られます。ロールプレイボット、分類器、要約など、すべての呼び出しで同じ動作を必要とするアプリの場合、柔軟性は重要でなくなり、価格が主な変数になります。これが、カタログよりも安価なOpenRouterの代替が意味をなすケースです。

このサイトは2番目のタイプを販売しています:法的な成人向け用途でコンテンツ拒否なしで回答するよう調整された1つのオープンウェイトモデルを持つ、OpenAI互換のテキストAPIです。これはベンダー間のルーターではなく、いかなるベンダーの公式APIでもありません。それが実際に何を意味するかについては、プロバイダー概要をご覧ください。

ステップ1:トークンを測定する

価格は100万トークンあたりで表示されるため、自社のトラフィックから3つの数値が必要です:月間リクエスト数、1リクエストあたりの平均入力トークン数、および1リクエストあたりの平均出力トークン数です。すべてのAPIレスポンスには、カウントを含む使用状況ブロックが含まれているため、1日分のログ記録で実際の平均値が得られます。

計算式は以下の通りです:

monthly cost = requests x (input_tokens x input_price + output_tokens x output_price) / 1,000,000

価格は100万トークンあたりのドルで表示されます。入力には注意してください。チャットアプリは履歴を再送信し、エージェントはツール結果を再送信するため、平均入力は通常、単一のユーザーメッセージの数倍のサイズになります。これを測定していない場合、それは推測に過ぎません。

$0.15と$0.50の4つのワークロード

このエンドポイントでの4つの典型的なワークロードのコストは以下の通りです。入力値をあなたの値に置き換えてください。

ワークロードボリュームリクエストあたりのトークン数月間コスト
チャットボット100,000リクエスト入力2,000、出力300$30 + $15 = $45
分類器1,000,000リクエスト入力300、出力20$45 + $10 = $55
ドキュメントの要約10,000ドキュメント入力8,000、出力400$12 + $2 = $14
ストーリージェネレーター20,000リクエスト入力500、出力2,000$1.50 + $20 = $21.50

1行を確認します。チャットボット入力:100,000 x 2,000 = 200,000,000トークン = 200 x $0.15 = $30。出力:100,000 x 300 = 30,000,000トークン = 30 x $0.50 = $15。合計$45。

パターンに注目してください。ストーリージェネレーターは出力が主役であり、分類器とチャットボットは入力が主役です。見出しの数字だけでなく、請求額の主要因となる側面から各API提供元を比較してください。

見出しの価格だけを信じて比較しないこと

ルーターやその他のサービスと公平に比較するには、使用するモデルの現在の価格を確認し、以下の点を自問してください。

  • そのモデルの入力価格と出力価格はいくらですか?カタログ全体の平均値を使用しないでください。
  • チャージや使用料に追加料金がありますか?現在の価格ページを確認してください。
  • 必要なモデルが利用可能か、また必要なコンテンツの生成を拒否しないか確認してください。
  • 失敗または拒否されたリクエストは課金されますか?ここでは課金されません。
  • クレジットは期限切れしますか?ここでは期限切れしません。

次に、その数値で同じ数式を実行してください。以下のヘルパーはそれを行い、環境変数でバックエンドを切り替えることができるように単一のコードパスを維持する方法も示します。

import os
from openai import OpenAI

# One client, two possible backends. Switch with environment variables.
client = OpenAI(
    base_url=os.getenv("LLM_BASE_URL", "https://api.bestuncensoredllm.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)
MODEL = os.getenv("LLM_MODEL", "uncensored")

def monthly_cost(requests, in_tokens, out_tokens, in_price, out_price):
    """Prices are dollars per 1M tokens."""
    return requests * (in_tokens * in_price + out_tokens * out_price) / 1_000_000

# this endpoint: $0.15 in, $0.50 out
print(monthly_cost(100_000, 2_000, 300, 0.15, 0.50))   # 45.0
# fill in another provider's current prices to compare
# print(monthly_cost(100_000, 2_000, 300, THEIR_IN, THEIR_OUT))

両側がOpenAI形式に対応しているため、このエンドポイントを試すにはベースURLとキーの変更が必要です。ドキュメントには以下のルートがリストされています:POST /v1/chat/completions、POST /v1/responses、GET /v1/models。

ルーターが依然として最適な選択となる場合

常に安さが良いわけではありません。以下の場合はルーターの方が適しています:

  • 異なるベンダーの複数のモデルを試す必要がある場合、またはタスク別にルーティングする必要がある場合、
  • このサービスが提供していない画像、音声、埋め込みエンドポイントが必要な場合、
  • 契約やコンプライアンスの理由で特定のベンダーのモデルを名前で必要とする場合、
  • 1つのプロバイダーに障害が発生したときにプロバイダー間で自動フォールバックを希望する場合。

1つのモデルがアプリをカバーし、カタログをナビゲートすることなく予測可能なトークン単位の価格を望み、コンテンツ拒否が製品の問題である場合、単一ホストモデルの方が適しています。多くのチームは両方を使用しています:高ボリュームの無検閲テキストパス用の単一エンドポイントと、実験用のルーターです。

午後のうちにワークロードを移行

実用的な移行には4つのステップがあります。まず、現在のプロバイダーでの使用を1日間記録し、実際のトークン平均値を把握します。次に、このエンドポイントに対して200件の実際のプロンプトをリプレイし、出力を古い出力の隣に保存します。次に、両方のセットを盲検で読み、どちらをリリースするかをマークします。最後に、機能フラグを通じてライブトラフィックの小さなシェア(例えば10パーセント)をルーティングし、拒否、体感レイテンシ、リクエストあたりのコストを監視します。新しいパスを信頼するまで、古いプロバイダーをフォールバックとして構成したままにしてください。両方がOpenAI形式を使用するため、これらすべてに書き換えは必要ありません。

制限と実用的な詳細

料金は総コストの一部です。レート制限はアプリの設計方法を決定します。フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。トライアルキーは2と60を許可します。制限を超えるとHTTP 429が返され、1分あたりのリクエストにはrate_limited、一度に多すぎる場合はconcurrency、一時的な過負荷にはRetry-After: 5が付きます。コンテキストウィンドウは100,000トークンで、max_tokensはオプションです。

チャージは$20から$500まで、$50以上で+5%、$100以上で+10%、$200以上で+15%のボーナス付きで、暗号資産で実行されます。例えば、$200のチャージで15%多いクレジットが得られるため、$230を使用できます。クレジットは前払いで、期限切れになりません。価格表をご覧ください。

安価なテストを実行

確信に基づいて切り替えないでください。1日分の実際のプロンプトを取得し、エンドポイントに送信し、出力を読み、使用量フィールドからコストを計算してください。新規ユーザーはAPIキーページでワンクリックで$0.50の無料トライアルクレジットを請求できます。これは7日間有効で、カードは必要ありません。1リクエストあたり入力2,000トークン、出力300トークンの場合、$0.50で約1,100回のチャットリクエストが購入できます。これは品質と価格の両方を判断するのに十分です:2,000 x $0.15 / 1M = $0.0003、300 x $0.50 / 1M = $0.00015、合計1リクエストあたり$0.00045、$0.50 / $0.00045は約1,111です。

何か支払う前に無料オプションが欲しい場合は、制限について無料の無検閲LLMオプションをお読みください。

質問と回答

本当に無料の無検閲LLMは存在しますか?

コード上ではほぼ可能です。OpenAI形式を使用しているためです。範囲内では、いいえ。これはベンダーのカタログではなく、1つのモデルのみを提供しています。

本当に無料の無検閲LLMは存在しますか?

ここにある計算式と、他社プロバイダーの現在の価格を使用して、自分の請求額を計算してください。本記事では競合他社の料金を引用していません。

本当に無料の無検閲LLMは存在しますか?

いいえ。前払いクレジットからの従量課金制であり、クレジットは期限切れになりません。

本当に無料の無検閲LLMは存在しますか?

いいえ。テキストのみで、画像、オーディオ、ビデオ、埋め込みのエンドポイントは提供していません。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得