カスタムコスト

AI Gatewayでは、リクエストレベルでカスタムコストを設定できます。この機能を使用することで、コストメトリクスは独自の価格を正確に反映し、デフォルトまたは公開モデルのコストを上書きします。

カスタムコスト

APIリクエストにカスタムコストを追加するには、cf-aig-custom-costヘッダーを使用します。このヘッダーを使用すると、入力（送信されたトークン）と出力（受信したトークン）の両方のトークンごとのコストを指定できます。

per_token_in: 交渉された入力トークンコスト（トークンごと）。
per_token_out: 交渉された出力トークンコスト（トークンごと）。

小数点以下の桁数に制限はなく、値がどれだけ小さくても正確なコスト計算が可能です。

カスタムコストはログに下線付きで表示され、カスタム価格が適用されたことを簡単に識別できます。

この例では、入力トークンが100万トークンあたり1ドル、出力トークンが100万トークンあたり2ドルの交渉価格がある場合、以下のようにcf-aig-custom-costヘッダーを含めます。

curl https://gateway.ai.cloudflare.com/v1/{{account_id}}/{{gateway_id}}/openai/chat/completions \
  --header 'Authorization: Bearer $TOKEN' \
  --header 'Content-Type: application/json' \
  --header 'cf-aig-custom-cost: {"per_token_in":0.000001,"per_token_out":0.000002}' \
  --data ' {{
        "model": "gpt-4o-mini",
        "messages": [
          {{
            "role": "user",
            "content": "Cloudflareの誕生日ウィークはいつですか？"
          }}
        ]
      }}'

Cloudflare Dashboard Discord Community Learning Center Support Portal

Cookie Settings