Token 計費 API 運作方式,簡單說明
OpenAI API 計費模型採用按 token 計費:你為發送的 token 和模型寫回的 token 付費,兩者費率不同。本頁以淺顯語言說明各個部分,並展示我們相容於 OpenAI 的 API 如何應用此概念。
更新於

- 你按 token 付費,輸入有一個費率,輸出有較高的費率。
- 對話歷史在每一輪都會重新發送,因此長對話每則訊息的成本高於短對話。
- 速率限制限制你發送請求的速度。它們不會改變每個 token 的價格。
- 我們的 API 從預付額度中收取每 1M token $0.15 和 $0.50 的費用,且為獨立產品,與任何供應商無關。
一段話介紹模型
託管的語言模型 API 通常按用量銷售,而非按席位銷售。你的程式發送文字,服務計算輸入和輸出的 token 數量,帳單為這些數量乘以每百萬 token 的價格。輸入和輸出有分開的價格。不同的模型有不同的價格。還有幾項額外規則:速率限制、上下文視窗以及你的付款方式(預付或帳單)。這就是整個計費模型,本頁其餘部分將逐一拆解。
首先澄清。當人們在搜尋框輸入此術語時,通常是指 OpenAI 自己的價目表。我們不是 OpenAI,且我們在此不引用他們的價格,因為這些價格會變動,你應至原始來源查閱。我們可以準確說明的是結構,這與大多數供應商共享,以及它如何運作於我們營運的 API:一個託管、相容於 OpenAI、僅限文字的 API,使用一個開放權重模型 uncensored,由獨立供應商營運。
Token 是計費單位
Token 是模型讀取或寫入的文字區塊。它可能是一個完整的短詞、長詞的一部分、數字或標點符號。對於一般英文散文,一個粗略的經驗法則是一個 token 約為四個字元,或四分之三個詞。其他語言、程式碼和特殊格式通常會為相同的可見長度消耗更多 token,因此將任何經驗法則視為估計值,並從 API 讀取實際計數。
我們 API 的每個回應都包含一個包含 prompt_tokens 和 completion_tokens 的 usage 物件。對於串流輸出回應,usage 會在結尾出現。這兩個數字是你計費的依據。其他內容,例如請求數量或呼叫耗時,不會計入價格。
因為單位是 token 而非字元或呼叫,相同的功能可能便宜也可能昂貴,取決於你的實作方式。一個單行分類提示詞,一千次呼叫可能只花費幾分之一美分。一個將 60 頁文件貼入每次請求的提示詞,即使呼叫次數相同,成本也會高得多。
輸入與輸出價格不同
輸入 token 包括你發送的所有內容:系統提示詞、對話歷史、使用者的最新訊息、函式定義和函式結果。輸出 token 是模型產生的內容,包括它寫入的任何函式呼叫。產生文字比讀取需要更多運算,因此供應商將輸出定價較高。我們的 API 費率如下:
| 每 1M token | 每個 token | |
|---|---|---|
| 輸入 | $0.15 | $0.00000015 |
| 輸出 | $0.50 | $0.0000005 |
輸出是 0.50 / 0.15,或每個 token 貴約 3.3 倍。該比率驅動設計決策。如果你的應用程式發送 3,000 token 的提示詞並回傳 100 token 的標籤,輸入為 $0.00045,輸出為 $0.00005,因此提示詞佔成本的 90%,縮短它比任何其他因素都重要。如果你的應用程式從 200 token 的提示詞請求 2,000 token 的故事,輸入為 $0.00003,輸出為 $0.001,因此輸出佔成本的 97%,關鍵在於故事的長度。
請自行檢查這些數字:3,000 x 0.15 / 1,000,000 = 0.00045。100 x 0.50 / 1,000,000 = 0.00005。200 x 0.15 / 1,000,000 = 0.00003。2,000 x 0.50 / 1,000,000 = 0.001。
為什麼歷史記錄會讓對話隨時間變貴
API 是無狀態的。模型不會記住你上次的請求,因此聊天應用程式會在每次新請求時重新發送先前的訊息。因此第 10 輪的輸入包含第 1 至 9 輪,且你每次都要為這些 token 付費。
假設每個輪次總共增加 400 token。第 1 輪發送約 400 token 的上下文,第 10 輪約 4,000 token,第 50 輪約 20,000 token。我們 API 的模型上下文視窗為 100,000 token(提示詞與完成總和),因此非常長的對話最終需要截斷,無論成本是否重要。常見的修正方法包括:
- 保留系統提示詞和最後 N 輪,並刪除中間部分。
- 將舊輪次摘要為短筆記,並發送該筆記。
- 將長期事實儲存在聊天外部,並僅插入相關部分。
具體數字:每次請求都發送 1,000 token 的系統提示詞,共 1,000 次請求,即 1,000,000 個輸入 token,成本為 $0.15。單獨看還好。但如果每次請求都發送 10,000 token 的角色設定表,共 100,000 次請求,即 1,000,000,000 個輸入 token,成本為 $150。固定開銷會隨數量倍增,這就是需要關注的重點。
預付額度,非訂閱制
供應商在資金流動方式上有所不同。有些在月底後向你計費,有些從預付餘額扣款,有些則結合兩者與月度方案。我們的 API 很簡單:你儲值,使用會扣減餘額,且不會自動續訂。額度永不過期。失敗或被拒絕的請求不會收費。
儲值金額為 $20 至 $500 的整數,並享有額外獎勵:$50 起 +5%、$100 起 +10%、$200 起 +15%。因此,儲值 $100 可獲得 $110 的額度,儲值 $200 可獲得 $230 的額度。你可以使用加密貨幣(TRC20 上的 USDT、Base 上的 USDC)進行付款。實際效果是,你的最大損失上限取決於你儲值的金額:即使發生無限迴圈,也不會超出餘額。每次請求後的餘額會顯示在 X-Balance-USD 回應標頭中。
新用戶可以先試用服務。註冊後,點擊 API 金鑰頁面 即可領取 $0.50 的免費試用額度,有效期 7 天,每人限領一次,無需信用卡。
速率限制是獨立的控制項
兩個每百萬 token 價格相同的 API 可能感覺差異很大,因為速率限制決定你每分鐘可以處理多少請求。供應商通常為每個帳戶層級設定限制。我們的 API 完整金鑰允許 8 個並行請求和每分鐘 300 個請求,試用金鑰允許 2 個並行和每分鐘 60 個請求。最大主體為 8 MB。
當超過限制時,你會收到 HTTP 429。超過每分鐘請求數時錯誤碼為 rate_limited,並行請求過多時為 concurrency。在暫時過載時,API 也會返回 429 並帶有 Retry-After: 5 標頭。一個容易讓人忽略的細節:串流請求會佔用其並行槽位直到串流結束,因此一次讀取一個 token 的慢速客戶端可能比請求計數顯示的更快填滿 8 個槽位。
限制改變吞吐量,而非價格。如果你需要推送大量批次,算術很簡單:以每分鐘 300 個請求的速度,10,000 個請求約需 34 分鐘,假設每個請求完成得足夠快以保持在同時 8 個以內。
將此模型應用於此 API
相容於 OpenAI 的部分使得計費模型可移植。一旦更改 Base URL 和金鑰,任何 OpenAI SDK 都能運作,因此你為其他供應商編寫的計費追蹤程式碼通常可以重複使用。此腳本讀取使用情況並按我們的費率計算呼叫成本:
from openai import OpenAI
client = OpenAI(
base_url="https://api.openaiapipricing.com/v1",
api_key="YOUR_API_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain what a token is in two sentences."},
],
)
u = resp.usage
input_cost = u.prompt_tokens * 0.15 / 1_000_000
output_cost = u.completion_tokens * 0.50 / 1_000_000
print(f"in={u.prompt_tokens} out={u.completion_tokens} total={input_cost + output_cost:.7f}")
上述條件下的 API 規格:單一模型、純文字、100,000-token 上下文視窗、支援函式呼叫、JSON 模式與串流輸出,且提示詞不會用於訓練。該模型針對合法成人用途調整,能避免內容審查(不拒絕回答),但對涉及未成年人的性內容設有嚴格限制。它不是跨供應商的轉發器,也不是任何供應商的官方端點。設定細節請見 快速入門指南,完整價目表請見 定價頁面。若要與其他服務進行實際比較,請參考 ChatGPT API 費用頁面。
更多指南
問答
用白話來說,OpenAI API 計費模型代表什麼意思?
你為 token 付費:你發送的 token 有一個費率,模型回傳的 token 有較高的費率。費率取決於模型,帳單為 token 數量乘以每百萬 token 的價格。
輸入還是輸出較貴?
輸出。我們的 API 輸出為每 1M token $0.50,輸入為每 1M token $0.15,約為 3.3 倍。
為什麼長對話每則訊息的成本較高?
API 不會記住之前的對話輪次,因此每次請求都會重新發送歷史記錄作為輸入 token。歷史越長,你在每一輪需要為輸入支付的 token 就越多。
速率限制會改變我的費用嗎?
不會。它們限制每分鐘的請求數和並行請求數。每個 token 的價格保持不變。
你的 API 與 OpenAI 的相同嗎?
不相同。它遵循 OpenAI 的請求格式,因此現有的 SDK 可以運作,但它運行的是由獨立供應商營運的不同開放權重模型。
只需填寫表單,即可取得金鑰
建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。