以標準費率計算,一次包含 500 個 token 的路由判斷只要 $0.00005。這讓 OpenAI 的 Decisions API 很適合用在高流量的前置判斷,但便宜不代表可以直接拿來做高風險決策:它輸出的機率,仍然要用你自己的標註資料進行校準。
費用從幾分之一美分起跳,不是按次收費
OpenAI Decisions API 的定價是每 100 萬個未快取輸入 token 收取 $0.10,輸出 token 則免費。OpenAI 目前將這個端點列為正式可用,僅由 gpt-6-luna 提供服務,並可透過 目前的 Decisions 指南所列的 POST /v1/decisions 使用。
目前公布的價格中,沒有另外收取每次請求的固定費用。基本計算公式如下:
每月成本 = 請求數 × 平均計費輸入 token 數 ÷ 1,000,000 × $0.10
10K、100K 與 1M 次請求的成本範例
假設每次請求平均包含 500 個輸入 token:
| 每月請求數 | 輸入 token | 標準輸入成本 | 每次請求成本 |
|---|---|---|---|
| 10,000 | 5 million | $0.50 | $0.00005 |
| 100,000 | 50 million | $5.00 | $0.00005 |
| 1,000,000 | 500 million | $50.00 | $0.00005 |
Predicate、choice 與 score 的輸出不會額外產生輸出 token 費用。相同內容若改用 Responses 產生 JSON,則會按照模型的輸出費率計費;OpenAI 價格表列出的 gpt-6-luna 標準輸出費率為每 100 萬個 token $0.50。
快取讀取、寫入、區域處理與長上下文
$0.10 只是最醒目的標準輸入費率,實際上還可能套用其他價格。目前的指南指出,Prompt Cache 讀取可享有折扣,而快取寫入則採用 gpt-6-luna 的標準快取寫入費率。OpenAI 的價格表列出 Luna 標準快取輸入為每 100 萬個 token $0.01,30 分鐘快取寫入為$0.125,12 小時快取寫入則為每 100 萬個 token $0.25。
只有在可重複使用的共用輸入前綴至少包含1,024 個 token時,才會啟用快取。問題內容不計入這個門檻,僅供特定問題使用的圖片也不屬於可重複使用的前綴。根據Prompt Caching 章節,快取讀取與寫入已包含在 usage.input_tokens 中,再次加總會造成重複計算。
對符合條件的新模型而言,區域或資料主權端點可能加收10% 費用。官方定價與可用性說明也提醒,長上下文可能套用額外倍率。若要部署涉及合規要求的工作負載,最好在定案前確認即時價格表,因為這兩項調整都可能讓原本簡單的 $0.10 計算結果改變。
這個端點刻意維持狹窄的用途
Decisions API 會把證據轉換成三種具型別的結果。它是分類與評分工具,不是更便宜的通用回應端點。
| 問題類型 | 回傳內容 | 適合用途 | 不適合用途 |
|---|---|---|---|
predicate | 0 到 1 的機率 | 詐欺攔截、可見損傷檢查、相關性篩選 | 要求模型寫出判斷理由 |
choice | 一個指定選項、各選項機率與信心度 | 佇列路由、文件分類、下一步動作 | 未知或動態產生的分類 |
score | 加權分數、各級別機率與信心度 | 嚴重程度、急迫性、潛在客戶品質 | 擷取姓名、日期或任意欄位 |
score 支援2 到 10 個有順序的級別。一次請求可以包含1 到 400 個問題,但只有彼此獨立的問題才適合放在同一個請求中。如果第二個問題取決於第一個答案,OpenAI 建議先取得第一個答案,再發送第二次請求。
多個彼此獨立的問題可以共用同一份證據。例如,同一張客服工單可以同時判斷是否有退款意圖、分派給哪個部門,再評估急迫程度,不必把工單內容重送三次。根據用量指南,num_model_requests計算的是請求數,而不是問題數。
公開測試版之後有哪些變化?
目前的 What's new 清單顯示,早期發布時的幾項限制已經更新:
- 問題上限從200 個提高至 400 個。
- 共用輸入現在支援 Prompt Caching。
- 輸入可以包含原生 JSON、對話紀錄、函式呼叫紀錄,以及相對應的工具輸出。
- 圖片可使用公開 HTTP/HTTPS URL 或內嵌 base64;
file_id、音訊、檔案與 item 參照仍不支援。 - 現在可透過
GET /v1/organization/usage/decisions查看組織用量;這需要具備api.usage.read權限的管理員金鑰,並可依專案、API 金鑰或模型分組結果。
根據輸出契約選擇 Decisions 或 Responses
如果應用程式早已定義好允許的答案格式,就使用 Decisions API。若需要模型整合資訊並組織成內容,則使用 Responses;如果模型必須選擇工具並提供參數,則應使用 function calling。
| 需求 | 預設選擇 | 原因 |
|---|---|---|
| 帶有機率的 yes/no 判斷 | Decisions | 原生支援 predicate 輸出,不會產生生成式答案費用 |
| 從已知路由中選一個 | Decisions | 會回傳各選項的機率與信心度 |
| 依照有順序的評分規準分級 | Decisions | 原生支援加權分數與級別分布 |
| 回傳任意 JSON 欄位 | Responses with Structured Outputs | Decisions 不支援自訂 JSON 輸出結構 |
| 說明某個項目為何被拒絕 | Responses | Decisions 不會產生文字說明 |
| 選擇工具並建立參數 | Function calling | Decisions 只會選出答案,不會產生工具參數 |
如果每次請求包含 400 個輸入 token,100,000 次 Decisions 呼叫的輸入成本是 $4。假設相同的 Responses 呼叫每次產生 30 個輸出 token,依照 Luna 公布的費率,成本會是 $4 的輸入費加上 $1.50 的輸出費,也就是在未計入任何推理 token 前共 $5.50。最終該選哪個端點,仍取決於應用程式是否需要生成欄位或說明文字。
兩個端點現在都支援折扣後的快取讀取。不要只根據提示長度估算命中率,應直接從回應的 usage 物件查看實際快取命中的 token 數。
錯誤決策就算便宜,代價仍可能很高
低廉的 token 帳單,無法降低錯誤核准、不當內容審核處置或錯誤付款路由的代價。OpenAI 的答案解讀指南建議使用標註範例設定門檻,並分別衡量假陽性與假陰性的成本。
開發者社群的討論也提到相同問題。在一則以生產環境為主題的 decision API Reddit 討論串中,u/Ctbhatia 寫道:
「一個會說跳過的閘門,勝過一個自信猜錯的閘門。」來源:u/Ctbhatia on r/LLMDevs
API 回傳的信心度與機率只是參考訊號,不代表 OpenAI 提供了公開的校準保證。在代表性資料上實際驗證之前,不應假設 0.90 的信心度就等於 90% 的正確率。
OpenAI 在官方指南中表示,Decisions 的速度約為 Responses 的10 倍,但沒有公布 p50、p95、區域、負載大小或比較設定。若要設定延遲預算,應先在實際部署區域進行基準測試。
正式上線前:先校準、允許放棄,再自動化
- 從真實工作負載建立標註資料集,納入模稜兩可的案例與代價高昂的錯誤情境。
- 對這份資料集執行相同問題,並繪製不同門檻下的假陽性與假陰性比例。
- 在應用程式中明確加入 abstain 路徑。低信心度或互相衝突的答案應交由人工審查,而不是強行分派。
- 透過
GET /v1/organization/usage/decisions監控 token 用量與請求數,上線後再抽樣稽核自動化結果。
部署選擇對照表
對於已經採用 OpenAI 技術棧、需要處理大量短文本且評估範圍明確的工作負載,OpenAI Decisions API 是很合理的預設選擇。但不能只因為價格便宜,就決定要遷移。
| 工作負載 | 建議 | 主要條件 |
|---|---|---|
| 客服或潛在客戶路由 | 使用 Decisions | 分類固定,且手上有標註範例 |
| 圖片損傷篩選 | 試用 Decisions | 先測試圖片判斷準確度;現在已支援託管圖片 URL |
| 長篇政策加短項目 | 兩個端點都測試 | 確認實際快取命中 token 數與延遲 |
| 合規或破壞性操作 | 只把 Decisions 當作閘門 | 需要允許 abstain、人工審查與非對稱門檻 |
| 資料擷取加說明 | 使用 Responses | 一次較完整的呼叫可能省下第二次生成請求 |
| 帶參數的工具選擇 | 使用 function calling | 輸出契約能直接對應到要執行的動作 |
| 歐盟或受監管工作負載 | 考慮 Decisions | 確認資格、資料主權要求與區域加價 |
OpenAI Decisions API 定價 FAQ
Decisions API 是按請求還是按 token 計費?
它是按輸入 token 計費,不是按請求次數計費。目前標準未快取輸入的價格為每 100 萬個 token $0.10,但仍可能受到快取、區域或長上下文等適用調整因素影響。
Decisions API 的輸出 token 免費嗎?
是。官方 Decisions 指南明確指出,輸出 token 不收費。
有免費方案嗎?
OpenAI 目前的 Decisions 文件沒有列出專用免費方案。不過,帳戶額度或合約條款仍可能影響組織實際支付的金額。
Decisions API 支援 Prompt Caching 嗎?
支援。至少 1,024 個 token 的共用輸入前綴可能符合快取條件,而且 OpenAI 預設會在共用輸入結尾設置隱含的分界點。問題內容與問題專用圖片不屬於這段可重複使用的前綴。
Decisions 比 Responses API 便宜嗎?
對於不需要生成文字的短篇、固定範圍分類,通常比較便宜。如果 Responses 只輸出少量內容,這項優勢可能縮小;如果工作流程還需要額外呼叫來擷取資料或產生說明,成本優勢也可能消失。
一次請求最多可以放幾個問題?
目前限制為 1 到 400 個問題。彼此獨立的問題可以共用輸入;有相依關係的問題則需要分開請求。
支援圖片嗎?圖片如何計費?
支援。Decisions 接受託管的 HTTP/HTTPS 圖片 URL 與內嵌 base64 圖片,圖片輸入也會計入計費輸入用量。file_id 圖片參照不受支援。
區域處理會更貴嗎?
可能會。OpenAI 的價格頁面指出,符合條件的新模型若使用區域與資料主權端點,會加收 10%;正式部署前,請確認目標區域的即時費率。