AIREITER토큰 500개를 사용하는 라우팅 결정 한 번의 비용은 일반 요금 기준 $0.00005입니다. 대량 트래픽의 게이트로 쓰기에는 충분히 저렴하지만, 영향이 큰 작업에 그대로 적용해도 된다는 뜻은 아닙니다. 확률값은 자체 라벨링 데이터로 반드시 보정해야 합니다.
호출당 요금이 아니라 1센트 미만의 토큰 비용으로 계산된다
OpenAI Decisions API의 요금은 캐시되지 않은 입력 토큰 100만 개당 $0.10이며, 출력 토큰은 무료입니다. 현재 OpenAI는 이 엔드포인트를 정식 제공 상태로 안내하고 있으며, gpt-6-luna만 사용하고 최신 Decisions 가이드에 나온 POST /v1/decisions 경로로 사용할 수 있습니다.
공개된 요금표에는 요청별 별도 수수료가 없습니다. 기본 계산식은 다음과 같습니다.
월간 비용 = 요청 수 × 요청당 평균 과금 입력 토큰 수 ÷ 1,000,000 × $0.10
요청 1만 건, 10만 건, 100만 건의 비용 예시
요청 하나당 입력 토큰이 평균 500개인 경우를 기준으로 보면 다음과 같습니다.
| 월간 요청 수 | 입력 토큰 | 일반 입력 비용 | 요청당 비용 |
|---|---|---|---|
| 10,000 | 5 million | $0.50 | $0.00005 |
| 100,000 | 50 million | $5.00 | $0.00005 |
| 1,000,000 | 500 million | $50.00 | $0.00005 |
predicate, choice, score 결과에는 출력 토큰 요금이 추가되지 않습니다. 반면 이에 대응하는 Responses JSON을 생성하면 모델의 출력 요금이 붙습니다. OpenAI 가격표에 따르면 일반적인 gpt-6-luna 출력 요금은 토큰 100만 개당 $0.50입니다.
캐시 읽기·쓰기, 지역 처리, 긴 컨텍스트 요금
$0.10이라는 기본 요금이 적용되는 경우만 있는 것은 아닙니다. 최신 가이드에 따르면 프롬프트 캐시 읽기에는 할인 요금이 적용되고, 캐시 쓰기에는 gpt-6-luna의 표준 캐시 쓰기 요금이 적용됩니다. OpenAI의 요금표 기준으로 Luna 캐시 입력 읽기는 토큰 100만 개당 $0.01이며, 캐시 쓰기는 30분 기준 $0.125, 12시간 기준 $0.25입니다.
캐싱은 재사용 가능한 공유 입력 프리픽스가 최소 토큰 1,024개일 때만 시작됩니다. 질문 내용은 이 최소 기준에 포함되지 않으며, 질문별 이미지는 재사용 가능한 프리픽스 바깥에 있습니다. 프롬프트 캐싱 섹션에 따르면 캐시 읽기와 쓰기는 이미 usage.input_tokens에 포함되어 있으므로 다시 더하면 사용량을 중복 계산하게 됩니다.
지역 처리 또는 데이터 레지던시 엔드포인트에는 조건을 충족하는 최신 모델 기준으로 10% 추가 요금이 붙을 수 있습니다. 공식 가격 및 제공 범위 안내는 긴 컨텍스트 배수가 적용될 수 있다는 점도 명시합니다. 규정 준수가 중요한 작업에 도입하기 전에는 실제 요금표를 확인해야 합니다. 두 가지 조정 요인 모두 단순한 $0.10 계산을 바꿀 수 있기 때문입니다.
용도가 명확한 대신 범위는 좁다
Decisions API는 입력된 근거를 세 가지 타입의 결과 중 하나로 바꿉니다. 더 저렴한 범용 응답 엔드포인트라기보다는 분류기이자 점수 계산기에 가깝습니다.
| 질문 유형 | 반환값 | 잘 맞는 작업 | 맞지 않는 작업 |
|---|---|---|---|
predicate | 0에서 1 사이의 확률 | 사기 게이트, 눈에 보이는 손상 여부 확인, 관련성 필터 | 판단 근거를 글로 설명하는 작업 |
choice | 지정한 옵션 하나, 옵션별 확률, 신뢰도 | 큐 라우팅, 문서 분류, 다음 작업 선택 | 사전에 알 수 없거나 동적으로 생성되는 카테고리 |
score | 가중 점수, 레벨별 확률, 신뢰도 | 심각도, 긴급도, 리드 품질 | 이름·날짜 또는 임의 필드 추출 |
score에는 순서가 있는 레벨 2개에서 10개를 지정할 수 있습니다. 한 요청에는 질문 1개에서 400개를 담을 수 있지만, 서로 독립적인 질문만 함께 보내야 합니다. 두 번째 질문이 첫 번째 답변에 의존한다면 첫 번째 답변을 받은 뒤 두 번째 요청을 보내라고 OpenAI는 안내합니다.
서로 독립적인 여러 질문은 같은 근거를 재사용할 수 있습니다. 예를 들어 하나의 고객지원 티켓으로 환불 의도를 확인하고, 담당 부서로 라우팅하며, 긴급도를 점수화할 수 있습니다. 티켓을 세 번 다시 보낼 필요가 없습니다. 사용량 가이드에 따르면 num_model_requests는 질문 수가 아니라 요청 수를 집계합니다.
퍼블릭 베타 이후 달라진 점
현재 What's new 목록에는 출시 초기의 여러 제한이 다음과 같이 변경된 것으로 나옵니다.
- 질문 제한이 200개에서 400개로 늘었습니다.
- 공유 입력에 프롬프트 캐싱을 사용할 수 있습니다.
- 입력에 네이티브 JSON, 대화 기록, 함수 호출 기록, 이에 대응하는 도구 출력이 포함될 수 있습니다.
- 이미지는 공개 HTTP/HTTPS URL 또는 인라인 base64를 사용할 수 있습니다.
file_id, 오디오, 파일, item 참조는 여전히 지원되지 않습니다. - 조직 단위 사용량 조회는
GET /v1/organization/usage/decisions에서 제공됩니다.api.usage.read권한이 있는 관리자 키가 필요하며, 프로젝트·API 키·모델별로 결과를 묶어 볼 수 있습니다.
출력 계약을 기준으로 Decisions와 Responses를 선택하자
애플리케이션 코드가 허용되는 답변 형식을 이미 알고 있다면 Decisions API를 사용하면 됩니다. 모델이 정보를 조합해 문장을 만들어야 한다면 Responses API가 맞고, 도구를 선택하고 인자를 채워야 한다면 함수 호출을 사용해야 합니다.
| 요구 사항 | 기본 선택 | 이유 |
|---|---|---|
| 확률이 포함된 예/아니오 게이트 | Decisions | predicate 결과를 기본 제공하며 생성 답변 요금이 없습니다. |
| 정해진 경로 중 하나 선택 | Decisions | 각 옵션의 확률과 신뢰도를 반환합니다. |
| 순서가 있는 기준표에 따라 평가 | Decisions | 가중 점수와 레벨별 분포를 기본 제공합니다. |
| 임의의 JSON 필드 반환 | Structured Outputs를 사용하는 Responses | Decisions에는 사용자 정의 JSON 출력 스키마가 없습니다. |
| 항목이 거부된 이유 설명 | Responses | Decisions는 자연어 설명을 생성하지 않습니다. |
| 도구를 선택하고 인자 생성 | 함수 호출 | Decisions는 답변을 선택하지만 도구 인자를 생성하지 않습니다. |
입력 토큰 400개를 사용하는 호출 100,000건을 기준으로 하면 Decisions 입력 비용은 $4입니다. 같은 Responses 호출에서 매번 출력 토큰 30개를 생성한다면, Luna 공개 요금 기준 입력 $4에 출력 $1.50이 더해져 추론 토큰을 제외하고 총 $5.50이 됩니다. 다만 최종 선택은 애플리케이션에 생성 필드나 설명이 필요한지에 따라 달라집니다.
두 엔드포인트 모두 이제 캐시 읽기 할인 요금이 적용됩니다. 프롬프트 길이로 추정하지 말고 응답의 usage 객체에서 실제 캐시 적중 토큰을 확인해야 합니다.
실수 비용까지 저렴해지는 것은 아니다
토큰 요금이 낮다고 해서 잘못된 승인, 부정확한 모더레이션 조치, 엉뚱한 결제 경로로 인한 비용까지 줄어드는 것은 아닙니다. OpenAI의 답변 해석 가이드는 라벨링된 예시를 바탕으로 임계값을 정하고, 거짓 양성과 거짓 음성의 비용 차이를 반영하라고 권고합니다.
이런 우려는 개발자 커뮤니티에서도 나타납니다. Decisions API를 실제 운영 관점에서 다룬 Reddit 스레드에서 u/Ctbhatia는 다음과 같이 썼습니다.
“틀린 판단을 하는 게이트보다 건너뛰는 게이트가 낫다.” 출처: r/LLMDevs의 u/Ctbhatia
API가 반환하는 신뢰도와 확률은 신호일 뿐, 공식적으로 보장된 보정값은 아닙니다. 대표성 있는 데이터에서 확인하기 전까지는 신뢰도 0.90인 결과가 실제로 90%의 확률로 맞는다고 가정해서는 안 됩니다.
OpenAI는 공식 가이드에서 Decisions가 Responses보다 약 10배 빠르다고 설명합니다. 하지만 p50, p95, 지역, 페이로드 크기, 비교 설정은 공개하지 않았습니다. 지연 시간 예산을 정하기 전 실제 배포 지역을 기준으로 벤치마크해야 합니다.
운영 전 관문: 보정하고, 보류하고, 그다음 자동화하자
- 모호한 사례와 실패 비용이 큰 상황을 포함해 실제 작업에서 라벨링된 데이터셋을 구축합니다.
- 같은 질문을 데이터셋 전체에 실행하고, 여러 임계값에서 거짓 양성과 거짓 음성 비율을 그래프로 확인합니다.
- 애플리케이션 코드에 명시적인 보류 경로를 추가합니다. 신뢰도가 낮거나 답변이 충돌하면 억지로 라우팅하지 말고 사람의 검토로 넘겨야 합니다.
GET /v1/organization/usage/decisions로 토큰 사용량과 요청 수를 모니터링하고, 출시 후 자동 처리 결과의 일부를 정기적으로 감사합니다.
도입 여부를 판단하는 표
OpenAI Decisions API는 기존 OpenAI 스택 안에서 짧고 대량으로 처리하는 범위가 정해진 평가 작업에 적합한 기본 선택입니다. 가격만 보고 마이그레이션할 이유는 없습니다.
| 워크로드 | 권장 사항 | 주요 조건 |
|---|---|---|
| 고객지원 또는 리드 라우팅 | Decisions 사용 | 카테고리가 고정되어 있고 라벨링된 예시를 확보할 수 있어야 합니다. |
| 이미지 손상 여부 검사 | Decisions 시험 도입 | 이미지 정확도를 벤치마크해야 하며, 이제 호스팅 URL을 지원합니다. |
| 긴 정책과 짧은 항목 조합 | 두 엔드포인트 모두 테스트 | 실제 캐시 적중 토큰과 지연 시간을 확인해야 합니다. |
| 규정 준수 또는 파괴적 작업 | Decisions는 게이트로만 사용 | 보류, 검토, 비대칭 임계값을 요구해야 합니다. |
| 추출과 설명이 함께 필요한 작업 | Responses 사용 | 한 번의 더 풍부한 호출로 두 번째 생성 요청을 줄일 수 있습니다. |
| 인자를 포함한 도구 선택 | 함수 호출 사용 | 출력 계약이 실제 작업과 직접 맞아야 합니다. |
| EU 또는 규제 산업 워크로드 | Decisions 검토 | 사용 자격, 데이터 레지던시, 지역 추가 요금을 확인해야 합니다. |
OpenAI Decisions API 가격 FAQ
Decisions API는 요청별로 과금되나요, 토큰별로 과금되나요?
요청 수가 아니라 입력 토큰을 기준으로 과금됩니다. 현재 캐시되지 않은 일반 입력 요금은 토큰 100만 개당 $0.10이며, 캐싱과 적용 가능한 지역 또는 긴 컨텍스트 조정 요인의 영향을 받을 수 있습니다.
Decisions API의 출력 토큰은 무료인가요?
네. 공식 Decisions 가이드는 출력 토큰에 요금이 부과되지 않는다고 안내합니다.
무료 티어가 있나요?
현재 OpenAI Decisions 문서에는 전용 무료 티어가 명시되어 있지 않습니다. 다만 계정 크레딧이나 계약 조건에 따라 조직이 실제로 지불하는 금액은 달라질 수 있습니다.
Decisions API에서도 프롬프트 캐싱을 사용할 수 있나요?
네. 공유 입력 프리픽스가 최소 1,024토큰이면 대상이 될 수 있으며, OpenAI는 기본적으로 공유 입력이 끝나는 지점에 암묵적 브레이크포인트를 둡니다. 질문 내용과 질문별 이미지는 재사용 가능한 프리픽스에 포함되지 않습니다.
Decisions가 Responses보다 저렴한가요?
생성 텍스트가 필요 없는 짧고 범위가 정해진 분류 작업이라면 대체로 그렇습니다. Responses의 출력이 매우 짧거나, 추출과 설명을 위해 두 번째 호출이 필요한 워크플로라면 비용 차이가 줄어들거나 사라질 수 있습니다.
한 요청에 질문을 몇 개까지 넣을 수 있나요?
현재 제한은 질문 1개에서 400개입니다. 서로 독립적인 질문은 같은 입력을 공유할 수 있지만, 서로 의존하는 질문은 별도 요청으로 보내야 합니다.
이미지를 지원하나요? 이미지에도 요금이 붙나요?
네. Decisions는 호스팅된 HTTP/HTTPS 이미지 URL과 인라인 base64 이미지를 지원하며, 이미지 입력은 과금 입력 사용량에 포함됩니다. file_id 이미지 참조는 지원되지 않습니다.
지역 처리를 사용하면 비용이 더 드나요?
그럴 수 있습니다. OpenAI의 가격 페이지는 최신 모델의 조건을 충족하는 지역 및 데이터 레지던시 엔드포인트에 10% 추가 요금을 적용합니다. 배포 전 대상 지역의 최신 요금을 확인해야 합니다.