OpenRouter Auto Router: 작동 방식, 비용 티어, 모델 고정이 필요한 경우

어떤 모델을 골라야 할지 매 요청마다 판단하기 어렵다면 openrouter/auto가 유용할 수 있다. OpenRouter의 Auto Router는 프롬프트를 약 30개 작업 유형으로 분류한 뒤, 고정된 리더보드가 아니라 플랫폼의 주간 55T+ 토큰 사용 지출이 향하는 모델을 기준으로 라우팅한다. 2026년 8월 10일 기준으로 기존 NotDiamond 기반 라우터는 최근 7일간의 커뮤니티 지출 신호를 반영하는 방식으로 교체됐다. 기본 티어에서는 비용 절감을, 최상위 티어에서는 프런티어급 품질을 내세운다. 다만 요청별 라우팅 수수료는 없더라도 실제 선택된 모델의 요금은 그대로 청구되므로, 별도 설정이 없으면 단순한 요청도 비싼 모델로 갈 수 있다.

새 OpenRouter Auto Router는 무엇이 달라졌나

Auto Router는 메타 라우터다. 모델 이름에 openrouter/auto를 넣어 요청하면, 실제 처리는 특정 하위 모델로 전달된다. 라우팅 비용이 별도로 붙지는 않으며 선택된 모델의 일반 요금만 낸다. 응답의 model 필드에서 실제로 선택된 모델을 확인할 수 있어 요청별 감사도 가능하다.

2026년 8월 업데이트에서 OpenRouter는 기존 라우팅 엔진을 교체했다. 이전 엔진은 NotDiamond 기반이었다. 새 방식은 OpenRouter가 말하는 ‘시장의 지혜’를 따른다. 어떤 모델이 ‘최고’인지 고정 분류 모델이 결정하는 대신, 직전 7일간의 익명화된 지출 데이터를 본다. 예를 들어 지난주 수천 명의 개발자가 코딩 작업을 한 모델에서 다른 모델로 옮겼다면, 라우터도 며칠 안에 그 이동을 반영한다.

라우터는 요청 처리 중에 프롬프트를 분류한다. 프롬프트를 보관할 필요는 없다. 분류 대상은 코드 생성, 디버깅, 다단계 에이전트 계획, 지식 Q&A, 수학, 고객 지원, 리서치 보고서 등을 포함한 약 30개 카테고리다. 분류 또는 순위 데이터가 없을 때는 기본 모델 세트로 폴백하므로, 라우팅 실패가 곧 요청 실패로 이어지지는 않는다.

사용할 수 있는 슬러그는 두 가지다.

새 라우터는 안정 슬러그로 이동하기 전 몇 주 동안 auto-beta에서 운영됐으며, 2026년 8월 10일 안정 버전에 적용됐다. 플러그인 ID를 잘못 지정해 설정을 보내면 오류 없이 무시된다. 실제 구성에서 자주 놓치는 부분이다.

약 30개 작업 유형과 5개 비용 티어로 모델을 고르는 방식

라우터의 선택에는 작업 분류와 비용 티어, 두 가지가 작용한다. 먼저 프롬프트에서 작업 유형을 파악한 뒤, 해당 유형 안에서 최근 7일간의 커뮤니티 사용 비중으로 후보 모델을 순위화한다. 이때 계정의 제한 조건인 허용 모델, 가드레일, 개인정보 설정, ZDR 정책도 함께 적용된다.

비용 티어는 라우터가 어느 가격대까지 선택 대상으로 볼지를 정한다. 가장 저렴한 쪽부터 low, medium, high, xhigh, max까지 5단계이며 기본값은 low다. 티어는 가격 상한선이 아니라 하나의 구간이다. 해당 구간보다 저렴하거나 비싼 모델도 모두 후보에서 제외된다.

OpenRouter는 2026년 8월 10일 전체 약 30개 작업 유형을 아우르는 라우팅 매트릭스를 공개했다. 아래는 작업 유형과 비용 티어에 따라 달라지는 선택을 보여주는 대표 15개 예시다.

low 티어는 코딩 작업에서 GLM-5.2, DeepSeek V4 Flash 같은 저비용 모델을 선호하며, 분류와 지원 업무에는 Gemini Flash 계열을 주로 선택한다. 반대로 max 티어에서는 작업 성격에 따라 Claude Opus 5, Claude 5 Fable, GPT-5.6 Sol로 라우팅한다.

cost_tier와 폐기 예정인 cost_quality_tradeoff의 차이

기존 숫자형 파라미터 cost_quality_tradeoff는 폐기 예정이지만 계속 지원된다. 범위는 0~10이며, 0은 품질 우선, 10은 비용 우선이고 기본값은 7이었다. 새 cost_tier는 이 대신 이름으로 된 구간을 사용한다. 두 값을 함께 보내면 cost_quality_tradeoff가 우선한다. 하위 호환성을 위한 결정이지만, 기존 코드를 마이그레이션할 때 예상과 다른 라우팅을 만들 수 있다. cost_tier로 전환한다면 기존 파라미터는 제거하는 편이 좋다.

API 요청 구성 예시는 다음과 같다.

{
  "model": "openrouter/auto",
  "messages": [{ "role": "user", "content": "Debug this Python function" }],
  "plugins": [{
    "id": "auto-router",
    "cost_tier": "max",
    "allowed_models": ["anthropic/*", "openai/*"]
  }]
}

allowed_models는 anthropic/* 같은 와일드카드 패턴을 받아 특정 제공업체로 범위를 제한할 수 있다. excluded_models 목록은 allowed_models 적용 뒤에 실행되며 후보군을 더 좁힌다. 필터링 후 남는 모델이 없으면 API는 404를 반환한다.

벤치마크로 본 새 Auto Router와 이전 버전의 차이

OpenRouter는 서로 다른 성격의 벤치마크 5개에서 새 라우터와 이전 라우터를 비교했다. 기본 설정과 max 설정을 각각 비교한 결과다. 이전 라우터의 기본값은 cost_quality_tradeoff=7이었고, 새 라우터의 기본값은 cost_tier=low다.

기본 티어에서 새 라우터는 5개 벤치마크 중 3개에서 이전 버전과 같거나 더 좋은 결과를 냈다. DSQA(리서치)는 +45.6%, WideSearch(검색)는 +16.0%로 개선 폭이 컸다. 반면 MMLU Pro는 -1.6%, tau-bench Banking은 -1.9%로 소폭 하락했고, SWE-Atlas QnA는 동률이었다. 기본 티어 비용은 MMLU Pro에서 -64.2%, tau-bench에서 -51.3%, SWE-Atlas에서 -35.9% 낮았다. 다만 DSQA는 $147.11에서 $276으로 87.6% 높아졌다. max 티어에서는 새 라우터가 5개 벤치마크를 모두 앞섰다. tau-bench Banking은 7.2%에서 31.6%(+338.9%)로, SWE-Atlas QnA는 2.4%에서 60.7%(+2429.2%)로 올랐다. 그 대가로 max 티어 비용은 5개 중 4개에서 더 높았고, SWE-Atlas는 $205 대비 $1,325가 들었다. 이는 특정 시점의 결과이며, 커뮤니티 선호가 달라지면 라우팅 동작도 바뀐다는 점을 OpenRouter도 주의사항으로 언급한다.

Auto Router 비용 폭주를 막는 5가지 설정

Auto Router를 쓸 때 가장 많이 나오는 걱정은 예상치 못한 청구다. 한 r/openrouter 사용자는 이렇게 표현했다.

"계속 Opus만 쓸 수도 있다." - u/xtekno-id, 엔지니어링 팀에서 고가 모델 선택을 제어하지 못하는 상황을 경고하며.

비용을 예측 가능한 범위에 두려면 다음 5가지를 적용하면 된다.

1. :free 접미사는 생각하는 방식으로 작동하지 않는다. openrouter/auto:free는 Auto Router를 무료 모델로 제한하지 않는다. 유료 모델로도 라우팅될 수 있다. 비용 없는 라우팅이 필요하다면 무료 티어 엔드포인트만 후보로 제한하는 openrouter/free를 사용해야 한다. 이는 OpenRouter 도움말 센터에서도 확인할 수 있다.

2. cost_tier와 allowed_models를 함께 설정한다. cost_tier=low만 지정해도 사용량 기준으로는 부담스러운 모델이 선택될 가능성까지 막아주지는 않는다. allowed_models로 특정 모델군을 추가 제한하자. 예를 들어 ["deepseek/*", "google/*"]를 지정하면 대부분의 작업 유형에서 예산형 구간에 머물 수 있다.

3. 확실한 상한은 provider.max_price로 건다. 이 파라미터는 가격을 기준으로 사용 가능한 엔드포인트를 필터링한다. 라우터의 티어 선택과 별개로 동작하는 토큰당 비용 상한을 설정할 수 있다.

4. 플랫폼 수수료 5.5%를 계산에 넣는다. OpenRouter는 토큰마다가 아니라 크레디트를 구매할 때 5.5%의 수수료를 부과한다. 최소 수수료는 $0.80이다. 크레디트 $20를 충전하면 $21.10가 든다. 이 수수료는 Auto Router 사용 여부와 무관하다. 라우팅 추가 요금이 아니라 플랫폼의 수익화 구조다.

5. 세션 고정성과 캐시 비용을 고려한다. 대화 도중 라우터가 모델을 바꾸면 입력 캐시를 다시 구축해야 하므로 토큰 비용이 추가된다. 이를 줄이기 위해 라우터는 세션 고정성을 사용한다. 명시적인 session_id 또는 메시지 지문으로 대화를 식별하고, 매 턴 후보를 다시 순위화하되 이전 모델이 상위 후보에 남아 있으면 그 모델을 우선한다. 작업 성격이 크게 달라지면 모델은 변경되며, 이때 캐시 재구축 비용이 발생한다.

Auto Router를 쓸 때와 모델을 고정할 때

Auto Router는 작업 유형이 수시로 바뀌는 가변적 워크로드에 잘 맞는다. 매번 수동으로 모델을 고르는 일이 병목이 될 때 특히 그렇다. 라우팅 매트릭스는 작업별로 커뮤니티가 어떤 모델을 신뢰하는지 파악하는 출발점이기도 하다.

엔지니어링 팀이라면 제한을 둔 자동 라우터 구성이 현실적인 중간 지점이다. cost_tier는 예산 구간으로 설정하고, allowed_models는 승인된 벤더로 제한하며, provider.max_price는 최종 비용 상한으로 둔다.

FAQ

OpenRouter Auto Router를 쓰면 추가 비용이 드나?

아니다. Auto Router 사용에 따른 할증은 없다. 라우터가 선택한 모델의 일반 요금만 지불하면 된다. OpenRouter의 수익은 크레디트 구매 시 부과되는 5.5% 수수료에서 나온다.

openrouter/auto:free는 정말 무료인가?

아니다. :free 접미사는 라우팅 대상을 무료 모델로 제한하지 않는다. 무료 전용 라우터인 openrouter/free를 사용해야 한다.

Auto Router를 특정 제공업체로 제한할 수 있나?

가능하다. auto-router 플러그인에서 ["anthropic/*", "openai/*"]처럼 와일드카드 패턴을 포함한 allowed_models 파라미터를 사용하면 된다.

선택된 실제 모델은 어떻게 확인하나?

API 응답의 model 필드를 확인하면 된다. 이 필드에는 openrouter/auto가 아니라 실제로 요청을 처리한 모델 식별자가 담긴다.

auto와 auto-beta의 차이는 무엇인가?

openrouter/auto는 안정 버전 라우터다. openrouter/auto-beta는 안정 버전에 반영되기 전의 라우팅 개선 사항을 먼저 받는다.

Auto Router는 스트리밍과 툴 호출을 지원하나?

지원한다. 선택된 모델이 제공하는 전체 기능, 즉 스트리밍, 툴 호출, 비전을 사용할 수 있다.