Janitor AI 프록시 설정 가이드: 직접 API와 리버스 프록시 비교

Janitor AI 프록시는 대개 VPN이나 IP를 숨기는 도구가 아니다. LLM API로 요청을 보내는 경로에 가깝다. 정상 작동하려면 엔드포인트, 정확한 모델 ID, API 키가 모두 같은 제공업체에 속해야 하며, 리버스 프록시를 거치면 중간 서버와 그 서버에 대한 신뢰 문제까지 추가된다.

Janitor AI를 열기 전, 연결 방식부터 고르기

일반적인 외부 API를 쓴다면 OpenAI 호환 직접 API 엔드포인트가 가장 간단한 Janitor AI 프록시 구성이다. 여러 모델을 하나의 계정으로 이용하고 싶다면 OpenRouter 같은 애그리게이터가 편리하다. 반대로 직접 운영하는 릴레이가 있거나 비공개·로컬 백엔드를 연결해야 한다면 리버스 프록시를 고려할 수 있다.

공유되는 ‘무료 프록시’와 직접 API 연결을 같은 것으로 보면 안 된다. 공유 릴레이 운영자는 통과하는 트래픽을 읽을 수 있고, 예고 없이 사라질 수 있으며, 절대 건네면 안 되는 자격 증명을 요구할 수도 있다. 반면 제공업체의 자체 엔드포인트에 그 제공업체의 키를 사용하는 것은 전혀 다른 구성이다.

Janitor AI 프록시 입력칸별 역할

Janitor AI의 Proxy 양식을 사용할 때는 경로에 종속된 세 가지 값을 확인해야 한다. 엔드포인트 URL, 정확한 모델 ID, API 키다. 세 값은 모두 동일한 제공업체 또는 릴레이에서 받아야 한다.

전체 요청 URL과 SDK의 베이스 URL은 항상 서로 바꿔 쓸 수 있는 값이 아니다. OpenAI 호환 SDK는 보통 https://example.com/api/v1 같은 베이스 주소를 사용하고, 자체적으로 /chat/completions를 덧붙인다. 하지만 Janitor AI의 프록시 입력칸은 https://example.com/api/v1/chat/completions처럼 완성된 URL을 요구할 수 있으므로, 해당 엔드포인트의 클라이언트별 안내를 따라야 한다.

Janitor AI에는 캐릭터 단위의 프록시 허용 권한도 있다. 공식 모더레이터 공지에서 Janitor AI는 Allow Proxy를 선택하면 프록시가 봇 정보를 수신하므로 프록시를 통해 봇을 사용할 수 있다고 설명했다. OpenAI와 JanitorAI 옵션으로 제한된 캐릭터는 외부 프록시로 사용할 수 없다. 이 권한은 API 키의 유효 여부와는 별개다.

5분 안에 끝내는 Janitor AI 설정

구성을 하나 만든 뒤 저장하고, 새로고침한 다음 짧은 프롬프트로 테스트해 보자. 엔드포인트, 모델 ID, API 키 중 어디에서 문제가 생겼는지 빠르게 가려낼 수 있다.

1. 제공업체 API 키 만들기

Janitor AI에 붙여 넣을 URL을 제공하는 업체나 게이트웨이에서 API 키를 생성한다. 서비스가 키를 보여 줄 때 복사해 비밀값으로 보관하고, 스크린샷·Discord 메시지·브라우저 확장 프로그램·공유 프록시 양식에 올리지 말아야 한다.

무료로 표시된 모델도 제공업체 키가 필요할 수 있다. ‘무료’는 보통 해당 제공업체에서의 현재 가격이나 할당량을 뜻할 뿐, Janitor AI가 인증 없이 그 모델을 호출할 수 있다는 뜻은 아니다.

2. Proxy 패널 열기

Janitor AI에서 캐릭터 채팅을 열고 API Settings를 찾는다. Proxy를 선택한 다음 Add Configuration 또는 이에 해당하는 버튼을 누른다. 메뉴 이름이나 위치는 바뀔 수 있으므로, 최신 안내는 Janitor AI의 공식 Help Center 계정 및 구성 카테고리에서 확인하는 것이 좋다.

Janitor AI 프록시 UI의 입력 항목이 변경됐거나 모델 입력이 필수가 됐다는 사용자 보고도 있다. (사용자 보고 예시)

3. 입력하고 저장한 뒤 새로고침·테스트하기

한 연결 경로에서 제공한 값만 입력해야 한다. 한 서비스의 엔드포인트, 다른 서비스에서 복사한 모델 ID, 세 번째 계정의 키를 섞어 쓰면 안 된다.

1. 구분하기 쉬운 구성 이름을 지정한다.
2. 제공업체의 실시간 모델 페이지 또는 모델 목록에서 정확한 모델 ID를 복사한다.
3. Janitor AI 프록시 입력칸이 요구하는 완전한 엔드포인트를 붙여 넣는다.
4. 일치하는 API 키를 붙여 넣는다.
5. 구성을 저장한다.
6. Janitor AI 탭을 새로고침하거나 다시 열고, 짧은 테스트 메시지를 보낸다.

캐릭터가 프록시 사용을 허용하지 않는다면, 엔드포인트를 진단하기 전에 프록시를 허용하는 캐릭터로 바꿔야 한다. 유효한 제공업체 구성이라도 제작자의 프록시 제한을 우회할 수는 없다.

AIReiter 설정: 검증된 OpenAI 호환 연결 경로

AIReiter를 연결할 때는 짧은 SDK 베이스 URL이 아니라 최종 Chat Completions URL을 Janitor AI의 Proxy URL 입력칸에 넣어야 한다. AIReiter의 GPT-5.6 연동 가이드는 Chat Completions 경로를 /api/v1/chat/completions로 안내하며, 예시 모델로 gpt-5.6-luna를 제시한다. 또한 클라이언트 베이스 URL과 클라이언트가 추가하는 경로를 구분한다.

다음 구성을 출발점으로 사용하면 된다.

엔드포인트의 차이는 다음과 같다.

• Janitor AI Proxy URL: https://aireiter.com/api/v1/chat/completions
• OpenAI 호환 SDK 베이스 URL: https://aireiter.com/api/v1
• 모델 목록 확인 경로: https://aireiter.com/api/v1/models

/api/v1/models를 Janitor AI에 넣으면 안 된다. 이 주소는 해당 모델 ID를 사용할 수 있는지 확인하는 진단용 경로다. AIReiter 가이드에는 다음과 같은 자체 확인 방식이 나와 있다.

curl -sS "https://aireiter.com/api/v1/models" \
  -H "Authorization: Bearer $AIREITER_API_KEY"

응답에 gpt-5.6-luna가 없다면 목록에서 반환된 정확한 모델 ID를 사용하고 Janitor AI 구성을 수정한다. 모델 ID 문제를 테스트할 때는 엔드포인트와 키를 그대로 유지해야 한다.

AIReiter는 요금제 등급이 아니라 사용량 기반 과금 방식을 사용하므로, API 키가 연결된 계정에도 사용 가능한 잔액이 있어야 한다. 표시된 요금을 기준으로 삼기 전에는 현재 AIReiter 요금 페이지를 확인해야 한다. 채팅 비용은 메시지 수만이 아니라 입력·출력 토큰 수에 따라 달라진다.

OpenRouter 등 다른 제공업체에 적용하는 법

제공업체를 바꿔도 Janitor AI 양식 자체는 동일하다. 다만 엔드포인트, 키, 모델 ID는 반드시 한 세트로 함께 바꿔야 한다. OpenRouter의 공식 빠른 시작 가이드는 OpenAI 호환 API를 문서화하고 있으며, 실제로 사용할 모델 ID는 현재 모델 카탈로그에서 복사하는 것이 맞다.

:free 같은 모델 접미사는 영구적인 구성 정보가 아니라 실시간 제공 상태를 나타내는 라벨로 봐야 한다. 무료 모델은 제거되거나, 속도 제한을 받거나, 이름이 바뀔 수 있다. Janitor AI 구성을 저장하기 직전에 현재 ID를 다시 복사하는 편이 안전하다.

Janitor AI 공식 모더레이터 스레드는 Janitor의 프록시/OpenRouter 빠른 시작 및 문제 해결 자료를 연결하면서, Janitor 연동 문제와 제공업체의 과금·계정 지원 문제를 구분한다. 직접 제공업체에 연결할 경우에는 경로별 세 값, 즉 엔드포인트·키·모델 ID를 모두 해당 제공업체의 값으로 교체하면 된다.

리버스 프록시와 직접 API, 보안 기준으로 고르기

직접 연결은 구성 요소가 가장 적다. 제공업체 또는 게이트웨이가 인증, 제한, 과금, 로그, 개인정보 처리방침을 담당한다. 리버스 프록시는 중간 릴레이를 추가하므로, 요청이 상위 모델에 도달하기 전 트래픽을 검사·변환·기록·차단할 수 있다.

인증된 HTTPS 릴레이를 통해 비공개 백엔드를 연결하거나 제공업체 프로토콜을 통일하는 것처럼, 직접 운영할 이유가 있을 때만 리버스 프록시를 사용하자. 비공개 localhost URL은 요청을 보내는 구성 요소가 로컬 서버와 같은 컴퓨터에서 실행될 때만 작동한다. Janitor AI 서버가 요청을 보내는 구조라면 그 서버는 내 컴퓨터의 localhost에 접근할 수 없다. 이런 아키텍처가 필요하다면 인증을 제대로 적용한 공개 HTTPS 릴레이를 사용해야 한다.

릴레이를 직접 운영한다면 다음 항목을 점검하자.

• HTTPS와 릴레이 전용 별도 인증 토큰을 요구한다.
• 알 수 없는 공유 서비스에 상위 제공업체 키를 넣지 말고, 릴레이에 저장한다.
• 상세 요청 본문 로깅을 비활성화하거나, 짧고 문서화된 보존 기간을 설정한다.
• 허용할 상위 호스트와 요청 메서드를 제한한다.
• 릴레이가 헤더, 대화 기록, 캐릭터 데이터를 전달하는지 확인한다.
• 노출이 의심되면 자격 증명을 폐기하고 교체한다.

익명 릴레이를 신중히 봐야 하는 이유를 보여 주는 실제 사용자 경고가 있다.

“if u use the moxxie proxy on janitor ai please stop using it !! whoever used that proxy your chats have gotten leaked and so has your ip address...” — @Ash3rz_c0m, 2023년 6월 X 사용자 경고 (출처)

이는 사용자 제보 사례이며, 모든 리버스 프록시가 악성이라는 증거는 아니다. 운영 주체, 데이터 보존 방식, 사고 이력을 검증할 수 없는 릴레이에는 실제 제공업체 키나 민감한 대화를 넣지 말아야 한다.

오류는 실패한 구간별로 진단하기

대부분의 Janitor AI 프록시 오류는 연결 경로를 단계별로 나누어 테스트하면 훨씬 쉽게 좁힐 수 있다. 먼저 Janitor AI 내장 모델이 응답하는지 확인하고, 할당량이나 제공업체 장애를 조사하기 전에 구성 값을 하나씩 검증하자.

상태 코드의 의미는 제공업체마다 다를 수 있으므로, 응답 본문을 더 우선적인 단서로 봐야 한다. 모델 이름 오류는 키를 새로 발급한다고 해결되지 않으며, 폐기된 키는 temperature를 바꾼다고 복구되지 않는다.

커뮤니티 사례는 모델 ID를 최신 상태로 확인해야 하는 이유를 보여 준다. Janitor AI 초보자 스레드에서 u/Puzzleheaded-Town350은 다음과 같이 올렸다.

“I get this message ‘proxy error 400 open-mistral-nemo-2407 is not a valid model’” — r/JanitorAI_Official의 u/Puzzleheaded-Town350

새 구성이 실패할 때는 다음 순서로 확인하면 된다.

1. Janitor AI 내장 모델을 테스트해 플랫폼 문제와 프록시 문제를 구분한다.
2. 캐릭터가 프록시를 허용하는지 확인한다.
3. 필요한 경로라면 /chat/completions를 포함한 최종 엔드포인트 URL을 확인한다.
4. 제공업체의 실시간 목록에서 정확한 모델 ID를 확인한다.
5. 키가 엔드포인트와 일치하고 권한 또는 잔액이 남아 있는지 확인한다.
6. temperature나 토큰 제한을 조정하기 전에 기본 생성 설정으로 다시 시도한다.

개인정보와 계정 관리

엔드포인트는 프롬프트, 대화 기록, 모델 선택 정보, 경우에 따라 캐릭터 정보까지 받을 수 있다. 선택한 직접 제공업체, 애그리게이터 또는 릴레이의 개인정보 처리 약관과 데이터 보존 설정을 검토해야 한다.

키가 노출됐을 가능성이 있다면 즉시 폐기하고 새 키를 만들며, Janitor AI 구성에서 이전 값을 제거하고 사용 기록을 확인한다. 유출된 키를 계속 사용하면서 테스트해서는 안 된다.

Janitor AI 프록시 FAQ

Janitor AI 프록시는 VPN인가요?

아니다. 외부 LLM으로 채팅 요청을 전달하는 기능이다. VPN은 네트워크 경로를 바꾸는 도구이며 언어 모델을 제공하지 않는다.

무료 모델에도 API 키가 필요한가요?

대개 필요하다. 제공업체가 모델 또는 할당량에 비용을 청구하지 않더라도 계정별 키를 요구할 수 있다.

전체 URL을 넣어야 하나요, 아니면 /api/v1만 넣어야 하나요?

Janitor AI의 Proxy 입력칸이 요구하는 최종 URL을 사용해야 한다. AIReiter 예시에서는 https://aireiter.com/api/v1/chat/completions가 해당하며, /api/v1는 SDK 베이스 URL이다.

특정 캐릭터만 프록시로 작동하지 않는 이유는 무엇인가요?

캐릭터 제작자가 프록시 사용을 비활성화했을 수 있다. 유효한 외부 키로도 이 설정을 우회할 수는 없다.

Janitor AI가 localhost를 직접 호출할 수 있나요?

요청을 보내는 구성 요소가 로컬 서버와 같은 컴퓨터에서 실행되는 경우에만 가능하다. 그렇지 않다면 인증 없는 로컬 서비스를 노출하지 말고, 적절히 보호된 공개 HTTPS 릴레이를 사용해야 한다.

기존에 작동하던 모델 ID가 왜 갑자기 안 되나요?

제공업체는 모델 제공 여부, 별칭, 할당량, 무료 티어 라벨을 변경할 수 있다. 먼저 실시간 모델 목록을 다시 확인하고 모델 항목을 업데이트하자.

공유 무료 프록시는 안전한가요?

안전하다고 가정하면 안 된다. 운영자가 요청을 읽거나 자격 증명을 수집할 가능성이 있다. 직접 제공업체 연결을 우선하고, 리버스 프록시가 필요하다면 직접 운영하고 감사할 수 있는 것을 사용하자.

비공개 API 키 하나, 정확한 모델 ID 하나, 완전한 엔드포인트 하나로 시작하면 된다. 단순함만 놓고 보면 직접 API 설정이 낫고, 리버스 프록시는 릴레이나 상위 연결을 직접 제어해야 할 때에만 관리 부담을 감수할 가치가 있다.