영어에서 번역됨
OpenRouter로 프록시를 설정하는 짧은 튜토리얼입니다. 2025년 7월 18일 기준, 이곳은 꽤 괜찮은 모델들(예: DeepSeek)을 진정한 무료 등급으로 제공하는 제공자입니다. Gemini도 또 다른 무료 옵션이지만 설정이 훨씬 복잡합니다. 수요가 있다면 또 다른 튜토리얼을 만들 수 있습니다. :)
업데이트 (2025년 7월 27일): JanitorAI에 프록시 프로필이 추가되었습니다. 설정은 여전히 비슷합니다. 이제 사용하려는 각 모델마다 하나의 프록시 프로필을 만들 수 있습니다. 전환할 때는 반드시 페이지를 새로고침하세요. 그래도 연결되지 않으면 API 키를 살짝 앞뒤로 편집한 다음 저장하세요.
OpenRouter에서 계정을 만드세요. https://openrouter.ai
Profile을 클릭하세요 > Keys.
"Create API Key"를 클릭하세요.
새 키에 이름을 지정하세요, 예: Janitor. "Create"로 확인하세요.
키를 복사해서 컴퓨터 어딘가에 저장하세요. 클릭해서 벗어나면 사라집니다!
Janitor AI에서 채팅을 여세요. 그다음 API 설정을 여세요. (메뉴 > API 설정 OR janitor/proxy 사용 클릭). Proxy를 선택하세요.
다음을 설정하세요:
모델 이름 (Custom 선택): deepseek/deepseek-chat-v3-0324:free. 이것은 예시입니다. 더 이상 제공되지 않을 수 있습니다.
더 많은 제안은 아래를 참고하세요.
프록시 URL: https://openrouter.ai/api/v1/chat/completions
"Add/chat/completions to url"을 클릭하지 마세요. 이미 URL에 포함되어 있습니다.
API 키: OpenRouter에서 만든 API 키를 붙여넣으세요. 아마 "sk-..."로 시작하는 아주 긴 문자열입니다.
이것은 JLLM용 Advanced Prompt와 비슷하지만 탈옥(jailbreak)이 포함되어 있습니다.
"Save Settings"를 클릭하세요.
(권장) 기본 OpenAI 생성 설정을 수락한 다음 temperature를 0-0.1(네!)로 낮추고 max tokens를 0(무한)으로 설정하세요.
Janitor AI 채팅을 새로고침하세요. 중요합니다!
그렇지 않으면 채팅을 시도할 때 오류 메시지가 표시됩니다.
이제 준비 완료입니다!
2025년 7월 18일 기준, 요금은 미화 $10 일회 결제로, 무료 등급 사용자가 이용할 수 있는 동일한 무료 모델에 대해 하루 1000회 요청이라는 더 높은 속도 제한을 영구적으로 해제합니다. 유료 모델을 선택하면 제한이 없습니다. 다만 사용할 때마다 계정 잔액이 차감됩니다. 각 유료 모델은 자체 요금이 있으며 토큰 수를 기준으로 합니다.
여유가 된다면 미화 $10를 권합니다. 저는 진지하게 즐길 때 이전의 50회 제한을 쉽게 넘깁니다. 응답을 다시 굴리는 것도 별도의 요청으로 계산됩니다.
하루 50회 또는 1000회의 등급 제한에 도달하면, 채팅할 때마다 오류 메시지가 표시되기 시작합니다.
계정에 잔액을 충전하려면 Profile > Credits로 가세요. 결제는 신용카드나 암호화폐로 이루어집니다.
OpenRouter는 수시로 바뀌는 많은 무료 등급 모델을 제공합니다. 이를 보려면 "Models"를 클릭하고 프롬프트 요금을 0으로 변경하세요. 또는 이것을 클릭하세요: https://openrouter.ai/models?max_price=0
궁금한 분들을 위해 말하자면, 대부분의 모델은 실제로 OpenRouter가 호스팅하지 않습니다. 제공자(예: Chutes AI)가 호스팅하고 OpenRouter에 표시되는 것입니다. 소매점과 같습니다.
모든 모델은 긴 컨텍스트 길이에서 상당한 품질 문제를 겪습니다. 16-20k 토큰 이후에는 DeepSeek 모델이 JLLM과 비슷한 수준의 성능을 보인다고 느낍니다. 긴 컨텍스트 역할극에서 LLM을 테스트한 연구가 있습니다! https://fiction.live/stories/Fiction-liveBench-Feb-19-2025/oQdzQvKHw8JyXbN87
질문이 있으면 자유롭게 게시하세요. 누군가 도와줄지도 모릅니다!
생성됨 2025년 7월 18일
업데이트됨 2월 25일
게시됨 2025년 7월 18일