译自英语
(最后更新:2026年8月5日)
用代理。JLLM没那么好,而且处理不了很多token。(我发誓,这玩意儿会让人上瘾。)
我为自己的机器人测试了几个代理(都是免费套餐),以下是每一个的使用方法:
代理的工作方式让我至今已经多次彻底重写这份指南,所以我决定稍微改变一下思路。这份指南现在将分为几个部分,顶部是“通用指南”——用于解释如何通过任意路由器实现代理——下面是具体指南(例如“Openrouter指南”),配有更精简的说明,教你如何用推荐的路由器和推荐的模型设置你的代理。
正因如此,既然信息现在有点分散,我会把我认为最好的服务和AI模型放在这里的最上方。
最佳(免费)模型:
TokenReply: minimaxai/minimax-m3
Nvidia Nim: z-ai/glm-5.2
Gemini: gemini-3.5-flash-lite
Openrouter: google/gemma-4-31b-it:free
我也看到有些人照着这份指南设置时遇到了麻烦。由于评论有字符限制,如果你需要任何帮助,欢迎在Discord上私信我:nalabyst
通用指南(Janitor)
对于任何你想设置的配置,你总是需要遵循相同的步骤,只有细微差别。在Janitor中时:
• 与任意角色开始聊天
• 点击上方写着“using janitor”或“using [something]”的紫色按钮,会弹出一个新标签页
• 选择“Proxy”
• 向下滚动到Proxy Configurations,点击“+ New”,它会要求你填写几项设置:
° Name:这里你想填什么都可以
° Model:模型ID(例如:“deepseek-free”)
° Proxy URL:你所用路由器的端点(例如:https://openrouter.ai/api/v1/chat/completions)
° API Key:你将在特定路由器中创建的API Key
(关于所有这些,我会在下面的具体指南中提供更多信息)
• 还有两个提示词部分,它们对于引导LLM按你的意愿行事很重要:
° Global Prompt:我主要用它来设置提示词,我喜欢这份指南
中的提示词° Custom Prompt(针对每个模型):
我只在注意到某个模型需要在指令上做些微调时使用它,或者用于像Gemini这样可以标记越狱或NSFW内容的模型• 最后,点击“Save”,刷新页面
,就完成了!
生成设置:
括号中的范围表示该设置在大多数模型中的常见范围。• Temperature [0.6 - 1.2]:
你的模型有多“有创意”——数值越高意味着越有创意。把它调得太高会让AI说出不连贯的内容。这会因你使用的模型而有很大差异。• Max Tokens [0 - 2k]:
AI可以生成多少token作为输出(回复)。你可以把它设为0,这样就没有限制,这一项不那么重要,我把我的设为1.5k只是为了避免一些故障。注意:如果你使用的是“thinking”或“reasoning”模型,请把它设为0
,否则它会限制模型生成思考过程所能使用的token数量。• Context Size [32k / 64k / 128k]:
AI可以接受多少token作为输入(上下文)。对于这一项,你通常想把它设为你所用模型能接受的最大值。大多数好模型都在32k或64k上下文的范围内,有些甚至达到128k和256k。始终检查你所用模型的限制,并把上下文大小设在那个限制之内。
高级:
如果你不想在这上面折腾太多,可以全部设为0,Janitor会使用模型的默认值。但以下是每项设置用途的总结:• Top K [30 - 50]:
AI可供挑选的单词数量——越高,它能访问使用的单词就越多。• Top P [0.9 - 0.99]:
AI挑选更独特单词的概率,基本上就是它真正能访问Top K中多少词汇。• Repetition Penalty [0.8 - 1.3]:
越高 = 让AI在一条消息中重复的单词越少。注意:如果你使用的是“thinking”或“reasoning”模型,请把它设为0
,否则它会限制模型推理中单词的重复。• Frequency Penalty [0.1 - 0.3]:
越高 = 让AI在整个聊天中重复的单词越少。注意:如果你使用的是“thinking”或“reasoning”模型,我也建议把它设为0。
这一项不像其他两个带此说明的配置那么糟糕,但它仍然会影响模型在长聊天中的推理。
Prefill:
如果你遇到错误,可以启用它,否则请保持禁用。
TokenReply指南
TokenReply仍然是我最喜欢的模型提供商,模型不错(包括无限量的),而且每个模型都有可用性。不过,有些免费模型在高使用率下似乎会变得很不稳定。
TokenReply对有限模型的一般速率限制是每天40次请求,对无限量模型是每分钟3次请求。
设置:• 进入
tokenreply.com
• 创建账户并登录
Proxy URL:
把它粘贴到Janitor上的“Proxy URL”字段(在通用指南中提及):• https://api.tokenreply.com/v1
默认:• 修改版(Sophia's Lorebay):
(自定义——更多信息见下方“Sophia's Lorebay指南”)
API Key:
把它粘贴到Janitor上的“API Key”字段(在通用指南中提及):• 前往顶部的“Console
”
• 复制你的API Key并粘贴到Janitor上注意:
在你创建账户后,你可以使用模型列表中任何标为“Free”的模型,没有任何硬性限制。不过,有时会有$1的领取额度,或者你可以通过每日签到往钱包里加$0.01——这让你可以使用“Weekly Featured”模型。
模型:
你可以自己搜索可用模型并测试它们,但以下是我的推荐:
免费(完全无限量):•
minimaxai/minimax-m3•
google/gemma-4-26b-a4b-it•
minimaxai/minimax-m2.7•
stepfun-ai/step-3.7-flash•
grok-4.3-high
每周精选(有限量):•
gemini-2.5-flash•
deepseek-v4-pro•
deepseek-v4-flash-thinking•
kimi-k2.7
你可以直接把模型ID粘贴到Janitor上的“Model”字段(在通用指南中提及)。
你设置的每一个模型都有更合适的设置,会大幅改变它们的表现(尤其是Temperature)。如果你愿意,可以自己去搜,或者如果你太懒,就问问其他AI,比如Gemini或ChatGPT,你找到的每个模型的最佳参数是什么。
附注:如果你用这个路由器时某个模型报太多错误,检查一下该模型的可用性。如果低于50%,你大概应该换一个模型,直到它回升。
Nvidia Nim指南⚠️ 目前Nvidia Nim中的大多数模型似乎都在报错
⚠️
我之前说过,这份指南最多只会同时保留3个提供商,但这一个值得占一席之地,而且我不想移除Openrouter。
我最近通过某人在本帖下的评论发现了Nvidia Nim,虽然它只有几个可用模型,但它们相当不错,唯一的硬性限制是40 RPM(每分钟请求数)。
设置:https://developer.nvidia.com/nim
• 进入• 点击“Try APIs
”
• 点击“Login”(即使你是在注册)并输入你的邮箱
Proxy URL:
不知为何,你不能直接在Janitor中使用他们的Proxy URL,否则会得到一个网络错误,所以对此你需要用Sophia's Lorebay来设置。https://integrate.api.nvidia.com/v1/chat/completions
为此,请查看本指南底部的“Sophia's Lorebay指南”部分,并用这个URL来设置:
API Key:
我认为你需要验证手机号才能获取你的API Key。
把它粘贴到Janitor上的“API Key”字段(在通用指南中提及):
• 点击你的头像(通常在右上角)• 点击“API Keys
”• 点击“Generate API Key
”
• 给它起一个你选择的名字,并把Expiration选为“Never Expire”
• 复制该密钥并粘贴到Janitor上
模型:
你可以自己搜索可用模型并测试它们,但以下是我的推荐:•
z-ai/glm-5.2•
deepseek-ai/deepseek-v4-pro•
nvidia/nemotron-3-ultra-550b-a55b•
thinkingmachines/inkling
Gemini指南(仅限SFW)
在配额更慷慨的时候,我一直很喜欢Gemini模型,但有好一段时间它几乎无法使用,有硬性限制和大量错误。
最近,我找到了一种使用Gemini的方法,回复(几乎)无限量,而且基本上没有错误。你需要知道的唯一缺点是,Gemini对NSFW内容非常严格,即使你越狱了,也可能最终被封禁。
另外,一个个人建议:不要创建多个账户来绕过配额限制。除了违反Google的TOS之外,我以前还因此被封过,哈哈。
设置:• 进入
aistudio.google.com
• 使用你的Google账户登录
Proxy URL:
把它粘贴到Janitor上的“Proxy URL”字段(在通用指南中提及):• 进入GeminiForJanitor:gfjproxies.vu5eruz.workers.dev
(这不是Proxy URL,你需要打开它)• 复制带宽最低
的URL(越高会给你带来更多错误)并粘贴到Janitor上
你也可以用下方“Sophia's Lorebay指南”中的方法为Sophia's Lorebay设置自定义URL
API Key:
把它粘贴到Janitor上的“API Key”字段(在通用指南中提及):
• 点击左下角的钥匙图标(“Get API key”)• 点击右上角写着“Create API Key
”的按钮• 点击“Create key
”
• 复制你的API Key并粘贴到Janitor上
模型:你可以在这里自己搜索可用模型:ai.google.dev/gemini-api/docs/models
并自行测试。不过,据我所知,你无法通过那个URL访问比Gemini 3更旧的版本。每个模型都有速率限制,你可以在AI Studio的“Rate Limit
”中查看。一般来说,限制是:
• Pro模型(例如gemini-3.1-pro)每天5次请求(RPD)
• Flash模型(例如gemini-3.6-flash)每天20次请求(RPD)
• Flash Lite模型(例如gemini-3.5-flash-lite)每天500次请求(RPD)
以下是我的推荐:•
gemini-3.5-flash-lite•
gemini-3.1-flash-lite•
gemini-3.6-flash
Openrouter指南
Openrouter可能是最知名的可用模型路由器,也是最稳定的一个。最近,它一直处于它的“黑暗时代”,好模型不多。
Openrouter对免费用户的一般速率限制大约是每天50次请求。
设置:• 进入
openrouter.ai
• 创建账户并登录
Proxy URL:
把它粘贴到Janitor上的“Proxy URL”字段(在通用指南中提及):• https://openrouter.ai/api/v1/chat/completions
默认:• https://api.lorebary.com/openrouter
修改版(Sophia's Lorebay):
API Key:
把它粘贴到Janitor上的“API Key”字段(在通用指南中提及):
• 前往你的账户设置(通常在你图标旁的下拉菜单中)• 前往“API Keys
”• 点击“Create
”• 它会要求你填写几项设置,但它们不重要——你只需起一个你选择的名字,然后点击“Create
”
• 复制你的密钥并粘贴到Janitor上
模型:
你可以自己搜索可用模型并测试它们,但以下是我的推荐:•
google/gemma-4-31b-it:free• nousresearch/hermes-3-llama-3.1-405b:free
(由于429错误,我甚至没法测试这个,但我听说它还不错) •
nvidia/nemotron-3-ultra-550b-a55b:free
你可以直接把模型ID粘贴到Janitor上的“Model”字段(在通用指南中提及)。
你设置的每一个模型都有更合适的设置,会大幅改变它们的表现(尤其是Temperature)。如果你愿意,可以自己去搜,或者如果你太懒,就问问其他AI,比如Gemini或ChatGPT,你找到的每个模型的最佳参数是什么。
其他路由器
还有几个其他路由器选项,我测试过,觉得还不错。过程是一样的:
• 创建账户并登录
• 创建并复制一个API Key,然后粘贴到Janitor上
• 在文档中搜索Proxy URL(如果不行,试着在末尾加上“/v1”或“/v1/chat/completions”)并粘贴到Janitor上
• 搜索模型并把ID粘贴到Janitor上
我尝试过的其他选项,如果你想自己看看,有:• Electron Hub(模型示例:Deepseek v4 Flash、Kimi K2.5——它其实也非常好,但它暂时免费不可用
)• NavyAI
(模型示例:Gemini v2.5 Pro——但每天token限制非常低)• MeganovaAI
(模型示例:Sapphira-L3.3-70B-0.1——还不错,但不如其他几个)
Sophia's Lorebay指南
对于任何路由器,你都可以设置它们与Sophia's Lorebay配合使用。这是一个由社区制作的服务,有许多功能可以改善你的聊天,我听说唯一的缺点是它对极端NSFW内容有一些额外的限制。
设置:• 前往
lorebary.sophiamccarty.com
• 创建账户并登录• 将鼠标悬停在“Connection”上,然后前往“Connect Proxy
”• 在“Connect my current app”部分下,点击“Show me the setup
”• 有流行路由器(如Openrouter)的默认URL供你选择,但如果你在那里看不到你正在使用的服务,请滚到侧面并点击“Other provider
”• 点击“Add Proxy
”并设置它:° Endpoint URL:
粘贴你所用路由器的默认Proxy URL° Nickname:
给它起一个你选择的名字• 点击“&Create Test
”• 大多数时候它会给出一个错误,但只需点击“Continue anyway”。如果你没有收到错误,请点击“Nice, continue
”• 复制该URL并点击“Got it
”
• 把它粘贴到Janitor上的“Proxy URL”字段(在通用指南中提及)
服务器命令:设置好Sophia的URL后,你可以使用一些“命令”,它们只是提示词注入,会给AI下达指令以增强特定行为。你可以前往“Proxy Portal”然后“Server Commands
”查看完整命令列表。
<你可以把命令插入到你的自定义提示词、你的聊天记忆或机器人的定义中。以下是我推荐的几个命令示例:>
NOOMNISCIENCE
<角色只知道他们亲眼所见、被告知或逻辑推断出的东西。阻止NPC神奇地知道秘密,或对它们不可能看到的事情做出反应。>
NOCLICHES
<杀死尴尬感。不再有像“球体”一样的眼睛、“脊背发凉”或戏剧性独白。新鲜的表达、简单的手势、含蓄的反应。>
REALISTICDIALOGUE
已创建 2025年8月22日
已更新 8月5日
已发布 2025年8月22日