Janitor
Главная
Ctrl K
ВойтиРегистрация

Гид по прокси (бесплатный)

Переведено с английского·

Proxy Guide (Free)

6,2 тыс.

20 тыс.

by:@nalabyst

(Последнее обновление: 5 августа 2026 г.)

Используйте прокси. JLLM не так уж хорош и не справляется с большим количеством токенов. (Клянусь, это вызывает привыкание).

Я протестировал несколько прокси для своих ботов (все с бесплатными тарифами), и вот как можно использовать каждый из них:



То, как работает прокси, заставило меня полностью переделывать это руководство много раз, поэтому я решил немного изменить подход. Теперь это руководство будет разделено на несколько частей: «Общее руководство» вверху — для объяснения реализации прокси через любые роутеры — и конкретные руководства (например, «Руководство по Openrouter») ниже, с более сжатыми инструкциями о том, как настроить прокси с рекомендуемыми роутерами и рекомендуемыми моделями.

Из-за этого, поскольку информация теперь немного разбросана, я оставлю здесь, вверху, то, что считаю лучшим сервисом и лучшей моделью ИИ.

Лучшие (бесплатные) модели:

TokenReply: minimaxai/minimax-m3

Nvidia Nim: z-ai/glm-5.2

Gemini: gemini-3.5-flash-lite

Openrouter: google/gemma-4-31b-it:free


Я также видел, что у некоторых людей возникают трудности с настройкой по этому руководству. Поскольку в комментариях есть ограничение на количество символов, если вам нужна помощь, не стесняйтесь написать мне в личку в Discord: nalabyst



Общее руководство (Janitor)

Для любой конфигурации, которую вы хотите настроить, вам всегда нужно будет выполнить одни и те же шаги с небольшими отличиями. Находясь в Janitor:

• Начните чат с любым персонажем

• Нажмите на фиолетовую кнопку сверху с надписью «using janitor» или «using [something]», и откроется новая вкладка

• Выберите «Proxy»

• Прокрутите вниз до Proxy Configurations и нажмите на «+ New», после чего вас попросят указать несколько настроек:

° Name: здесь можно вписать что угодно

° Model: ID модели (например: «deepseek-free»)

° Proxy URL: эндпоинт для роутера, который вы используете (например: https://openrouter.ai/api/v1/chat/completions)

° API Key: API-ключ, который вы создадите в конкретном роутере

(для всего этого я представлю больше информации в конкретных руководствах ниже)

• Также есть два раздела для промптов, которые важны для того, чтобы направить LLM вести себя так, как вы хотите:

° Global Prompt: в основном я использую это для настройки промпта, и мне нравится промпт из этого руководства

° Custom Prompt (для каждой модели): я использую это только тогда, когда замечаю, что определённой модели нужна небольшая доработка инструкций, или для таких моделей, как Gemini, которые могут помечать джейлбрейки или NSFW-контент

• Наконец, нажмите на «Save», обновите страницу, и готово!

Настройки генерации:

Диапазон в скобках представляет собой обычный диапазон для этой настройки у большинства моделей.

• Temperature [0.6 - 1.2]: насколько «творческой» будет ваша модель — более высокие значения означают большую креативность. Если выкрутить это слишком высоко, ИИ начнёт говорить бессвязные вещи. Это сильно варьируется в зависимости от используемой модели.

• Max Tokens [0 - 2k]: сколько токенов ИИ может сгенерировать в качестве вывода (ответа). Вы можете установить 0, и это будет без ограничений, и это не так уж важно, я оставляю у себя 1.5k просто чтобы избежать некоторых глюков.
Примечание: Если вы используете «thinking» или «reasoning» модели, установите это значение в 0, иначе это ограничит количество токенов, которые модель может использовать для генерации своего мыслительного процесса.

• Context Size [32k / 64k / 128k]: сколько токенов ИИ может принимать в качестве ввода (контекста). Для этой настройки обычно нужно устанавливать максимум, который может принимать используемая вами модель. Большинство хороших моделей находятся в диапазоне контекста 32k или 64k, некоторые даже 128k и 256k. Всегда проверяйте лимит используемой модели и устанавливайте размер контекста в пределах этого лимита.

Дополнительно:

Если вы не хотите слишком сильно с этим возиться, можете просто установить всё в 0, и Janitor будет использовать значения модели по умолчанию. Но вот краткое описание того, для чего нужна каждая настройка:

• Top K [30 - 50]: количество слов, из которых ИИ может выбирать — чем выше, тем больше слов ему будет доступно для использования.

• Top P [0.9 - 0.99]: вероятность того, что ИИ выберет более уникальное слово, по сути, насколько сильно он может реально обращаться к словарному запасу из Top K.

• Repetition Penalty [0.8 - 1.3]: чем выше = тем меньше ИИ повторяет слова в сообщении.
Примечание: Если вы используете «thinking» или «reasoning» модели, установите это значение в 0, иначе это ограничит повторение слов в рассуждениях модели.

• Frequency Penalty [0.1 - 0.3]: чем выше = тем меньше ИИ повторяет слова во всём чате.
Примечание: Если вы используете «thinking» или «reasoning» модели, я также рекомендую установить это значение в 0. Это не так плохо, как две другие конфигурации с этим примечанием, но это всё равно влияет на рассуждения модели в длинных чатах.

Prefill:

Вы можете включить это, если получаете ошибки, но в противном случае оставьте это отключённым.



Руководство по TokenReply

TokenReply по-прежнему мой любимый провайдер моделей, с достойными моделями (включая безлимитные), а также с доступностью для каждой модели. Хотя некоторые бесплатные модели, похоже, становятся действительно нестабильными при высокой нагрузке.

У TokenReply общий лимит частоты составляет 40 запросов в день для ограниченных моделей и 3 запроса в минуту для безлимитных.

Настройка:

• Перейдите на tokenreply.com

• Создайте аккаунт и войдите

Proxy URL:

Вставьте его в поле «Proxy URL» в Janitor (упомянуто в Общем руководстве):

• По умолчанию: https://api.tokenreply.com/v1

• Изменённый (Sophia's Lorebay): (кастомный — больше информации в «Руководстве по Sophia's Lorebay» ниже)

API Key:

Вставьте его в поле «API Key» в Janitor (упомянуто в Общем руководстве):

• Перейдите в «Console» вверху

• Скопируйте свой API-ключ и вставьте его в Janitor

Примечание: После создания аккаунта вы можете использовать любую модель, помеченную как «Free» в списке моделей, без жёстких ограничений. Однако иногда есть бонус в $1, который можно получить, или вы можете использовать ежедневные чекины, чтобы добавить $0.01 в свой кошелёк — что позволяет вам использовать модели «Weekly Featured».

Модели:

Вы можете самостоятельно искать доступные модели и тестировать их, но вот мои рекомендации:

Бесплатные (полностью безлимитные):

• minimaxai/minimax-m3

• google/gemma-4-26b-a4b-it

• minimaxai/minimax-m2.7

• stepfun-ai/step-3.7-flash

• grok-4.3-high

Weekly Featured (ограниченные):

• gemini-2.5-flash

• deepseek-v4-pro

• deepseek-v4-flash-thinking

• kimi-k2.7

Вы можете просто вставить ID моделей в поле «Model» в Janitor (упомянуто в Общем руководстве).

Для каждой модели, которую вы настроите, будут свои лучшие настройки, которые кардинально меняют её производительность (особенно Temperature). Если хотите, можете поискать это, или, если вам лень, просто спросите у другого ИИ, например Gemini или ChatGPT, какие лучшие параметры для каждой из найденных вами моделей.

P.S.: Если вы получаете слишком много ошибок с моделью через этот роутер, проверьте доступность модели. Если она ниже 50%, вероятно, стоит переключиться на другую модель, пока она не вернётся на прежний уровень.



Руководство по Nvidia Nim

⚠️ Большинство моделей в Nvidia Nim, похоже, сейчас выдают ошибки ⚠️

Я говорил раньше, что буду держать в этом руководстве максимум 3 провайдера одновременно, но этот заслуживает своего места, и я не хочу убирать Openrouter.

Недавно я узнал о Nvidia Nim из чьего-то комментария к этому посту, и хотя у него доступно всего несколько моделей, это довольно хорошие модели, и единственное жёсткое ограничение — 40 RPM (запросов в минуту).

Настройка:

• Перейдите на https://developer.nvidia.com/nim

• Нажмите на «Try APIs»

• Нажмите на «Login» (даже если вы регистрируетесь) и введите свою электронную почту

Proxy URL:

По какой-то причине вы не можете использовать их Proxy URL напрямую в Janitor, иначе получите сетевую ошибку, поэтому для этого вам нужно настроить его через Sophia's Lorebay.

Для этого ознакомьтесь с разделом «Руководство по Sophia's Lorebay» внизу этого руководства и настройте его с этим URL: https://integrate.api.nvidia.com/v1/chat/completions

API Key:

Полагаю, вам нужно будет подтвердить свой номер телефона, чтобы получить доступ к своему API-ключу.

Вставьте его в поле «API Key» в Janitor (упомянуто в Общем руководстве):

• Нажмите на свой аватар (обычно в правом верхнем углу)

• Нажмите на «API Keys»

• Нажмите на «Generate API Key»

• Дайте ему имя на свой выбор и выберите «Never Expire» для срока действия

• Скопируйте ключ и вставьте его в Janitor

Модели:

Вы можете самостоятельно искать доступные модели и тестировать их, но вот мои рекомендации:

• z-ai/glm-5.2

• deepseek-ai/deepseek-v4-pro

• nvidia/nemotron-3-ultra-550b-a55b

• thinkingmachines/inkling



Руководство по Gemini (только SFW)

Мне всегда очень нравились модели Gemini, когда квоты были более щедрыми, но уже долгое время их почти невозможно использовать — жёсткие лимиты и куча ошибок.

Недавно я нашёл способ использовать Gemini с (практически) безлимитными ответами и практически без ошибок. Единственный недостаток, о котором вам нужно знать, — Gemini очень строго относится к NSFW-контенту, и даже если вам удастся его джейлбрейкнуть, вы можете в итоге получить бан.

Также личный совет: не создавайте несколько аккаунтов, чтобы обойти лимиты квоты. Помимо того, что это нарушает TOS Google, меня за это раньше банили, лол.

Настройка:

• Перейдите на aistudio.google.com

• Войдите, используя свой аккаунт Google

Proxy URL:

Вставьте его в поле «Proxy URL» в Janitor (упомянуто в Общем руководстве):

• Зайдите на GeminiForJanitor: gfjproxies.vu5eruz.workers.dev (это не Proxy URL, вам нужно его открыть)

• Скопируйте URL с наименьшей пропускной способностью (более высокая даст вам больше ошибок) и вставьте его в Janitor

Вы также можете настроить кастомный URL для Sophia's Lorebay, используя метод из «Руководства по Sophia's Lorebay» ниже

API Key:

Вставьте его в поле «API Key» в Janitor (упомянуто в Общем руководстве):

• Нажмите на символ ключа в левом нижнем углу («Get API key»)

• Нажмите на кнопку в правом верхнем углу с надписью «Create API Key»

• Нажмите на «Create key»

• Скопируйте свой API-ключ и вставьте его в Janitor

Модели:

Вы можете сами искать доступные модели здесь: ai.google.dev/gemini-api/docs/models и тестировать их самостоятельно. Однако, насколько я знаю, через этот URL вы не можете получить доступ к версиям старше Gemini 3.

У каждой модели есть лимит частоты, который вы можете проверить в «Rate Limit» в AI Studio. Обычно лимиты таковы:

• 5 запросов в день (RPD) для моделей Pro (например, gemini-3.1-pro)

• 20 запросов в день (RPD) для моделей Flash (например, gemini-3.6-flash)

• 500 запросов в день (RPD) для моделей Flash Lite (например, gemini-3.5-flash-lite)

Вот мои рекомендации:

• gemini-3.5-flash-lite

• gemini-3.1-flash-lite

• gemini-3.6-flash



Руководство по Openrouter

Openrouter, вероятно, самый известный из доступных роутеров моделей и самый стабильный. В последнее время у него «тёмные времена» — не так много хороших моделей.

У Openrouter общий лимит частоты около 50 запросов в день для бесплатного использования.

Настройка:

• Перейдите на openrouter.ai

• Создайте аккаунт и войдите

Proxy URL:

Вставьте его в поле «Proxy URL» в Janitor (упомянуто в Общем руководстве):

• По умолчанию: https://openrouter.ai/api/v1/chat/completions

• Изменённый (Sophia's Lorebay): https://api.lorebary.com/openrouter

API Key:

Вставьте его в поле «API Key» в Janitor (упомянуто в Общем руководстве):

• Перейдите в настройки своего аккаунта (обычно в выпадающем меню рядом с вашей иконкой)

• Перейдите в «API Keys»

• Нажмите на «Create»

• Вас попросят указать несколько настроек, но они не важны — просто задайте имя на свой выбор и нажмите «Create»

• Скопируйте свой ключ и вставьте его в Janitor

Модели:

Вы можете самостоятельно искать доступные модели и тестировать их, но вот мои рекомендации:

• google/gemma-4-31b-it:free

• nousresearch/hermes-3-llama-3.1-405b:free (я даже не смог протестировать эту из-за ошибок 429, но слышал, что она неплохая)

• nvidia/nemotron-3-ultra-550b-a55b:free

Вы можете просто вставить ID моделей в поле «Model» в Janitor (упомянуто в Общем руководстве).

Для каждой модели, которую вы настроите, будут свои лучшие настройки, которые кардинально меняют её производительность (особенно Temperature). Если хотите, можете поискать это, или, если вам лень, просто спросите у другого ИИ, например Gemini или ChatGPT, какие лучшие параметры для каждой из найденных вами моделей.



Другие роутеры

Есть ещё несколько вариантов роутеров, которые я протестировал и считаю достойными. Процесс тот же:

• Создайте аккаунт и войдите

• Создайте и скопируйте API-ключ, затем вставьте его в Janitor

• Найдите в документации Proxy URL (и если он не работает, попробуйте добавить «/v1» или «/v1/chat/completions» в конце) и вставьте его в Janitor

• Найдите модели и вставьте ID в Janitor


Другие варианты, которые я пробовал, если хотите проверить самостоятельно:

• Electron Hub (примеры моделей: Deepseek v4 Flash, Kimi K2.5 — на самом деле тоже очень хорош, но временно недоступен бесплатно)

• NavyAI (примеры моделей: Gemini v2.5 Pro — но с очень низким лимитом токенов в день)

• MeganovaAI (примеры моделей: Sapphira-L3.3-70B-0.1 — неплохо, но не так хорошо, как другие)



Руководство по Sophia's Lorebay

Любые роутеры можно настроить для работы с Sophia's Lorebay. Это сервис, созданный сообществом, который имеет множество функций для улучшения ваших чатов; единственный недостаток, о котором я слышал, — это некоторые дополнительные ограничения для экстремального NSFW-контента.

Настройка:

• Перейдите на lorebary.sophiamccarty.com

• Создайте аккаунт и войдите

• Наведите курсор на «Connection» и перейдите в «Connect Proxy»

• В разделе «Connect my current app» нажмите на «Show me the setup»

• Там есть URL по умолчанию для популярных роутеров (таких как Openrouter), из которых можно выбрать, но если вы не видите там используемый сервис, прокрутите в сторону и нажмите на «Other provider»

• Нажмите на «Add Proxy» и настройте его:

° Endpoint URL: вставьте Proxy URL по умолчанию для используемого вами роутера

° Nickname: дайте ему имя на свой выбор

• Нажмите на «Create & Test»

• Чаще всего будет выдаваться ошибка, но просто нажмите на «Continue anyway». Если ошибки нет, нажмите на «Nice, continue»

• Скопируйте URL и нажмите на «Got it»

• Вставьте его в поле «Proxy URL» в Janitor (упомянуто в Общем руководстве)

Серверные команды:

После настройки URL Sophia's вы можете использовать некоторые «команды» — это просто промпт-инъекции, которые дают ИИ инструкции для усиления определённого поведения. Вы можете просмотреть полный список команд, перейдя в «Proxy Portal», а затем в «Server Commands».

Вы можете вставлять команды в свой кастомный промпт, в память чата или в определение бота. Несколько примеров команд, которые я рекомендую:

<NOOMNISCIENCE>
Персонажи знают только то, чему были свидетелями, что им сказали или что они логически вывели. Не даёт NPC магическим образом знать секреты или реагировать на то, чего они не могли видеть.

<NOCLICHES>
Убивает кринж. Больше никаких «орбов» вместо глаз, «мурашек по спине» или драматичных монологов. Свежие выражения, простые жесты, сдержанные реакции.

<REALISTICDIALOGUE>
Непричёсанный человеческий разговор — перебивания, слова-заполнители, обрывающиеся фразы, неловкие паузы, переговоры друг друга, бормотание. Никаких идеальных речей.

Создано 22 авг. 2025 г.

Обновлено 5 авг.

Опубликован 22 авг. 2025 г.

  • 🧑‍🎨 OC
  • 💁 Ассистент
  • #proxies
  • #guide
прокси разрешены

Опубликованные чаты