Janitor
Главная
Ctrl K
ВойтиРегистрация

О моих ботах и рекомендациях по API, а также рекомендациях по настройкам.

Переведено с английского·

About My Bots and API reccomendations, and setting reccomendations.

59

147

by:@YesiniaTheYokai

Всем привет!

Это не обычное обновление, и это будет последний пост, который я сделаю перед тем, как наконец загружу следующую партию ботов.

Пока я работал над Ян, я кое о чём подумал:

Некоторые люди могут не знать, какие API лучше использовать для моих ботов. Или какой способ использования API дешевле?

Сейчас я к этому перейду.

Прежде всего, я не делаю ботов для JLLM. JLLM для меня серьёзно устарел, и я всегда в итоге делаю ботов с большим количеством токенов, что серьёзно убивает контекстное окно JLLM.

Нет, на самом деле я использую смесь API.

-Deepseek сейчас самый популярный, но может быть дорогим в зависимости от размера персонажа и длинных ролевых игр. С учётом этого я бы серьёзно рекомендовал сохранять вашу память каждые 12–15 сообщений, чтобы освободить место. Deepseek также очень хорош в разговорных и обычных RP.

-Я также использую Grok, в основном, для NSFW ролевых игр. Я нахожу, что во время ERP он пишет значительно лучше, чем Deepseek, и менее повторяем. Тем не менее: он всё ещё дороже в использовании.

Но я нахожу, что смесь обоих работает хорошо. Я также заметил, что Grok склонен следовать сценариям и лорбукам в тысячу раз лучше. Deepseek — это тоже лотерея, и он стареет.

Другие API, которые я использовал и которые являются хорошими заменами:

Trinity — этот я только что протестировал на Монике, и я считаю, что он пишет очень хорошо. И он дешевле.

Qwen3 235B A22B Instruct 2507 — один из более дешёвых вариантов, но становится повторяющимся.

Step 3.5 Flash — была бесплатная версия этого на openrouter, но они обычно не допускают экстремальный NSFW. И они склонны к троттлингу в странные моменты.

Я не использую Chatgpt, я заметил, что он может быть хорош в письме, но для меня он слишком дорогой. То же самое с GLM 5 (хотя он один из лучших по цензуре). Плюс Chatgpt цензурирует практически всё.

Настройки:

Temp: Для deepseek: .30-.50 (хотя он может стать немного «слишком» креативным) Для остальных: 1.0-1.20

Max Tokens: У меня около тысячи, но это действительно зависит от вас. Скажу, что чем больше токенов он производит за сообщение, тем дороже.

Context size: У меня на максимуме, но опять же зависит от вас.

Расширенные настройки:

Top K: 80. Эта настройка уменьшает бессмысленные генерации.

Top P: .8-.85. Параметр ИИ, который контролирует креативность генерации текста, ограничивая выбор следующего слова наименьшим подмножеством слов с наивысшим рейтингом, чья совокупная вероятность превышает порог

Repetition Penalty: Около 1.0-1.20. Это штрафует ИИ за слишком частое повторение определённых слов.

Frequency Penalty: 0.4-0.6. уменьшает повторение токенов, применяя штраф пропорционально тому, как часто слово уже появлялось в тексте.

И да, я использую все эти настройки одинаково для всех LLM. Кроме настроек температуры.

Обычно я кладу 10$ на Openrouter раз в месяц, и при использовании этого метода этого обычно хватает на 4-6 недель.

Создано 25 апр.

Обновлено 25 апр.

Опубликован 25 апр.

  • Безлимитный
  • #settings
  • #bot
  • #llm
  • #grok
  • #deepseek
  • #chatgpt

Опубликованные чаты