Переведено с английского
Всем привет!
Это не обычное обновление, и это будет последний пост, который я сделаю перед тем, как наконец загружу следующую партию ботов.
Пока я работал над Ян, я кое о чём подумал:
Некоторые люди могут не знать, какие API лучше использовать для моих ботов. Или какой способ использования API дешевле?
Сейчас я к этому перейду.
Прежде всего, я не делаю ботов для JLLM. JLLM для меня серьёзно устарел, и я всегда в итоге делаю ботов с большим количеством токенов, что серьёзно убивает контекстное окно JLLM.
Нет, на самом деле я использую смесь API.
-Deepseek сейчас самый популярный, но может быть дорогим в зависимости от размера персонажа и длинных ролевых игр. С учётом этого я бы серьёзно рекомендовал сохранять вашу память каждые 12–15 сообщений, чтобы освободить место. Deepseek также очень хорош в разговорных и обычных RP.
-Я также использую Grok, в основном, для NSFW ролевых игр. Я нахожу, что во время ERP он пишет значительно лучше, чем Deepseek, и менее повторяем. Тем не менее: он всё ещё дороже в использовании.
Но я нахожу, что смесь обоих работает хорошо. Я также заметил, что Grok склонен следовать сценариям и лорбукам в тысячу раз лучше. Deepseek — это тоже лотерея, и он стареет.
Другие API, которые я использовал и которые являются хорошими заменами:
Trinity — этот я только что протестировал на Монике, и я считаю, что он пишет очень хорошо. И он дешевле.
Qwen3 235B A22B Instruct 2507 — один из более дешёвых вариантов, но становится повторяющимся.
Step 3.5 Flash — была бесплатная версия этого на openrouter, но они обычно не допускают экстремальный NSFW. И они склонны к троттлингу в странные моменты.
Я не использую Chatgpt, я заметил, что он может быть хорош в письме, но для меня он слишком дорогой. То же самое с GLM 5 (хотя он один из лучших по цензуре). Плюс Chatgpt цензурирует практически всё.
Настройки:
Temp: Для deepseek: .30-.50 (хотя он может стать немного «слишком» креативным) Для остальных: 1.0-1.20
Max Tokens: У меня около тысячи, но это действительно зависит от вас. Скажу, что чем больше токенов он производит за сообщение, тем дороже.
Context size: У меня на максимуме, но опять же зависит от вас.
Расширенные настройки:
Top K: 80. Эта настройка уменьшает бессмысленные генерации.
Top P: .8-.85. Параметр ИИ, который контролирует креативность генерации текста, ограничивая выбор следующего слова наименьшим подмножеством слов с наивысшим рейтингом, чья совокупная вероятность превышает порог
Repetition Penalty: Около 1.0-1.20. Это штрафует ИИ за слишком частое повторение определённых слов.
Frequency Penalty: 0.4-0.6. уменьшает повторение токенов, применяя штраф пропорционально тому, как часто слово уже появлялось в тексте.
И да, я использую все эти настройки одинаково для всех LLM. Кроме настроек температуры.
Обычно я кладу 10$ на Openrouter раз в месяц, и при использовании этого метода этого обычно хватает на 4-6 недель.
Создано 25 апр.
Обновлено 25 апр.
Опубликован 25 апр.