Janitor
Strona główna
Ctrl K
Zaloguj sięZarejestruj się

O moich botach i zaleceniach dotyczących API oraz ustawień.

Przetłumaczono z angielskiego·

About My Bots and API reccomendations, and setting reccomendations.

59

147

by:@YesiniaTheYokai

Witajcie wszyscy!

To nie jest zwykła aktualizacja i będzie to ostatni post, który publikuję, zanim w końcu wgram następną partię botów.

Pracując nad Yang, pomyślałem o czymś:

Niektórzy mogą nie wiedzieć, jakie API najlepiej używać do moich botów. Albo jaki jest tańszy sposób korzystania z API?

Przechodzę do rzeczy.

Po pierwsze, nie tworzę botów pod JLLM. JLLM jest dla mnie poważnie przestarzały, a ja zawsze kończę na tworzeniu botów z dużą liczbą tokenów, co poważnie zabija okno kontekstowe JLLM.

Nie, to, czego faktycznie używam, to mieszanka API.

-Deepseek jest teraz najpopularniejszy, ale może być drogi w zależności od rozmiaru postaci i długich roleplayów. Przy tym szczerze polecam zapisywać pamięć co 12–15 wiadomości, żeby zwolnić miejsce. Deepseek jest też bardzo dobry w konwersacyjnych i zwykłych RP.

-Używam także Groka, głównie do NSFW roleplay. Uważam, że pisze znacznie lepiej niż Deepseek podczas ERP i jest mniej powtarzalny. To powiedziawszy: nadal jest droższy w użyciu.

Ale uważam, że mieszanka obu działa dobrze. Odkryłem też, że Grok ma tendencję do tysiąc razy lepszego trzymania się skryptów i lorebooków. Deepseek to też worek niespodzianek i robi się coraz starszy.

Inne API, których używałem i które są dobrymi zamiennikami:

Trinity- Ten właśnie testowałem na Monice i uznałem, że pisze bardzo dobrze. I jest tańszy.

Qwen3 235B A22B Instruct 2507- Jedna z tańszych opcji, ale robi się powtarzalny.

Step 3.5 Flash- Była darmowa wersja tego na openrouter, ale zwykle nie pozwalają na ekstremalne NSFW. I mają tendencję do throttlowania w dziwnych momentach.

Nie używam Chatgpt, zauważyłem, że potrafi być dobry w pisaniu, ale jest dla mnie o wiele za drogi. To samo z GLM 5 (choć jest wśród najlepszych pod względem cenzury). Do tego Chatgpt cenzuruje praktycznie wszystko.

Ustawienia:

Temp: Dla deepseek: .30-.50 (choć może stać się odrobinę "zbyt" kreatywny) Dla reszty: 1.0-1.20

Max Tokens: Ja mam ustawione na około tysiąc, ale to naprawdę zależy od ciebie. Powiem tylko, że im więcej tokenów generuje na wiadomość, tym jest drożej.

Context size: U mnie maksymalny, ale znowu zależy od ciebie.

Ustawienia zaawansowane:

Top K: 80. To ustawienie redukuje bezsensowne generacje.

Top P: .8-.85. parametr AI, który kontroluje kreatywność generowania tekstu, ograniczając wybór następnego słowa do najmniejszego podzbioru najwyżej ocenianych słów, którego skumulowane prawdopodobieństwo przekracza próg

Repetition Penalty: Około 1.0-1.20. Karze to AI za zbyt częste powtarzanie某些 słów.

Frequency Penalty: 0.4-0.6. redukuje powtarzanie tokenów, stosując karę proporcjonalną do tego, jak często dane słowo już pojawiło się w tekście.

I tak, używam tych wszystkich ustawień tak samo we wszystkich LLM. Z wyjątkiem ustawień temperatury.

Zwykle wkładam 10$ na Openrouter raz w miesiącu i przy tej metodzie zwykle wystarcza to na 4-6 tygodni.

Utworzono 25 kwi

Zaktualizowano 25 kwi

Opublikowano 25 kwi

  • Bez ograniczeń
  • #settings
  • #bot
  • #llm
  • #grok
  • #deepseek
  • #chatgpt

Opublikowane czaty