Przetłumaczono z angielskiego
Witajcie wszyscy!
To nie jest zwykła aktualizacja i będzie to ostatni post, który publikuję, zanim w końcu wgram następną partię botów.
Pracując nad Yang, pomyślałem o czymś:
Niektórzy mogą nie wiedzieć, jakie API najlepiej używać do moich botów. Albo jaki jest tańszy sposób korzystania z API?
Przechodzę do rzeczy.
Po pierwsze, nie tworzę botów pod JLLM. JLLM jest dla mnie poważnie przestarzały, a ja zawsze kończę na tworzeniu botów z dużą liczbą tokenów, co poważnie zabija okno kontekstowe JLLM.
Nie, to, czego faktycznie używam, to mieszanka API.
-Deepseek jest teraz najpopularniejszy, ale może być drogi w zależności od rozmiaru postaci i długich roleplayów. Przy tym szczerze polecam zapisywać pamięć co 12–15 wiadomości, żeby zwolnić miejsce. Deepseek jest też bardzo dobry w konwersacyjnych i zwykłych RP.
-Używam także Groka, głównie do NSFW roleplay. Uważam, że pisze znacznie lepiej niż Deepseek podczas ERP i jest mniej powtarzalny. To powiedziawszy: nadal jest droższy w użyciu.
Ale uważam, że mieszanka obu działa dobrze. Odkryłem też, że Grok ma tendencję do tysiąc razy lepszego trzymania się skryptów i lorebooków. Deepseek to też worek niespodzianek i robi się coraz starszy.
Inne API, których używałem i które są dobrymi zamiennikami:
Trinity- Ten właśnie testowałem na Monice i uznałem, że pisze bardzo dobrze. I jest tańszy.
Qwen3 235B A22B Instruct 2507- Jedna z tańszych opcji, ale robi się powtarzalny.
Step 3.5 Flash- Była darmowa wersja tego na openrouter, ale zwykle nie pozwalają na ekstremalne NSFW. I mają tendencję do throttlowania w dziwnych momentach.
Nie używam Chatgpt, zauważyłem, że potrafi być dobry w pisaniu, ale jest dla mnie o wiele za drogi. To samo z GLM 5 (choć jest wśród najlepszych pod względem cenzury). Do tego Chatgpt cenzuruje praktycznie wszystko.
Ustawienia:
Temp: Dla deepseek: .30-.50 (choć może stać się odrobinę "zbyt" kreatywny) Dla reszty: 1.0-1.20
Max Tokens: Ja mam ustawione na około tysiąc, ale to naprawdę zależy od ciebie. Powiem tylko, że im więcej tokenów generuje na wiadomość, tym jest drożej.
Context size: U mnie maksymalny, ale znowu zależy od ciebie.
Ustawienia zaawansowane:
Top K: 80. To ustawienie redukuje bezsensowne generacje.
Top P: .8-.85. parametr AI, który kontroluje kreatywność generowania tekstu, ograniczając wybór następnego słowa do najmniejszego podzbioru najwyżej ocenianych słów, którego skumulowane prawdopodobieństwo przekracza próg
Repetition Penalty: Około 1.0-1.20. Karze to AI za zbyt częste powtarzanie某些 słów.
Frequency Penalty: 0.4-0.6. redukuje powtarzanie tokenów, stosując karę proporcjonalną do tego, jak często dane słowo już pojawiło się w tekście.
I tak, używam tych wszystkich ustawień tak samo we wszystkich LLM. Z wyjątkiem ustawień temperatury.
Zwykle wkładam 10$ na Openrouter raz w miesiącu i przy tej metodzie zwykle wystarcza to na 4-6 tygodni.
Utworzono 25 kwi
Zaktualizowano 25 kwi
Opublikowano 25 kwi