Janitor
Startseite
Ctrl K
AnmeldenRegistrieren

Über meine Bots und API-Empfehlungen sowie Einstellungsempfehlungen.

Aus dem Englischen übersetzt·

About My Bots and API reccomendations, and setting reccomendations.

59

147

by:@YesiniaTheYokai

Hallo zusammen!

Das ist kein normales Update und dies wird der letzte Beitrag sein, den ich mache, bevor ich endlich die nächste Ladung Bots hochlade.

Während ich an Yang gearbeitet habe, ist mir etwas eingefallen:

Manche Leute wissen vielleicht nicht, welche APIs sie am besten für meine Bots verwenden sollten. Oder was eine günstigere Möglichkeit ist, APIs zu nutzen?

Ich komme jetzt dazu.

Zunächst einmal mache ich keine Bots für JLLM. JLLM ist für mich ernsthaft veraltet, und ich mache am Ende immer Bots mit vielen Tokens, was das Kontextfenster von JLLM ernsthaft killt.

Nein, was ich tatsächlich verwende, ist eine Mischung aus APIs.

-Deepseek ist gerade am beliebtesten, kann aber teuer werden, je nach Größe des Charakters und langen Rollenspielen. Damit würde ich ernsthaft empfehlen, dein Gedächtnis alle 12 bis 15 Nachrichten zu speichern, um Platz freizumachen. Deepseek ist auch sehr gut bei Konversations- und normalen RPs.

-Ich verwende auch Grok, hauptsächlich für NSFW-Rollenspiel. Ich finde, dass es beim ERP deutlich besser schreibt als Deepseek und weniger repetitiv ist. Das gesagt: Es ist trotzdem teurer im Betrieb.

Aber ich finde, eine Mischung aus beidem funktioniert gut. Ich habe auch festgestellt, dass Grok dazu neigt, die Skripte und Lorebooks tausendmal besser zu befolgen. Deepseek ist auch ein gemischtes Bild und wird älter.

Andere APIs, die ich verwendet habe und die gute Ersatzlösungen sind:

Trinity – Diese habe ich gerade an Monika getestet, und ich fand, dass sie sehr gut geschrieben hat. Und sie ist günstiger.

Qwen3 235B A22B Instruct 2507 – Eine der günstigeren Optionen, aber wird repetitiv.

Step 3.5 Flash – Davon gab es eine kostenlose Version auf openrouter, aber sie erlauben tendenziell kein extremes NSFW. Und sie drosseln gerne zu seltsamen Zeiten.

Ich verwende kein Chatgpt, mir ist aufgefallen, dass es gut im Schreiben sein kann, aber für mich viel zu teuer ist. Dasselbe mit GLM 5 (obwohl es zu den besten gegen Zensur gehört). Dazu kommt, dass Chatgpt praktisch alles zensiert.

Einstellungen:

Temp: Für deepseek: .30-.50 (obwohl es etwas „zu“ kreativ werden kann) Für den Rest: 1.0-1.20

Max Tokens: Ich habe meine bei etwa tausend, aber das bleibt wirklich dir überlassen. Ich sage nur, dass es umso teurer wird, je mehr Tokens es pro Nachricht produziert.

Kontextgröße: Meine ist voll ausgereizt, aber auch hier bleibt es dir überlassen.

Erweiterte Einstellungen:

Top K: 80. Diese Einstellung reduziert unsinnige Generierungen.

Top P: .8-.85. ein KI-Parameter, der die Kreativität der Textgenerierung steuert, indem er die Auswahl des nächsten Wortes auf die kleinste Teilmenge der höchstrangigen Wörter begrenzt, deren kumulative Wahrscheinlichkeit einen Schwellenwert überschreitet

Repetition Penalty: Etwa 1.0-1.20. Dies bestraft die KI dafür, bestimmte Wörter zu oft zu wiederholen.

Frequency Penalty: 0.4-0.6. reduziert die Token-Wiederholung, indem eine Strafe proportional dazu angewendet wird, wie oft ein Wort bereits im Text vorkam.

Und ja, ich verwende all diese Einstellungen gleich auf allen LLMs. Außer bei den Temperatureinstellungen.

Ich lade normalerweise einmal im Monat 10$ auf Openrouter und mit dieser Methode hält es meist 4-6 Wochen.

Erstellt 25. Apr.

Aktualisiert 25. Apr.

Veröffentlicht 25. Apr.

  • Unbegrenzt
  • #settings
  • #bot
  • #llm
  • #grok
  • #deepseek
  • #chatgpt

Veröffentlichte Chats