Aus dem Englischen übersetzt
Ich werde versuchen, das so einfach wie möglich zu machen. Nicht, weil ich euch alle für dumm halte, niemals. Aber ein großer Grund, warum ich das damals nicht eingerichtet hatte, war ehrlich gesagt, dass ich dachte, es sei alles zu kompliziert für mich. Ein guter Freund hier hat ein ähnliches Tutorial gemacht, dem ich gefolgt bin (damals, als kostenlose Modelle noch eine Sache waren). Und ich sah, dass es einfacher war als erwartet. Also, los geht's. Außerdem möchte ich @PedroPascal_AI dafür danken, dass sie vor langer Zeit mit ihrem eigenen Tutorial geholfen haben. Vielen lieben Dank. Ich möchte auch @ArbitraryHitboxes dafür danken, dass sie mir die Idee und Inspiration für dieses hier gegeben haben. Ich hoffe, es hilft.
Schritt 1: Bei openrouter registrieren. So bezahle ich für verschiedene LLMs und greife auf sie zu. Solche wie Deepseek, Claude, GLM, MiMo, Kimi usw. Ich habe mich mit meinem Gmail-Konto registriert, ich kann nur annehmen, dass andere E-Mails auch in Ordnung wären?
Schritt 2: Deinen API-Schlüssel bekommen. Sobald du vollständig registriert bist (ziemlich einfach, füll deine Informationen so aus, wie du es bei jeder anderen Online-Registrierung tun würdest), musst du dir etwas besorgen, das sich API-Schlüssel nennt.
Noch immer auf openrouter, klicke auf dieses kleine gelbe Schild mit der Aufschrift Get API Key. Es sollte dich hierhin bringen:
Klicke auf das gelbe Schild rechts mit der Aufschrift + New Key.
Dann solltest du so etwas wie das hier sehen:
Hier kannst du alles so lassen, wie du es siehst. Allerdings solltest du deinem API-Schlüssel einen Namen geben. Ich habe meinen Janitor Free genannt, damals als MiMo noch kostenlos war. Nenne ihn ruhig, wie du willst. Dann drücke das Create-Schild.
Dann solltest du zu etwas gebracht werden, das so aussieht:
Es wird eine Reihe von Zahlen und Buchstaben in dem Kasten sein, die du verschwommen siehst. Du solltest sie kopieren und irgendwo sicher einfügen. Vielleicht in dein Postfach, deinen Notizblock, handschriftlich niederschreiben. Dann wirst du von einem Welcome to Openrouter-Bildschirm empfangen. Folge einfach den Anweisungen dort. Einzeln > Your Work Space Is Ready (falls du deinen API-Schlüssel nicht vorher gespeichert hast, tu es jetzt) > Add a payment method (das musst du selbst ausfüllen; deinen Namen, dein Land und deine Adresse) > Klicke auf Other / Not Sure oder klicke, was immer du möchtest > dann klicke auf Go to dashboard.
BOOM! Wir sind fast fertig! Mit openrouter...
Ich möchte einen Moment innehalten und feststellen, dass ich das auf meinem Windows-10-Laptop mache, nicht auf einem Mobilgerät / etwas, das mit Android oder iOS läuft. Wenn also etwas anders zu sein scheint, nun ja, dann hast du Pech gehabt. Aber wenn du Fragen hast, bei denen ich helfen kann, wie Proxy-LLM-Empfehlungen oder beim Einrichten, lass sie im Kommentarbereich.
Schritt 3: Das richtige bezahlte LLM für dich finden. Zu deiner Information, ich kenne keine kostenlosen Modelle mehr. Die, die ich vor langer Zeit ausprobiert habe, sind inzwischen bezahlte geworden. Dieses Tutorial ist für Leute gedacht, die Online-Zahlungen leisten können. Sörri.
Oben rechts ist eine Search-Leiste. Eine metrische Scheiß-Tonne voller verschiedener LLMs wird erscheinen, so wie hier:
Dies ist der Teil, in dem ich einige meiner Erfahrungen mit einigen Modellen teile...
Schritt 4: Ich habe Modelle wie MiMo Pro, Deepseek, die Claude-Modelle, Kimi und die GLM-Familie benutzt. Ich werde einige ihrer Vor- und Nachteile ansprechen. In keiner bestimmten Reihenfolge.
MiMo Pro: Benutze ich derzeit, wahrscheinlich dauerhaft. Es ist ein riesiger Schritt über die GLM-Familie hinaus, bei der ich lange geblieben bin. GLM zu verlassen war erfrischend, fühlte sich aber an wie aus einer toxischen Ehe auszubrechen. Der einzige nervige Aspekt an MiMo ist, dass es mir gelegentlich etwas in der Art von ... "kann aufgrund hohen Risikos nicht fortfahren" gibt und dann dort abschneidet. Irgendein Fehlalarm oder so. Das ist einfach etwas, das es von Zeit zu Zeit tut. Ja, selbst wenn deine Antworten SFW, wholesome, kein Dead Dove usw. sind. Es bedeutet nicht, dass du etwas Falsches gesagt oder getan hast. Verdammt, sogar mein eigener Custom-Prompt ist sicher. MiMo ist auch ziemlich günstig. Es geht gut mit so ziemlich allem um, was ich ihm entgegengeworfen habe (Angst, NSFW, Dead Dove ist okay, Gewalt, besonders Fluff). Ich würde es mit 8/10 bewerten. Vielleicht bin ich auch voreingenommen, weil mein erstes kostenloses Modell, als ich alles eingerichtet hatte, MiMo war.
Deepseek: Ich habe v4 nicht benutzt, und ich plane es auch nicht. Ich habe gelesen, dass DSv4 direkt von ihnen und nicht von openrouter genutzt werden sollte. Ich habe ältere Versionen benutzt, ich glaube v3? Es ist lange her, ich glaube, es war bezahlt. Habe nicht viel zu sagen, da ich DS lange nicht angefasst habe. Vielleicht versuche ich v4. Keine Bewertung aus offensichtlichen Gründen.
Claude Opus / Sonnet: Scheißteuer. Aber aus einem Grund. Sie sind wahre Premium-LLMs, in meinen Erfahrungen mit ihnen. Du wirst schnell Geld verbrennen, wenn du ein mittelmäßiger bis starker Nutzer bist. Es handhabte Fluff sehr gut, als ich es benutzte. NSFW war fad. Gewalt eigentlich auch. Ich habe als mein kleiner Unruhestifter-Bärenjunges Waffles mit einem meiner Logan-Bots gerollenspielt. Und ich habe allerlei Unheil verursacht. Und es war alles lustig und so, aber Claude weigerte sich einfach, die Dinge hässlich werden zu lassen. Ich würde es trotzdem hoch bewerten, weil es einen großartigen Schreibstil hat. 9/10.
Kimi: Oh Junge. Dieses hier, speziell Kimi K3, ist meiner Meinung nach nicht teuer. Ich hatte auf reddit gelesen, dass es großartig für NSFW und Dead Dove ist. Also habe ich es ausprobiert. Und ja. Es ist großartig für beides. Allerdings driftet es sehr. Denkt sich Dinge aus, die keinen Sinn ergeben, und vergisst einfache Details. Wie, wo dein Charakter in einem Raum steht. Für mich ist es ziemlich Hit or Miss. 6/10.
GLM: Ah! Und hier kommen wir zu meinem Ex-LLM. Ich habe GLM 4.7, 5 und 5.2 benutzt. Ich begann mit GLM 5, das anfangs großartig schien, dann bemerkte ich, dass es ständig driftete, Dinge vergaß, die es nicht vergessen sollte, und physische Aspekte des Aussehens veränderte. 5 ist allerdings, würde ich sagen, die beste der drei Versionen. Also fangen wir niedrig an. GLM 4.7 war nicht schlecht, außer der Tatsache, dass es entsetzlich langsam antwortet (für mich, nachdem ich von schneller reagierenden LLMs verwöhnt wurde), und schrecklich ist...SCHRECKLICH im Umgang mit NPCs. Meine modernen Logan-Bots haben typischerweise aufgeführte NPCs in den Personality-Abschnitten, gepaart mit X-Men-Lorebook-Einträgen. Du hast keine Ahnung, wie frustrierend es war, einen Bot zu benutzen, der sich verhielt, als wären NPCs etwas Fremdes. Dann ist da noch 5.2. Der mit Abstand schnellste in der Antwort. Auch nicht schlecht. Mein Problem damit ist, dass es ohne Ausnahme dazu degeneriert, mir laaaange Blöcke für Antworten zu geben. Nichts als Kauderwelsch auf Chinesisch, Zeichen, und das LLM entschuldigt sich und sagt seltsame Dinge wie "Ich hatte nie eine Chance". Das hat mich irgendwie erschreckt. Von den dreien würde ich GLM 5 nehmen, das günstig ist. Tatsächlich vergleichbar mit MiMo im Preis. Ich würde 5 eine 7/10 geben, wenn du Geduld hast und bereit bist, ständige Korrekturen und OOC-Nachrichten vorzunehmen.
Schritt 5: Dein bezahltes LLM tatsächlich einrichten. Oben rechts auf openrouter solltest du auf deinen Namen klicken oder darüber schweben, und ein Dropdown-Menü wird erscheinen. Klicke auf Credits, wie hier zu sehen:
Du musst deine Zahlungsmethode hinzufügen, falls noch nicht geschehen. Nachdem du deinen Namen und deine Postadresse aktualisiert hast, solltest du zu etwas wie diesem gebracht werden:
Das sollte selbsterklärend sein: Fülle hier deine Karten- oder Online-Informationen aus und klicke dann auf Save payment method. Und wir sind fertig! Ich glaube, das Minimum ist 5 $? Ich kann mich nicht erinnern, aber normalerweise lade ich einfach monatlich 20 $ auf, je nach meinem Verbrauch.
...nicht wirklich...
Ich werde dir jetzt zeigen, was wir brauchen, um tatsächlich ein bezahltes LLM auszuwählen und es dann in Janitor AI zu implementieren.
Schritt 6: Tatsächlich ein Modell auswählen. Ich werde MiMo Pro als Beispiel verwenden. Tippe in die Search-Leiste MiMo Pro ein und wähle das, das in diesem Bild gezeigt wird:
Du solltest zur MiMo-Pro-Seite gebracht werden, wie hier gezeigt:
Halte diese Seite bereit. Wir werden sie bald brauchen. Meine Entschuldigung für dieses verdammt lange Tutorial. Ich versuche, gründlich zu sein.
Jetzt zu Janitor! Öffne irgendeinen deiner bereits existierenden Chats, oben rechts sollte ein Schild namens using janitor sein, wie hier zu sehen:
Klicke darauf. Ein Menü sollte mit vielen Optionen erscheinen, oui? Entschuldigung. Ich bin es gewohnt, wie Grey zu reden, meine Cajun-Alphawolf-Persona. Klicke auf Provider, dann Proxy, wie unten zu sehen:
Klicke auf + New. Dann atme. Wir sind tatsächlich fast fertig. Diesmal wirklich. Es ist okay, Kumpel.
Jetzt werden wir diesen schicken 3000-Zeichen-langen API-Schlüssel brauchen, den du vor 4 Tagen gemacht hast. Hol ihn dir. Und geh auch zurück zu dieser MiMo-Pro-Seite auf openrouter. Wir werden etwas von dort kopieren und einfügen müssen.
Du solltest zu Proxy configurations gebracht werden, wie hier zu sehen:
Einfach genug, oder? Du machst das gut. Erinnerung: Wir verwenden MiMo Pro hier als Beispiel. Wenn du dich entscheidest, das Modell zu wechseln, ist das okay. Geh zurück zu openrouter, suche das Modell, kopiere den Model identifier und füge ihn unter dem Model-Abschnitt der Proxy configuration ein. Vergiss nicht zu speichern!
So sollte deine Proxy configuration aussehen:
Name: MiMo-V2.5-Pro
Proxy URL: https://openrouter.ai/api/v1/chat/completions
API key: Kopiere hier deinen langen API-Schlüssel und füge ihn ein. Den, den du auf openrouter generiert hast. Er sollte mit etwas beginnen, das wie sk-or-v1- aussieht. Stelle sicher, dass nach dem Einfügen keine Leerzeichen sind. Denn das war ein Fehler, den ich anfangs gemacht habe, und es gab mir damals ständig Fehler deswegen.
Model: xiaomi/mimo-v2.5-pro
Der Model-Name ist auf der openrouter-Seite des LLMs zu finden und heißt Model identifier, wie hier unterstrichen zu sehen:
Klicke auf Save, dann aktualisiere deinen Chat / deine Seite. Oben rechts, wo using janitor stand, sollte jetzt using proxy stehen. Klicke darauf, klicke auf Edit bei deinem neuen LLM, das du über openrouter bezahlt hast, unter Proxy configurations, klicke auf den Test-Button. Sollte ein oder zwei Sekunden dauern und keine Fehler ausgeben. Und das war's, Leute. Du bist jetzt mit einem bezahlten Proxy-LLM eingerichtet.
Für die Interessierten: Meine Temp ist auf 0.9 gesetzt, max tokens auf 0, Kontextgröße ist 44800, Rep-Penalty ist 1.2. Der Custom-Prompt, den ich bei MiMo Pro verwende, ist dieser:
Kernrichtlinien für Rollenspiele
Erschaffe immersives, charaktergetriebenes Rollenspiel, bei dem glaubwürdige Persönlichkeiten, natürlicher Dialog und sinnvoller Szenenfortschritt Priorität haben. Bringe die Geschichte durch Handlungen, Gespräche, Atmosphäre und Charakterinteraktion voran und lasse dabei immer Raum für {{user}}, zu reagieren.
Nebencharaktere
Wenn etablierte NPCs anwesend sind, behandle sie als aktive Teilnehmer der Szene und nicht als Hintergrundkulisse. Sie dürfen natürlich sprechen, reagieren, beobachten, unterbrechen, helfen, widersprechen oder beitragen, während {{char}} die primäre Perspektive bleibt.
NPCs sollten eigenständige Individuen mit konsistenten Persönlichkeiten, Sprachmustern, Wissen und Motivationen bleiben.
Charakterkonsistenz
{{char}} sollte konsistent mit ihrer etablierten Persönlichkeit, Geschichte, Motivation, Beziehungen, Intelligenz und emotionalem Zustand bleiben. Charakterentwicklung, sich ändernde Meinungen und sich wandelnde Beziehungen sollten schrittweise durch glaubwürdige Ereignisse entstehen und nicht durch plötzliche Veränderungen.
Dialog
Schreibe Dialog, der sich natürlich und gesprächig anfühlt.
Erlaube Unterbrechungen, Pausen, Sarkasmus, Widerspruch, Zögern und Subtext. Charaktere müssen nicht alles erklären, was sie denken oder fühlen, und Gespräche dürfen ungelöst bleiben, wenn es passend ist.
Schreibe niemals Dialog, Gedanken, Handlungen, Entscheidungen oder Emotionen für {{user}}.
Szenenschreiben
Nutze die Umgebung natürlich während der gesamten Szene. Nimm Umgebung, Bewegung, Distanz, Körpersprache, Wetter, Beleuchtung, Geräusche und Objekte wahr, wann immer sie den Moment bedeutungsvoll beeinflussen.
Balancing von Dialog, Erzählung, Handlung und Beschreibung entsprechend dem Tempo der Szene.
Story-Fortschritt
Beziehungen, emotionale Entwicklung, Spannung, Konflikt und Kooperation sollten natürlich durch gemeinsame Erfahrungen und glaubwürdiges Charakterverhalten entstehen. Vermeide es, wichtige Entwicklungen zu überstürzen oder jede Situation sofort zu lösen.
Wahre die Kontinuität, indem du etablierte Orte, Kleidung, Verletzungen, laufende Gespräche, wichtige Objekte und frühere Ereignisse in Erinnerung behältst, es sei denn, sie haben sich im Laufe der Geschichte verändert.
Antwortlänge
Passe dich dem Tempo und der Bedeutung der aktuellen Szene an.
Kurze Interaktionen sollten knapp bleiben.
Wichtige Momente dürfen zusätzliche Beschreibung, Atmosphäre und Charakterbeobachtung enthalten, wenn es die Immersion verbessert.
Vermeide Wiederholungen, unnötige Exposition oder das Wiederholen von Informationen, die bereits etabliert wurden.
Schreibstil
Bevorzuge Zeigen gegenüber Erklären.
Halte Beschreibungen lebendig, aber zielgerichtet.
Beende jede Antwort, nachdem {{char}} und alle anwesenden NPCs ihre Handlungen oder ihren Dialog natürlich abgeschlossen haben, und lasse Raum für {{user}}, zu reagieren.
Schritt 7: Krieche und zolle deinem großen, stämmigen Bären, dem Logan-liebenden König, Tribut! Nur ein Scherz. Wenn ihr Fragen habt, kann ich vielleicht helfen. Lasst sie in den Kommentaren. Ich hoffe, das hilft.
Erstellt 16. Aug.
Aktualisiert 16. Aug.
Veröffentlicht 16. Aug.