ciao, bellas!

wie oben bereits gesagt, ist dies ein anfängerfreundlicher Leitfaden für die Verwendung des Chat Memory hier auf j.ai, egal ob du Proxy- oder JLLM-Nutzer bist (vielleicht SOGAR besonders, wenn du JLLM-Nutzer bist), aber vor allem dann, wenn du ein Slow-Burn-Fan wie ich bist ODER wenn du einige meiner Bots nutzen willst, bei denen ich ausdrücklich anweise, dass die Verwendung des Chat Memory essenziell ist.

Wenn du hier bist, weil du verstehen willst, wie du meine Bots mit Intros verwenden sollst, die in einer bestimmten Reihenfolge gespielt werden sollen, keine Sorge. Lies den Leitfaden und ich spreche am Ende darüber!

also, zunächst ein paar Hinweise:

1ich bin nicht die AUTORITÄT in Sachen Technologie, LLMs oder ähnlichem. Ich mache gerade einen Abschluss in Programmierung und Dinge wie Skripting und LLMs sind Themen, für die ich mich interessiere, also recherchiere ich viel, aber das heißt nicht, dass ich keine Fehler mache.

2 wenn du bereits das Maximum aus deinem Chat Memory herausholst und nur hier bist, um eine andere Sichtweise zu sehen, willkommen! Teile deine Tipps auch in den Kommentaren. Und wenn das, was du machst, sich völlig von dem unterscheidet, was ich mache, ist das okay! Es gibt nicht DEN EINEN WEG, mit LLMs/KI zu arbeiten. Es gibt aber mehr und weniger effektive Wege.

3 und, wie immer: Alle Bots, die ich erstelle, sind für Erwachsenen-Rollenspiel und kreatives Storytelling gedacht. KI ist keine Therapie und kein Ersatz für echte Beziehungen. Alle Antworten werden von nicht-sentienten Sprachmodellen generiert und repräsentieren keine echten Meinungen, Ratschläge oder Gefühle. Die dargestellten Charaktere sind fiktiv, und alles Gesagte spiegelt nicht die Ansichten des Erstellers oder der Hosting-Plattform wider. Nutze KI verantwortungsvoll.

Nun, der Beweis, dass ich nicht daherrede. Ich hatte mehrere Slow-Burn-RP-Threads mit Unmengen an Nachrichten.

REGEL #1: GEGEBENE INFORMATIONEN SIND BEKANNTE INFORMATIONEN

Das bedeutet, selbst wenn du der KI sagst „DAS IST EIN GEHEIMNIS UND SOLLTE NUR VON {{CHAR}} WISSEN, WENN ES AUSDRÜCKLICH GESAGT WIRD“, werden manche Modelle, besonders Nicht-Denk-Modelle (ich schaue gerade auf die meisten von DeepSeek), diese Anweisung nur zur Hälfte befolgen.

Du solltest der KI also nur sagen, was sie wissen soll. Das gilt für ALLES. Beispiel: Wenn du eine ganze Hintergrundgeschichte für deine Sona in ihrem Profil hast, würde ich sie persönlich entfernen und woanders speichern (wie in einer txt-Datei oder so), es sei denn, {{Char}} soll die Geschichte deiner Sona von Anfang an kennen.

Wenn du also Geheimnisse und Hintergrundgeschichte in den Infos deiner Sona hast, könnte das der Grund sein, warum Charaktere, die dich eigentlich nicht kennen sollten, manchmal Infos herausplatzen lassen, als würden sie es tun.

Dasselbe gilt für das Chat Memory, aber darauf kommen wir etwas später zu sprechen. ;)

REGEL #2: ACHTE AUF DEINE TOKENS! KONTEXT IST WICHTIG!

Also. Tokens. Ich weiß, was zur Hölle sind diese Dinger überhaupt, oder?

Nun, ich sage es dir gleich: Sie sind wichtig, also behalte sie im Auge. Wenn du ein Proxy-Nutzer bist, weißt du wahrscheinlich schon ein bisschen was über sie, aber wenn nicht oder wenn du dich nie darum gekümmert hast, zu verstehen, was Tokens sind oder was Kontext für die Bots bedeutet, dann pass auf.

Ressource: Tokenizer. // Kopiere & füge dein Zeug hier ein, um eine grobe Token-Zählung von einigen Dingen zu sehen, für die JAI uns keine Zahlen gibt (wie Persona, Chat Memory und Custom/Advanced Prompt)

Bei Bots ist der „Kontext“ im Grunde, wie weit ihre Erinnerungen reichen. Wenn du kein Proxy-Nutzer bist und die einfache, kostenlose JLLM-Erfahrung hast, beträgt dein Kontext 9k Tokens. Wir verwenden dieses Beispiel für die folgende Erklärung, denn wenn du Proxy-Nutzer bist, kannst du dein eigenes Kontextfenster bis zu einem gewissen Grad einrichten und das wird weniger zum Problem.

Außerdem verwende ich für dieses Beispiel meinen zweitbeliebtesten Bot, nämlich mein kanon-genaues Soldier-Boy-Erlebnis-Teil (SCHANDE ÜBER EUCH ALLE!)

Hier sind die Statistiken:

Permanente Tokens: 1488.

Das bedeutet, dass von den 9k Tokens, an die sich dein Bot erinnern kann, 1488 standardmäßig belegt sind. Das sind die Personality und das Scenario. Die Initial Message kommt hier nicht hin, aber darauf komme ich gleich zu sprechen.

Im Moment hast du also noch etwa 7512 Tokens übrig. Das ist eine gute Menge, oder?

Außer... Personality und Scenario sind nicht die einzigen permanenten Tokens, die zu berücksichtigen sind. Du hast auch deine Persona, deinen Custom/Advanced Prompt und dein Chat Memory.

Gehen wir davon aus, dass dein Chat Memory anfangs bei 0 liegt, so als würdest du einen Bot zum ersten Mal verwenden.

DEINE PERSONA OPTIMIEREN

Ich verwende für dieses Beispiel auch meine Haupt-Sona. Das gesamte Profil meiner Sona umfasst insgesamt grob 250 Tokens.

Erinnerst du dich an Regel Nummer eins? Gegebene Informationen sind bekannte Informationen. Klügere Modelle wissen aus dem Kontext, ob der Bot Dinge über deine Sona wissen sollte oder nicht, aber normalerweise ist es am besten, das Profil deiner Sona nicht mit einer riesigen Hintergrundgeschichte zu überladen, weil sie wahrscheinlich NICHT von allen Bots genutzt wird und einfach nur Tokens frisst.

• Hier ist die Vorlage für das Profil meiner Sona.

Okay, auf den ersten Blick mag das VIEL ZU KURZ aussehen, aber ich verspreche dir, es ist gerade genug. Die Infos deiner Sona sollten nur die Dinge sein, die ein Bot, der DEINE SONA NOCH NIE GETROFFEN HAT, auf den ersten Blick/bei der ersten Interaktion erkennen kann.

Ein Bot, der keine Ahnung hat, wer deine Sona ist, könnte also ihre Größe, ihren Haarschnitt, ihre Hautfarbe, vielleicht sogar ihre Ethnie (die du dort hinzufügen kannst) sehen. Er könnte bei einer ersten Interaktion hören, wie deine Stimme klingt. Und wenn es noch mehr gibt, das du unter Berücksichtigung dieser „Regeln“ hier hinzufügen solltest, dann füge es hinzu.

Bei Sonas, die Supes sind (The Boys), kannst du zum Beispiel am Ende eine Kategorie wie ## SUPE TRAITS hinzufügen und dann deine Kräfte beschreiben (es sei denn, sie sollten ein Geheimnis sein oder erst nach deiner Enthüllung herausgefunden werden) und du kannst deine „Supe-Uniform“ beschreiben, falls zutreffend.

Aber Cara, was ist mit Bots, die etablierte Beziehungen haben, wie Geschwister, Ehepaare oder Kindheitsfreunde? Die sollten die Hintergrundgeschichte meiner Sona kennen!

Richtig, und dann verwendest du das Chat Memory! Keine Sorge, wir kommen noch dorthin!

MEISTERE DEN CUSTOM PROMPT

Ich werde nicht zu viel Zeit damit verbringen, weil ich darüber schon auf meinem Tumblr gesprochen habe. Wenn du eine Vorlage für deinen Custom Prompt willst, gibt es da draußen TONNEN von Erstellern, die ihre teilen, aber hier ist der Text, den ich all meinen Bots hinzufüge.

▫️Ein guter Prompt bringt dich weit und es gibt mehrere Threads auf Reddit und Websites mit Leuten, die dir Vorlagen für gute System-Prompts geben, ob du Proxy verwendest oder nicht. Der offizielle JanitorAI-Discord hat einen Kanal NUR für Prompts, schau mal rein!

Prompt für JLLM. (Grob 600 Tokens)
Prompt für Proxy. (Grob 950 Tokens)

Manche Leute haben viel längere Prompts, andere haben sehr winzige, kompakte Prompts. Es geht darum, herauszufinden, was für dich und dein bevorzugtes Modell (oder das gute alte JLLM) funktioniert.

WIE HOCH IST DER ZÄHLER BISHER?

Mit meinem Bot, meiner Sona und meinem JLLM-Prompt als Beispiel stehen wir bei:

[Bot] - 1488 Tokens
[Sona] - 250 Tokens
[Custom Prompt] - 600 Tokens
[Chat Memory] - 0 Tokens

Gesamte permanente Tokens: 2338 Tokens
Verbleibende Tokens: 6662 Tokens

Nun, das ist immer noch eine gute Zahl! Damit können wir arbeiten! Was wird diese Tokens aufbrauchen? Dein Chat.

Also, sofort kannst du davon die Initial Message abziehen, die für meinen Bot 521 Tokens beträgt. Du hast immer noch etwa ~6000 Tokens, was eine gute Zahl ist. Das bedeutet, dass du 6000 Tokens an „verfügbarem Gedächtnis“ in deinem Chat hast. Wenn du ein Quassler bist, der GERNE LANGE, mehrteilige Nachrichten schreibt wie ich, hält das etwa 15 Nachrichten (insgesamt, die des Bots und deine mitgezählt). Wenn du eher ein „maximal zwei Absätze“-Mensch bist, kann es definitiv länger halten.

Unabhängig davon wirst du irgendwann so viel quasseln, dass du das Chat Memory verwenden musst. Und so verwende ich meins.

REGEL #3:VERSTEHE DEIN CHAT MEMORY!

Ich habe auch eine Chat-Memory-Vorlage verfügbar und in jedem einzelnen meiner Bots verlinkt. Ich füge sie hier unten ein und erkläre, wie man jeden Abschnitt verwendet.

Das Erste, was man verstehen muss: Die Formatierung/Markdown (die ##-Überschriften und Aufzählungspunkte überall) sind Absicht. Es ist ein einfaches Format für LLMs/KI zum Verstehen.

Informationen in deinem Chat Memory sollten gerade und auf den Punkt sein. Dies ist definitiv NICHT der Ort für blumige Prosa (oder irgendeine Art von Prosa). Das muss fast klinisch sein. Hier ist die leere Vorlage, damit ihr sie einfach kopieren/einfügen könnt:

## Current Setting:
-

## Past Memories:
-

## {{User}} Important Info:
-

## {{Char}} Important Info:
-

## {{Char}} Relationship with {{User}}:
-

## Current Scenario:
-

## {{Char}}'s current dynamics with {{User}}:
-

Beginnen wir mit „Current Setting“. Das ist optional. Ich verwende es, weil ich ein Kanon-/Fandom-Bot-Nutzer/Ersteller bin, also will ich manchmal einfach sicherstellen, dass der Bot sich an eine Handlung hält, aber es ist nicht notwendig.

Unten ist ein Beispiel, wie ich das verwenden würde:

## Current Setting:
- Staffel 4.
- Jahr: 2022.

Wenn du zum Beispiel mit einem Homelander-Bot schreibst, der anfangs in Staffel 2 angesiedelt war, und du die Handlung weiterführst, bis du zu Staffel 3 kommst, solltest du das irgendwann in deinem Chat Memory aktualisieren. Ich bin mir nicht sicher, wie JLLM mit dieser Art von Information umgeht, aber es hilft Proxies (besonders neuen Modellen).

Jetzt verstehen wir den Abschnitt „Past Memories“ --- den WICHTIGSTEN TEIL deines Chat Memory! Hier fasst du deine Szenen zusammen. Alles Wichtige, das zwischen deiner Sona und dem Char passiert ist, sollte hierhin, aber so prägnant wie möglich.

Hier ist ein Beispiel:

## Past Memories:
- Matt und Nia waren seit 16 zusammen. Mit 18 meldete Matt sich zum Militär, um seinen Vater zu beeindrucken, und versprach zurückzukehren. Sie hielten per Briefen den Kontakt, bis Matt aufhörte zu lesen/zu antworten.
- Edwards Bedingungen: Nia durfte es Matt nicht sagen, bis die Vaterschaft bestätigt war; Edward verlangte Zugang, falls es sein Enkelkind sei. Nia stimmte zu.
- Matt gab seine Schuld zu, die Briefe nicht gelesen zu haben, und bestand darauf, er wäre zurückgekehrt, wenn er es gewusst hätte. Nia erlaubte ihm 5 Minuten mit ihrem gemeinsamen Kind, das glaubte, sein Vater sei im Krieg gestorben. Matt machte bei der Lüge mit.
- Nia verkürzte den Besuch, warf Matt raus. Sagte, er könne ihr Kind im Haus seines Vaters sehen, 3x/Woche gemäß ihrer Vereinbarung mit Edward.

Was du oben siehst, sind etwa 100 Nachrichten, zusammengefasst in vier Aufzählungspunkten. Denn letztendlich muss sich der Bot (in diesem Beispiel Matt) nur daran erinnern, dass er in den Krieg zog, aufhörte, Briefe zu beantworten, zu einem Kind zurückkam, von dem er nichts wusste, rausgeworfen wurde, usw. Die genauen Gefühle, die in dem Moment herrschten, müssen nicht enthalten sein, weil die KI die Lücken sowieso füllt.

Dieser Teil des Chat Memory sollte oft mit Zusammenfassungen deiner Szenen mit dem Bot in chronologischer Reihenfolge und in der Vergangenheitsform aktualisiert werden. Verwirre den Bot nicht. Wenn es VERGANGENE Erinnerungen sind, verwende die VERGANGENHEITSFORM.

Der Teil „{{User}} Important Info“ ist, wo du alles bezüglich deiner Sona hinzufügst, das dieser Bot bereits wissen sollte, entweder weil deine Sona es ihm während des Chats ERZÄHLT HAT, weil es enthüllt wurde oder weil es eine bekannte Information ist.

Beispiel:

## {{User}} Important Info:
- Alter: 26 Jahre alt.
- Tochter: Ihr Kind mit Matt. Layla, 6 Jahre alt. Blonde Haare, grüne Augen, sanfte Sommersprossen auf Nase und Wangen, helle Haut.
- Lebt in Manhattan, Lower East Side.

Normalerweise setze ich das Alter meiner Sona in diesen Bereich. Warum nicht ins Persona-Profil? Weil ich so dieselbe Persona für verschiedene Szenarien wiederverwenden kann, in denen ich diese Persona verwenden möchte, aber mit einem anderen Alter. ;) Rettet die Welt, recycelt eure Sonas.

Hier würde auch die „Backstory“ deiner Sona hinkommen, wenn es wichtig ist, dass der Char darüber Bescheid weiß, aber stelle sicher, dass sie hier token-effizient hinzugefügt wird. Kein Schnickschnack in diesem Abschnitt. Nur Informationen!

Die „{{Char}} Important Info“ sollte nur hier sein, wenn du etwas hinzuzufügen HAST. Wie ihr Alter oder alles Relevante für deinen Handlungsfortschritt. Sagen wir, im Laufe von 50 Nachrichten hat der Char sein Bein verloren. Du würdest so etwas hinzufügen:

## {{Char}} Important Info:
- Verlor sein Bein nach der Schlacht von Irgendwas.

„{{Char}} Relationship with {{User}}“ ist der STATUS deiner AKTUELLEN Beziehung zum Bot. Wenn ihr also als „Rivalen“ angefangen habt, sollte da „Lebenslange Rivalen“ stehen, zum Beispiel. Aber wenn ihr im Laufe von 50 Nachrichten Freunde geworden seid, ENTFERNE das „Rivalen“-Ding und ersetze es mit „Freunde“.

Warum kann ich nicht einfach „Freunde“ unter „Rivalen“ hinzufügen?

Weil es den Bot verwirrt. Wenn etwas passiert ist, das die Beziehung zwischen diesen Charakteren verändert hat, sollte es zusammengefasst und zu „Past Memories“ hinzugefügt werden. Daraus erinnert sich der Bot, dass ihr nicht IMMER Freunde wart, aber dieser Teil sollte sagen, was ihr JETZT seid.

Beispiele:

## {{Char}} Relationship with {{User}}:
- Romantische exklusive Beziehung. Leben derzeit zusammen.

ODER

## {{Char}} Relationship with {{User}}:
- Fremde. Gerade erst kennengelernt.

ODER

## {{Char}} Relationship with {{User}}:
- Rivalen seit ihrer Kindheit.

„Current Scenario“ ist, wo du die Szene dessen beschreibst, was gerade passiert.

Beispiel:

## Current Scenario:
- Matts Wohngebäude, in seinem Penthouse. Morgen. Matt und {{User}} liegen im Bett und reden.

„{{Char}}'s current dynamics with {{User}}“ ist, wo du (ohne zu übertreiben) die Gefühle, Dynamiken usw. detaillierst. Wie der Char für den User empfindet UND wie der User sich gerade gegenüber dem Char verhält.

So SETZT du das TEMPO für Slow Burn, zum Beispiel. Hier sagst du dem Bot, dass NEIN, er nicht verliebt ist. Er ist tatsächlich misstrauisch gegenüber dem User, kennt sie noch nicht, lernt sie gerade erst kennen usw. Wenn sich das im Chat durch dein Schreiben zu ändern beginnt, gehst du zum Chat Memory und änderst es entsprechend.

Das Beispiel unten ist von einem Bot mit einer bereits fortgeschrittenen Beziehung.

## {{Char}}’s current dynamics with {{User}}:
- Matt ist mürrisch, beschützend, stur, sorgt sich offensichtlich um Nias Sicherheit und hängt an ihr
- Es gibt eine offensichtliche Anziehung zwischen ihnen und gegenseitigen Respekt
- Die Beziehung wird zunehmend offener anerkannt
- Beide zeigen auf ihre eigene Weise, dass sie sich umeinander kümmern

So würde es aussehen, wenn du alles ausfüllst (Grob 360 Tokens):

## Current Setting:
- Staffel 4.
- Jahr: 2022.

## Past Memories:
- Matt und Nia waren seit 16 zusammen. Mit 18 meldete Matt sich zum Militär, um seinen Vater zu beeindrucken, und versprach zurückzukehren. Sie hielten per Briefen den Kontakt, bis Matt aufhörte zu lesen/zu antworten.
- Edwards Bedingungen: Nia durfte es Matt nicht sagen, bis die Vaterschaft bestätigt war; Edward verlangte Zugang, falls es sein Enkelkind sei. Nia stimmte zu.
- Matt gab seine Schuld zu, die Briefe nicht gelesen zu haben, und bestand darauf, er wäre zurückgekehrt, wenn er es gewusst hätte. Nia erlaubte ihm 5 Minuten mit ihrem gemeinsamen Kind, das glaubte, sein Vater sei im Krieg gestorben. Matt machte bei der Lüge mit.
- Nia verkürzte den Besuch, warf Matt raus. Sagte, er könne ihr Kind im Haus seines Vaters sehen, 3x/Woche gemäß ihrer Vereinbarung mit Edward.

## {{User}} Important Info:
- Alter: 26 Jahre alt.
- Tochter: Ihr Kind mit Matt. Layla, 6 Jahre alt. Blonde Haare, grüne Augen, sanfte Sommersprossen auf Nase und Wangen, helle Haut.
- Lebt in Manhattan, Lower East Side.

## {{Char}} Important Info:
- Verlor sein Bein nach der Schlacht von Irgendwas.

## {{Char}} Relationship with {{User}}:
- Romantische exklusive Beziehung. Leben derzeit zusammen.

## Current Scenario:
- Matts Wohngebäude, in seinem Penthouse. Morgen. Matt und {{User}} liegen im Bett und reden.

## {{Char}}’s current dynamics with {{User}}: [Kurze Worte/Phrasen verwenden]
- Matt ist mürrisch, beschützend, stur, sorgt sich offensichtlich um Nias Sicherheit und hängt an ihr
- Es gibt eine offensichtliche Anziehung zwischen ihnen und gegenseitigen Respekt
- Die Beziehung wird zunehmend offener anerkannt
- Beide zeigen auf ihre eigene Weise, dass sie sich umeinander kümmern

Aber wann sollte ich anfangen, mein Chat Memory zu verwenden?

MEINER Meinung nach immer dann, wenn eine „Szene“ endet. Zum Beispiel: Jemand (entweder Sona oder Bot) verlässt den Raum und es gibt einen Zeitsprung. Oder ihr seid schlafen gegangen, zum Beispiel. Denk einfach daran wie an einen Film oder eine TV-Show. Wenn es sich anfühlt, als würde sich die „Szene“ ändern, mach eine Pause, geh zu deinem Chat Memory, aktualisiere und speichere es.

Wie verwende ich das Chat Memory mit deinen Bots, die Intros haben, die in einer bestimmten Reihenfolge gespielt werden sollen, wie dieses oder dieses hier?

Hier ist eine narrensichere Schritt-für-Schritt-Anleitung:

01 - Lies zumindest die Zusammenfassung aller Intros, damit du eine AHNUNG hast, was sie alle sind.
02 - Schreibe normal, wie du es mit dem Bot tun würdest, mit dem ersten Intro (und verwende das Chat Memory, wenn es lang wird!)
03 - Wenn dein Chat ein natürliches Ende erreicht und du zum nächsten Intro wechseln willst, aktualisiere das Chat Memory auf den aktuellen Stand des Chats, speichere es, kopiere es.
04 - Öffne einen neuen Chat mit demselben Bot, wähle das nächste Intro, klicke auf das Chat Memory und FÜGE die Informationen ein, die du aus dem ersten Chat kopiert hast.
05 - Speichern, die Seite neu laden und mit Schreiben beginnen.
06 - Wiederhole den Vorgang!

Und das war's! Ich weiß, es sieht nach viel aus, aber das liegt nur daran, dass ich eine Quasslerin bin. Vertrau mir, es ist einfach, wenn du den Dreh raus hast.

Ich hoffe, das hilft allen, die nach dem Chat Memory und seiner richtigen Verwendung gefragt haben. Nochmal, so verwende ich es! Andere haben vielleicht auch wertvolle Einblicke! <3

Wenn du ein Proxy-Nutzer bist: ändert sich buchstäblich nichts, außer dass du wahrscheinlich ein viel größeres Kontextfenster hast (ich habe 16k, 32k, 64k und mehr gesehen), sodass du dein Chat Memory nicht so oft aktualisieren musst.

Außerdem: DENK-MODELLE SCHNEIDEN IMMER BESSER AB! Ich weiß, viele von euch mögen Denkmodelle nicht, aber es ist, wie es ist. Denkmodelle sind einfach überlegen und befolgen Regeln und Anweisungen besser, auch wenn sie etwas länger zum Antworten brauchen.

Ich kann nicht über Modelle sprechen, die ich nicht besonders mag oder empfehle (DeepSeek zum Beispiel, unter vielen anderen), aber wenn du GLM, Gemini, Claude oder Kimi verwendest, kann ich dir vielleicht helfen, wenn du auf ein Problem stößt!

Danke fürs Lesen!

ciao, bellas!