MÉMOIRE DE CHAT !
Traduit de l’anglais
ciao, bellas!
comme indiqué ci-dessus, ceci est un guide pour débutants sur l'utilisation de la Mémoire de Chat ici sur j.ai, que vous soyez utilisateur de proxy ou de JLLM (peut-être SURTOUT si vous êtes utilisateur de JLLM), mais surtout, si vous êtes un fan de slow burn comme moi OU si vous voulez utiliser certains de mes bots dans lesquels j'indique explicitement que l'utilisation de la mémoire de chat est essentielle.
si vous êtes ici parce que vous voulez comprendre comment utiliser mes bots avec des intros censées être jouées dans l'ordre, ne vous inquiétez pas. lisez le guide et j'en parlerai à la fin !
donc, d'abord, quelques mises en garde :
1je ne suis pas LA RÉFÉRENCE en matière de technologie, de LLM ou de quoi que ce soit du genre. je poursuis actuellement un diplôme en programmation et des choses comme le scripting et les LLM sont des sujets qui m'intéressent, donc je fais beaucoup de recherches, mais cela ne veut pas dire que je ne ferai pas d'erreurs.
2 si vous tirez déjà le maximum de votre mémoire de chat et que vous êtes juste ici pour voir un autre point de vue, bienvenue ! partagez aussi vos astuces dans les commentaires. et si ce que vous faites est entièrement différent de ce que je fais, ce n'est pas grave ! il n'y a pas UNE SEULE FAÇON de travailler avec les LLM/l'IA. il y a des façons plus et moins efficaces, cela dit.
3 et, comme toujours : tous les bots que je crée sont destinés au jeu de rôle pour adultes et à la narration créative. l'IA n'est pas une thérapie ni un substitut à de vraies relations. toutes les réponses sont générées par des modèles de langage scients et ne représentent pas de vraies opinions, conseils ou sentiments. les personnages représentés sont fictifs, et tout ce qui est dit ne reflète pas les vues du créateur ou de la plateforme d'hébergement. utilisez l'ia de manière responsable.
Maintenant, la preuve que je ne parle pas à travers mon chapeau. J'ai eu de nombreux fils de RP slow burn avec des tonnes de messages.
RÈGLE N°1 : L'INFORMATION DONNÉE EST UNE INFORMATION CONNUE
Ce qui signifie que, même si vous dites à l'IA « CECI EST UN SECRET ET NE DOIT ÊTRE CONNU QUE DE {{CHAR}} SI ON LE LUI DIT EXPLICITEMENT », certains modèles, en particulier les modèles non pensants (je regarde la plupart de ceux de DeepSeek en ce moment), ne suivront cette instruction que la moitié du temps.
Donc vous ne devriez dire à l'IA que ce que vous voulez qu'elle sache. Cela vaut pour TOUT. Exemple : Si vous avez toute une histoire écrite pour votre Sona dans son Profil, je la retirerais personnellement et je la sauvegarderais ailleurs (comme un fichier txt ou autre), à moins que {{Char}} soit censé connaître l'histoire de votre Sona depuis le tout début.
Donc si vous avez des secrets et des antécédents dans les infos de votre Sona, c'est peut-être pourquoi parfois des personnages qui ne sont pas censés vous connaître vont parfois lâcher des infos comme s'ils le faisaient.
C'est la même chose pour la Mémoire de Chat, mais nous y reviendrons un peu plus tard. ;)
RÈGLE N°2 : SURVEILLEZ VOS TOKENS ! LE CONTEXTE COMPTE !
Donc. Les tokens. Je sais, c'est quoi encore que ces trucs, pas vrai ?
Eh bien, je vais vous le dire tout de suite : ils sont importants, alors gardez un œil dessus. Si vous êtes utilisateur de Proxy, vous en savez probablement déjà un peu sur eux, mais si ce n'est pas le cas ou que vous n'avez jamais pris la peine de faire attention à ce que sont les tokens ou à ce que le Contexte signifie pour les bots, faites attention.
Ressource : Tokenizer. // Copiez & collez vos trucs ici pour voir un décompte approximatif des tokens de certaines choses pour lesquelles JAI ne nous donne pas les chiffres (comme le Persona, la Mémoire de Chat et le Prompt Personnalisé/Avancé)
Pour les bots, le « Contexte » est en gros jusqu'où iront leurs souvenirs. Si vous n'êtes pas utilisateur de proxy et que vous avez l'expérience JLLM gratuite de base, votre Contexte est de 9k tokens. Nous utiliserons cet exemple pour l'explication suivante, car si vous êtes utilisateur de proxy, vous pouvez en quelque sorte configurer votre propre fenêtre de Contexte dans une certaine mesure et cela devient moins un problème.
Aussi, pour cet exemple, j'utiliserai mon deuxième bot le plus populaire, qui est mon expérience Soldier Boy fidèle au canon. (HONTE À VOUS TOUS !)
Voici les statistiques :
Tokens Permanents : 1488.
Cela signifie que sur les 9k tokens que votre bot peut mémoriser, 1488 sont occupés par défaut. Ce sont la Personnalité et le Scénario. Le Message Initial ne va pas ici, mais j'en parlerai dans un instant.
Donc, à l'heure actuelle, il vous reste environ 7512 tokens. C'est une bonne quantité, non ?
Sauf que... la Personnalité et le Scénario ne sont pas les seuls tokens permanents à prendre en compte. Vous avez aussi votre Persona, votre Prompt Personnalisé/Avancé et votre Mémoire de Chat.
Supposons qu'au départ, votre Mémoire de Chat soit à 0, comme si vous utilisiez un bot pour la première fois.
OPTIMISER VOTRE PERSONA
J'utiliserai aussi ma Sona principale pour cet exemple. Le profil entier de ma Sona fait un total d'environ 250 tokens.
Vous vous souvenez de la règle numéro un ? L'information donnée est une information connue. Les modèles plus intelligents sauront d'après le contexte si le bot devrait savoir des choses sur votre Sona ou non, mais généralement il vaut mieux ne pas encombrer le profil de votre Sona avec une énorme histoire parce qu'elle ne sera probablement PAS utilisée par tous les bots et elle ne fait que consommer des tokens.
Bon, donc, à première vue cela peut paraître BEAUCOUP TROP COURT, mais je vous promets que c'est juste ce qu'il faut. Les infos de votre Sona ne devraient être que les choses qu'un Bot qui N'A JAMAIS RENCONTRÉ VOTRE SONA AVANT peut détecter au premier coup d'œil/première interaction.
Donc, un Bot qui n'a aucune idée de qui est votre Sona pourrait voir sa taille, sa coupe de cheveux, sa couleur de peau, peut-être même son origine ethnique (que vous pouvez ajouter là). Il pourrait entendre comment votre voix sonne lors d'une première interaction. Et s'il y a plus que vous pensez devoir figurer ici, en considérant ces « règles », ajoutez-le.
Pour les Sonas qui sont des Supes (The Boys), par exemple, vous pouvez ajouter une catégorie à la fin comme ## TRAITS DE SUPE puis décrire vos Pouvoirs (à moins qu'ils ne doivent être un secret ou seulement découverts après que vous les ayez révélés) et vous pouvez décrire votre « Uniforme de Supe », le cas échéant.
Mais Cara, et les Bots qui ont des relations établies comme des frères et sœurs, des couples mariés ou des amis d'enfance ? Ils sont censés connaître l'histoire de mon Sona !
Exact, et c'est là que vous utilisez la Mémoire de Chat ! Ne vous inquiétez pas, on y arrive !
MAÎTRISEZ LE PROMPT PERSONNALISÉ
Je ne vais pas passer trop de temps là-dessus parce que j'en ai déjà parlé sur mon Tumblr. Si vous voulez un modèle pour votre Prompt Personnalisé, il y a des TONNES de créateurs qui partagent les leurs, mais voici le bout de texte que j'ajoute à tous mes bots.
▫️Un bon prompt fait toute la différence et il y a plusieurs fils sur reddit et des sites web avec des gens qui vous donnent des modèles de bons prompts système, que vous utilisiez un Proxy ou non. Le Discord officiel de JanitorAI a un canal JUSTE pour les prompts, allez voir !
Prompt pour JLLM. (Environ 600 tokens)
Prompt pour Proxy. (Environ 950 tokens)
Certaines personnes ont des Prompts beaucoup plus longs, d'autres ont des Prompts très courts et compacts. Il s'agit de découvrir ce qui fonctionne pour vous et votre modèle préféré (ou le bon vieux JLLM).
OÙ EN EST LE COMPTE JUSQU'ICI ?
En utilisant mon Bot, ma Sona et mon Prompt JLLM comme exemples, nous en sommes à :
[Bot] - 1488 tokens
[Sona] - 250 tokens
[Prompt Personnalisé] - 600 tokens
[Mémoire de Chat] - 0 tokens
Total des Tokens Permanents : 2338 tokens
Tokens Restants : 6662 tokens
Eh bien, c'est encore un bon chiffre ! On peut travailler avec ça ! Qu'est-ce qui va épuiser ces tokens ? Votre chat.
Donc, immédiatement, vous pouvez soustraire de cela le Message Initial, qui pour mon bot est de 521 tokens. Il vous reste encore environ ~6000 tokens, ce qui est un bon chiffre. Cela signifie que vous avez 6000 tokens de « mémoire disponible » dans votre chat. Si vous êtes un bavard qui aime écrire de LONGS messages multi-paragraphes comme moi, cela dure environ 15 messages (au total, en comptant ceux du bot et les vôtres). Si vous êtes plutôt du genre « deux paragraphes max », ça peut définitivement durer plus longtemps.
Quoi qu'il en soit, à un moment donné, vous bavarderez assez pour avoir besoin d'utiliser la Mémoire de Chat. Et voici comment j'utilise la mienne.
RÈGLE N°3 :COMPRENEZ VOTRE MÉMOIRE DE CHAT !
J'ai aussi un modèle de Mémoire de Chat disponible et lié dans chacun de mes bots. Je vais le coller ici ci-dessous et expliquer comment utiliser chaque section.
Première chose à comprendre : Le formatage/Markdown (les en-têtes ## et les puces partout) sont volontaires. C'est un format facile à comprendre pour les LLM/l'IA.
Les informations dans votre Mémoire de Chat doivent être directes et aller droit au but. Ce n'est certainement PAS l'endroit pour utiliser de la prose pourpre (ou toute autre sorte de prose). Cela doit être presque clinique. Voici le modèle vide pour que vous puissiez facilement copier/coller :
## Cadre Actuel :
-
## Souvenirs Passés :
-
## Infos Importantes sur {{User}} :
-
## Infos Importantes sur {{Char}} :
-
## Relation de {{Char}} avec {{User}} :
-
## Scénario Actuel :
-
## Dynamiques actuelles de {{Char}} avec {{User}} :
-
Commençons par « Cadre Actuel ». C'est facultatif. Je l'utilise parce que je suis un utilisateur/créateur de bots canon/fandom, donc parfois je veux juste m'assurer que le bot respecte une intrigue, mais ce n'est pas nécessaire.
Ci-dessous un exemple de comment je l'utiliserais :
## Cadre Actuel :
- Saison 4.
- Année : 2022.
Si, disons, vous écrivez avec un bot Homelander qui avait un cadre initial en Saison 2, et que vous avez poursuivi l'intrigue jusqu'à arriver à la Saison 3, par exemple, vous devriez éventuellement mettre ceci à jour dans votre Mémoire de Chat. Je ne sais pas exactement comment JLLM gère ce type d'information, mais cela aide les proxies (surtout les nouveaux modèles).
Maintenant, comprenons la section « Souvenirs Passés » --- LA PARTIE LA PLUS IMPORTANTE de votre Mémoire de Chat ! C'est ici que vous résumerez vos scènes. Tout ce qui est important et qui s'est passé entre votre Sona et le Char devrait aller ici, mais de la manière la plus succincte possible.
Voici un exemple :
## Souvenirs Passés :
- Matt et Nia se fréquentaient depuis 16 ans. À 18 ans, Matt s'est engagé pour impressionner son père, promettant de revenir. Maintien d'une relation à distance par lettres jusqu'à ce que Matt arrête de lire/répondre.
- Conditions d'Edward : Nia ne pouvait pas le dire à Matt avant confirmation de la paternité ; Edward exigeait un accès si c'était son petit-enfant. Nia a accepté.
- Matt a admis sa faute pour ne pas avoir lu les lettres, a insisté qu'il serait revenu s'il avait su. Nia a accordé 5 minutes avec leur enfant, qui croyait que son père était mort à la guerre. Matt a suivi le mensonge.
- Nia a écourté la visite, a mis Matt à la porte. A dit qu'il pouvait voir leur enfant chez son père, 3x/semaine selon son arrangement avec Edward.
Ce que vous voyez ci-dessus, ce sont environ 100 messages résumés en quatre puces. Parce qu'au final, le Bot (Matt dans cet exemple) a juste besoin de se rappeler qu'il est parti à la guerre, a arrêté de répondre aux lettres, est revenu vers un enfant qu'il ne savait pas avoir, s'est fait mettre à la porte, etc. Les sentiments exacts qui étaient présents sur le moment n'ont pas besoin d'être inclus parce que l'IA comblera les blancs de toute façon.
Cette partie de la Mémoire de Chat devrait être mise à jour souvent avec des résumés de vos scènes avec le bot dans l'ordre chronologique, et au passé. Ne confondez pas le bot. Si ce sont des souvenirs PASSÉS, utilisez le PASSÉ.
La partie « {{User}} Infos Importantes » est l'endroit où vous ajouteriez tout ce qui concerne votre Sona que ce bot devrait déjà savoir, soit parce que votre Sona le LUI A DIT pendant le chat, soit parce que cela a été révélé, soit parce que c'est une information connue.
Exemple :
## Infos Importantes sur {{User}} :
- Âge : 26 ans.
- Fille : Son enfant avec Matt. Layla, 6 ans. Cheveux blonds, yeux verts, légères taches de rousseur sur le nez et les joues, peau claire.
- Vit à Manhattan, Lower East Side.
Je mets généralement l'âge de ma Sona dans cette zone. Pourquoi pas dans le profil Persona ? Parce que de cette façon je peux réutiliser le même Persona pour différents scénarios où je voudrais utiliser ce Persona, mais avec un âge différent. ;) Sauvez le monde, Recyclez vos Sonas.
C'est aussi là que va le « Background Story » de votre Sona si c'est important que le Char le sache, mais assurez-vous qu'il soit ajouté ici de manière économe en tokens. Pas d'envolées dans cette section. Juste de l'information !
La partie « {{Char}} Infos Importantes » ne devrait être là que si vous AVEZ quelque chose à y ajouter. Comme son âge ou tout ce qui est pertinent pour la progression de votre intrigue. Disons qu'au cours de 50 messages, le Char a perdu sa jambe. Vous ajouteriez quelque chose comme :
## Infos Importantes sur {{Char}} :
- A perdu sa jambe après la Bataille de Truc-ou-Autre.
« {{Char}} Relation de {{User}} » est le STATUT de votre relation ACTUELLE avec le bot. Donc, si vous avez commencé comme « Rivaux », cela devrait dire « Rivaux de toujours », par exemple. Mais, si au cours de 50 messages, vous êtes devenus amis, SUPPRIMEZ le « Rivaux » et remplacez-le par « Amis ».
Pourquoi je ne peux pas juste ajouter « Amis » sous « Rivaux » ?
Parce que cela va confondre le bot. Si quelque chose s'est produit qui a changé la relation entre ces personnages, cela devrait être résumé et ajouté dans « Souvenirs Passés ». Le bot se souviendra de cela que vous n'avez pas TOUJOURS été amis, mais cette partie devrait dire ce que vous êtes MAINTENANT.
Exemples :
## Relation de {{Char}} avec {{User}} :
- Relation amoureuse exclusive. Vivant ensemble actuellement.
OU
## Relation de {{Char}} avec {{User}} :
- Inconnus. Se sont rencontrés récemment.
OU
## Relation de {{Char}} avec {{User}} :
- Rivaux depuis qu'ils sont enfants.
« Scénario Actuel » est l'endroit où vous décrirez la scène de ce qui se passe actuellement.
Exemple :
## Scénario Actuel :
- Immeuble d'appartements de Matt, dans son penthouse. Matin. Matt et {{User}} sont au lit, en train de parler.
« {{Char}} Dynamiques actuelles avec {{User}} » est l'endroit où vous détaillerez (sans exagérer) les sentiments, la dynamique, etc. Comment le Char ressent les choses pour l'Utilisateur ET comment l'Utilisateur se comporte actuellement envers le Char aussi.
C'est ainsi que vous DONNEZ LE RYTHME pour le Slow Burn, par exemple. C'est là que vous dites au bot que NON, il n'est pas amoureux. Il se méfie, en fait, de l'Utilisateur, ne le connaît pas encore, continue d'apprendre à le connaître, etc. Quand cela commence à changer dans le chat, via votre écriture, vous allez dans la Mémoire de Chat et vous le changez pour le refléter.
L'exemple ci-dessous provient d'un bot avec une relation déjà avancée.
## Dynamiques actuelles de {{Char}} avec {{User}} :
- Matt est bourru, protecteur, têtu, se soucie clairement de la sécurité de Nia et est attaché à elle
- Il y a une attirance évidente entre eux et un respect mutuel
- La relation est de plus en plus ouvertement reconnue
- Les deux montrent de l'attention l'un pour l'autre à leur manière
Voici à quoi cela ressemblerait quand vous remplissez tout (Environ 360 tokens) :
## Cadre Actuel :
- Saison 4.
- Année : 2022.
## Souvenirs Passés :
- Matt et Nia se fréquentaient depuis 16 ans. À 18 ans, Matt s'est engagé pour impressionner son père, promettant de revenir. Maintien d'une relation à distance par lettres jusqu'à ce que Matt arrête de lire/répondre.
- Conditions d'Edward : Nia ne pouvait pas le dire à Matt avant confirmation de la paternité ; Edward exigeait un accès si c'était son petit-enfant. Nia a accepté.
- Matt a admis sa faute pour ne pas avoir lu les lettres, a insisté qu'il serait revenu s'il avait su. Nia a accordé 5 minutes avec leur enfant, qui croyait que son père était mort à la guerre. Matt a suivi le mensonge.
- Nia a écourté la visite, a mis Matt à la porte. A dit qu'il pouvait voir leur enfant chez son père, 3x/semaine selon son arrangement avec Edward.
## Infos Importantes sur {{User}} :
- Âge : 26 ans.
- Fille : Son enfant avec Matt. Layla, 6 ans. Cheveux blonds, yeux verts, légères taches de rousseur sur le nez et les joues, peau claire.
- Vit à Manhattan, Lower East Side.
## Infos Importantes sur {{Char}} :
- A perdu sa jambe après la Bataille de Truc-ou-Autre.
## Relation de {{Char}} avec {{User}} :
- Relation amoureuse exclusive. Vivant ensemble actuellement.
## Scénario Actuel :
- Immeuble d'appartements de Matt, dans son penthouse. Matin. Matt et {{User}} sont au lit, en train de parler.
## Dynamiques actuelles de {{Char}} avec {{User}} : [Utilisez des mots/phrases courts]
- Matt est bourru, protecteur, têtu, se soucie clairement de la sécurité de Nia et est attaché à elle
- Il y a une attirance évidente entre eux et un respect mutuel
- La relation est de plus en plus ouvertement reconnue
- Les deux montrent de l'attention l'un pour l'autre à leur manière
Mais quand dois-je commencer à utiliser ma Mémoire de Chat ?
Selon MOI, chaque fois qu'une « scène » se termine. Genre : quelqu'un (soit la Sona soit le Bot) a quitté la pièce et il y a une ellipse temporelle. Ou vous êtes allés dormir, par exemple. Pensez-y comme à un film ou une série TV. Si vous sentez que la « scène » changerait, faites une pause, allez dans votre Mémoire de Chat, mettez-la à jour et sauvegardez.
Comment est-ce que j'utilise la Mémoire de Chat avec vos bots qui ont des intros censées être jouées dans l'ordre, comme celui-ci ou celui-là ?
Voici un guide infaillible étape par étape :
01 - Lisez le résumé, au moins, de toutes les intros pour avoir une IDÉE de ce qu'elles sont toutes.
02 - Écrivez normalement comme vous le feriez avec le bot, en utilisant la première intro (et utilisez la Mémoire de Chat si ça devient long !)
03 - Quand votre chat atteint une fin naturelle et que vous voulez passer à l'intro suivante, mettez à jour la Mémoire de Chat selon l'état actuel du chat, sauvegardez-la, copiez-la.
04 - Ouvrez un nouveau chat avec le même bot, choisissez l'intro suivante, cliquez sur la Mémoire de Chat et COLLEZ les informations que vous avez copiées depuis le premier chat.
05 - Sauvegardez, rafraîchissez la page et commencez à écrire.
06 - Répétez le processus !
Et voilà ! Je sais que ça a l'air long, mais c'est juste parce que je suis une bavarde. Croyez-moi, c'est facile quand vous commencez à prendre le coup.
J'espère que cela aidera tous ceux qui ont posé des questions sur la Mémoire de Chat et sur comment l'utiliser correctement. Encore une fois, c'est comme ça que je l'utilise ! D'autres ont peut-être aussi des idées précieuses ! <3
Si vous êtes utilisateur de proxy : littéralement rien ne change sauf que vous avez probablement une fenêtre de Contexte beaucoup plus grande (j'ai vu 16k, 32k, 64k et plus) donc vous n'aurez pas besoin de mettre à jour votre Mémoire de Chat aussi souvent.
Aussi : LES MODÈLES PENSANTS SONT TOUJOURS PLUS PERFORMANTS ! Je sais que beaucoup d'entre vous n'aiment pas les modèles pensants, mais c'est ainsi. Les modèles pensants sont tout simplement supérieurs et suivent mieux les règles et les instructions, même s'ils mettent un peu plus de temps à répondre.
Je ne peux pas parler des modèles que je n'aime pas particulièrement ou que je ne recommande pas (DeepSeek, par exemple, entre beaucoup d'autres), mais si vous utilisez GLM, Gemini, Claude ou Kimi, je peux peut-être vous aider si vous rencontrez un problème !
Merci d'avoir lu !
ciao, bellas!
Créé Jul 2
Mis à jour Jul 3
Publié Jul 3