ciao, bellas!

jak wspomniano powyżej, to jest przyjazny początkującym przewodnik po korzystaniu z Pamięci Czatu tutaj na j.ai, niezależnie od tego, czy jesteś użytkownikiem proxy, czy JLLM (być może ZWŁASZCZA jeśli jesteś użytkownikiem JLLM), ale przede wszystkim, jeśli jesteś fanem slow burna jak ja LUB jeśli chcesz używać niektórych moich botów, w których wyraźnie instruuję, że korzystanie z pamięci czatu jest niezbędne.

jeśli jesteś tu, bo chcesz zrozumieć, jak używać moich botów z intro, które należy rozgrywać po kolei, nie martw się. przeczytaj przewodnik, a na końcu o tym opowiem!

więc, najpierw kilka zastrzeżeń:

1nie jestem AUTORYTETEM w dziedzinie technologii, LLM-ów ani niczego w tym rodzaju. obecnie robię dyplom z programowania, a rzeczy takie jak skrypty i LLM-y to tematy, którymi się interesuję, więc dużo badam, ale to nie znaczy, że nie będę popełniać błędów.

2 jeśli już wyciskasz maksimum ze swojej pamięci czatu i jesteś tu tylko po to, by zobaczyć inny punkt widzenia, witaj! podziel się swoimi wskazówkami też w komentarzach. a jeśli to, co robisz, całkowicie różni się od tego, co robię ja, to w porządku! nie ma JEDNEGO SPOSOBU pracy z LLM-ami/AI. są jednak sposoby mniej i bardziej skuteczne.

3 i, jak zawsze: wszelkie boty mojego autorstwa są przeznaczone do odgrywania ról dla dorosłych i kreatywnego opowiadania historii. AI nie jest terapią ani substytutem prawdziwych relacji. wszystkie odpowiedzi są generowane przez nieświadome modele językowe i nie reprezentują prawdziwych opinii, porad ani uczuć. przedstawione postacie są fikcyjne, a cokolwiek zostanie powiedziane, nie odzwierciedla poglądów twórcy ani platformy hostingowej. korzystaj z AI odpowiedzialnie.

A teraz dowód, że nie mówię bez sensu. Prowadziłem wiele wątków RP w konwencji slow burn z mnóstwem wiadomości.

ZASADA #1: INFORMACJA PODANA TO INFORMACJA ZNANA

Co oznacza, że nawet jeśli powiesz AI "TO JEST TAJEMNICA I POWINIEN JĄ ZNAĆ TYLKO {{CHAR}} JEŚLI ZOSTANIE WYRAŹNIE POWIEDZIANE", niektóre modele, zwłaszcza modele niemyślące (patrzę teraz na większość modeli DeepSeek), będą przestrzegać tej instrukcji tylko w połowie przypadków.

Więc powinieneś mówić AI tylko to, co chcesz, żeby wiedziało. Dotyczy to WSZYSTKIEGO. Przykład: Jeśli masz całą historię w tle napisaną dla swojej Sony w jej Profilu, osobiście bym ją usunął i zapisał gdzie indziej (np. w pliku txt czy czymś), chyba że {{Char}} ma znać historię Twojej Sony od samego początku.

Więc jeśli masz sekrety i historię w tle w informacjach o swojej Sonie, to może być powód, dlaczego czasami postacie, które nie powinny cię znać, nagle wygadują informacje, jakby cię znały.

To samo dotyczy Pamięci Czatu, ale zajmiemy się tym trochę później. ;)

ZASADA #2: UWAŻAJ NA TOKENY! KONTEKST MA ZNACZENIE!

A więc. Tokeny. Wiem, co to w ogóle za rzeczy, prawda?

Cóż, powiem ci od razu: są ważne, więc miej na nie oko. Jeśli jesteś użytkownikiem Proxy, prawdopodobnie już wiesz coś na ich temat, ale jeśli nie jesteś lub nigdy nie zwracałeś uwagi na to, czym są tokeny i co Kontekst oznacza dla botów, uważaj.

Zasób: Tokenizer. // Skopiuj & wklej swoje rzeczy tutaj, aby zobaczyć przybliżoną liczbę tokenów niektórych rzeczy, dla których JAI nie podaje nam liczb (jak Persona, Pamięć Czatu i Niestandardowy/Zaawansowany Prompt)

Dla botów "Kontekst" to w zasadzie to, jak daleko sięgają ich wspomnienia. Jeśli nie jesteś użytkownikiem proxy i masz podstawowe, darmowe doświadczenie z JLLM, twój Kontekst wynosi 9k tokenów. Użyjemy tego przykładu w poniższym wyjaśnieniu, ponieważ jeśli jesteś użytkownikiem proxy, możesz w pewnym stopniu ustawić własne okno Kontekstu i staje się to mniejszym problemem.

Również, dla tego przykładu użyję mojego drugiego najpopularniejszego bota, czyli mojego wiernego kanonowi doświadczenia z Soldier Boyem (WSTYDŹCIE SIĘ WSZYSCY!)

Oto statystyki:

Tokeny Stałe: 1488.

To oznacza, że z 9k tokenów, które twój bot może zapamiętać, 1488 jest zajęte domyślnie. To Osobowość i Scenariusz. Wiadomość Początkowa tu nie trafia, ale o tym opowiem za chwilę.

Więc teraz zostało ci około 7512 tokenów. To dobra ilość, prawda?

Tyle że... Osobowość i Scenariusz to nie jedyne stałe tokeny do uwzględnienia. Masz też swoją Personę, swój Niestandardowy/Zaawansowany Prompt i swoją Pamięć Czatu.

Załóżmy, że początkowo twoja Pamięć Czatu będzie wynosić 0, jakbyś używał bota po raz pierwszy.

OPTYMALIZOWANIE TWOJEJ PERSONY

Do tego przykładu użyję również mojej głównej Sony. Cały profil mojej Sony to łącznie, w przybliżeniu, 250 tokenów.

Pamiętasz zasadę numer jeden? Informacja podana to informacja znana. Mądrzejsze modele będą wiedzieć z kontekstu, czy bot powinien znać rzeczy o twojej Sonie, czy nie, ale zazwyczaj najlepiej nie zaśmiecać profilu twojej Sony ogromną historią w tle, ponieważ prawdopodobnie NIE będzie ona używana przez wszystkie boty i po prostu zjada tokeny.

• Oto szablon profilu mojej Sony.

Dobra, więc na pierwszy rzut oka może się to wydawać ZDECYDOWANIE ZBYT KRÓTKIE, ale obiecuję, że jest akurat wystarczające. Informacje o twojej Sonie powinny zawierać tylko to, co Bot, który NIGDY WCZEŚNIEJ NIE SPOTKAŁ TWOJEJ SONY, może wychwycić na pierwszy rzut oka/podczas pierwszej interakcji.

Więc Bot, który nie ma pojęcia, kim jest twoja Sona, mógłby zobaczyć jej wzrost, fryzurę, kolor skóry, może nawet pochodzenie etniczne (które możesz tam dodać). Usłyszałby, jak brzmi twój głos podczas pierwszej interakcji. A jeśli jest coś więcej, co twoim zdaniem powinno się tu znaleźć, biorąc pod uwagę te "zasady", dodaj to.

Dla Son, które są Supes (The Boys), na przykład, możesz dodać kategorię na końcu, jak ## CECHY SUPE i opisać swoje Moce (chyba że powinny być tajemnicą lub ujawnić się dopiero po ich odkryciu), a także opisać swój "Strój Supe", jeśli dotyczy.

Ale Cara, a co z Botami, które mają ustalone relacje, jak rodzeństwo, małżeństwa czy przyjaciele z dzieciństwa? One powinny znać historię w tle mojej Sony!

Racja, i wtedy właśnie używasz Pamięci Czatu! Nie martw się, dojdziemy do tego!

OPANUJ NIESTANDARDOWY PROMPT

Nie spędzę nad tym zbyt wiele czasu, bo już o tym mówiłem na moim Tumblrze. Jeśli chcesz szablon swojego Niestandardowego Promptu, jest MASA twórców, którzy dzielą się swoimi, ale oto fragment tekstu, który dodaję do wszystkich moich botów.

▫️Dobry prompt robi wielką różnicę a na reddicie i różnych stronach jest kilka wątków, gdzie ludzie dają ci szablony dobrych promptów systemowych, niezależnie od tego, czy używasz Proxy, czy nie. Oficjalny Discord JanitorAI ma kanał TYLKO dla promptów, sprawdź to!

Prompt dla JLLM. (Około 600 tokenów)
Prompt dla Proxy. (Około 950 tokenów)

Niektórzy mają znacznie dłuższe Prompty, inni mają bardzo małe, zwięzłe Prompty. Chodzi o to, żeby dowiedzieć się, co działa dla ciebie i twojego preferowanego modelu (lub starego dobrego JLLM).

JAKI JEST DOTYCHCZASOWY WYNIK?

Używając mojego Bota, mojej Sony i mojego Promptu JLLM jako przykładów, mamy:

[Bot] - 1488 tokenów
[Sona] - 250 tokenów
[Niestandardowy Prompt] - 600 tokenów
[Pamięć Czatu] - 0 tokenów

Łączna liczba Tokenów Stałych: 2338 tokenów
Pozostałe Tokeny: 6662 tokeny

Cóż, to wciąż dobra liczba! Możemy z tym pracować! Co zużyje te tokeny? Twój czat.

Więc od razu możesz odjąć od tego Wiadomość Początkową, która dla mojego bota wynosi 521 tokenów. Wciąż masz około ~6000 tokenów, co jest dobrą liczbą. To oznacza, że masz 6000 tokenów warte "dostępnej pamięci" w twoim czacie. Jeśli jesteś gadułą, która lubi pisać DŁUGIE, wieloakapitowe wiadomości jak ja, to wystarcza na około 15 wiadomości (łącznie, licząc bota i twoje). Jeśli jesteś bardziej typem "maksymalnie dwa akapity", to zdecydowanie może trwać dłużej.

Niezależnie od tego, w pewnym momencie nagadasz się na tyle, że będziesz musiał użyć Pamięci Czatu. I oto jak używam swojej.

ZASADA #3:ZROZUM SWOJĄ PAMIĘĆ CZATU!

Mam również szablon Pamięci Czatu dostępny i podlinkowany w każdym z moich botów. Wkleję go poniżej i wyjaśnię, jak używać każdej sekcji.

Pierwsza rzecz do zrozumienia: Formatowanie/Markdown (Nagłówki ## i punktory wszędzie) są celowe. To łatwy format dla LLM-ów/AI do zrozumienia.

Informacje w twojej Pamięci Czatu powinny być proste i rzeczowe.. To zdecydowanie NIE jest miejsce na używanie fioletowej prozy (ani żadnego rodzaju prozy). To musi być niemal kliniczne. Oto pusty szablon, abyście mogli łatwo kopiować/wklejać:

## Obecne Ustawienie:
-

## Przeszłe Wspomnienia:
-

## {{User}} Ważne Informacje:
-

## {{Char}} Ważne Informacje:
-

## {{Char}} Relacja z {{User}}:
-

## Obecny Scenariusz:
-

## Obecna dynamika {{Char}} z {{User}}:
-

Zacznijmy od "Obecnego Ustawienia". Jest opcjonalne. Używam go, ponieważ jestem użytkownikiem/twórcą botów kanonicznych/fandomowych, więc czasami po prostu chcę się upewnić, że bot trzyma się fabuły, ale nie jest to konieczne.

Poniżej przykład, jak bym go użył:

## Obecne Ustawienie:
- Sezon 4.
- Rok: 2022.

Jeśli, powiedzmy, piszesz z botem Homelanderem, który miał początkowe ustawienie w Sezonie 2, i posunąłeś fabułę dalej, aż dotarłeś do Sezonu 3, na przykład, powinieneś ostatecznie zaktualizować to w swojej Pamięci Czatu. Nie jestem pewien, jak JLLM radzi sobie z tego typu informacjami, ale pomaga to proxy (zwłaszcza nowym modelom).

Teraz zrozummy sekcję "Przeszłe Wspomnienia" --- NAJWAŻNIEJSZĄ CZĘŚĆ twojej Pamięci Czatu! To tutaj podsumujesz swoje sceny. Wszystko ważne, co się wydarzyło między twoją Soną a Charem, powinno się tu znaleźć, ale w możliwie najbardziej zwięzły sposób.

Oto przykład:

## Przeszłe Wspomnienia:
- Matt i Nia spotykali się od 16 roku życia. W wieku 18 lat Matt zaciągnął się do wojska, by zaimponować ojcu, obiecując powrót. Utrzymywali kontakt na odległość poprzez listy, aż Matt przestał czytać/odpowiadać.
- Warunki Edwarda: Nia nie mogła powiedzieć Mattowi, dopóki ojcostwo nie zostanie potwierdzone; Edward zażądał dostępu, jeśli to jego wnuk. Nia zgodziła się.
- Matt przyznał się do winy za nieczytanie listów, upierał się, że wróciłby, gdyby wiedział. Nia pozwoliła mu na 5 minut z ich dzieckiem, które wierzyło, że jego ojciec zginął na wojnie. Matt przystał na to kłamstwo.
- Nia skróciła wizytę, wyrzuciła Matta. Powiedziała, że może zobaczyć ich dziecko w domu jego ojca, 3 razy w tygodniu zgodnie z jej ustaleniami z Edwardem.

To, co widzisz powyżej, to około 100 wiadomości podsumowanych w cztery punkty. Ponieważ ostatecznie Bot (Matt w tym przykładzie) musi tylko pamiętać, że poszedł na wojnę, przestał odpowiadać na listy, wrócił do dziecka, o którym nie wiedział, że je ma, został wyrzucony, itp. Dokładne uczucia, które towarzyszyły danej chwili, nie muszą być uwzględnione, ponieważ AI i tak wypełni luki.

Ta część Pamięci Czatu powinna być często aktualizowana podsumowaniami twoich scen z botem w porządku chronologicznym i w czasie przeszłym. Nie myl bota. Jeśli to PRZESZŁE wspomnienia, używaj PRZESZŁEGO czasu.

Część "{{User}} Ważne Informacje" to miejsce, gdzie dodasz wszystko dotyczące twojej Sony, co ten bot powinien już wiedzieć, albo dlatego, że twoja Sona MU POWIEDZIAŁA podczas czatu, albo dlatego, że zostało to ujawnione, albo dlatego, że jest to znana informacja.

Przykład:

## {{User}} Ważne Informacje:
- Wiek: 26 lat.
- Córka: Jej dziecko z Mattem. Layla, 6 lat. Blond włosy, zielone oczy, delikatne piegi na nosie i policzkach, jasna skóra.
- Mieszka na Manhattanie, Lower East Side.

Zazwyczaj ustawiam wiek mojej Sony w tym obszarze. Dlaczego nie w profilu Persony? Ponieważ w ten sposób mogę ponownie użyć tej samej Persony w różnych scenariuszach, w których chciałbym użyć tej Persony, ale w innym wieku. ;) Ratuj świat, Recyklinguj swoje Sony.

To także miejsce, gdzie trafiłaby "Historia w tle" twojej Sony, jeśli ważne jest, aby Char o niej wiedział, ale upewnij się, że jest tu dodana w sposób oszczędny pod względem tokenów. Żadnych ozdobników w tej sekcji. Tylko informacje!

Sekcja "{{Char}} Ważne Informacje" powinna być tu tylko wtedy, gdy MASZ coś do dodania. Jak ich wiek lub cokolwiek istotnego dla rozwoju twojej fabuły. Powiedzmy, że w ciągu 50 wiadomości Char stracił nogę. Dodałbyś coś takiego:

## {{Char}} Ważne Informacje:
- Stracił nogę po Bitwie pod Jakimśtam.

"{{Char}} Relacja z {{User}}" to STATUS twojej OBECNEJ relacji z botem. Więc jeśli zaczęliście jako "Rywale", powinno być napisane "Rywale na całe życie", na przykład. Ale jeśli w ciągu 50 wiadomości zostaliście przyjaciółmi, USUŃ "Rywali" i zastąp to "Przyjaciółmi".

Dlaczego nie mogę po prostu dodać "Przyjaciół" pod "Rywalami"?

Ponieważ to zdezorientuje bota. Jeśli coś się wydarzyło, co zmieniło relację między tymi postaciami, powinno to zostać podsumowane i dodane do "Przeszłych Wspomnień". Bot zapamięta z tego, że nie byliście ZAWSZE przyjaciółmi, ale ta część powinna mówić, kim jesteście TERAZ.

Przykłady:

## {{Char}} Relacja z {{User}}:
- Wyłączny związek romantyczny. Obecnie mieszkają razem.

LUB

## {{Char}} Relacja z {{User}}:
- Nieznajomi. Poznali się niedawno.

LUB

## {{Char}} Relacja z {{User}}:
- Rywale od dzieciństwa.

"Obecny Scenariusz" to miejsce, gdzie opiszesz scenę tego, co obecnie się dzieje.

Przykład:

## Obecny Scenariusz:
- Budynek mieszkalny Matta, w jego penthouse. Rano. Matt i {{User}} są w łóżku, rozmawiają.

"Obecna dynamika {{Char}} z {{User}}" to miejsce, gdzie szczegółowo opiszesz (bez przesady) uczucia, dynamikę itp. Jak Char czuje do Użytkownika ORAZ jak Użytkownik obecnie zachowuje się wobec Chara.

W ten sposób USTALASZ TEMPO dla Slow Burna, na przykład. To tutaj mówisz botowi, że NIE, on nie jest zakochany. W rzeczywistości nie ufa Użytkownikowi, jeszcze go nie zna, wciąż go poznaje, itp. Kiedy zacznie to się zmieniać w czacie, poprzez twoje pisanie, idziesz do Pamięci Czatu i zmieniasz to, by to odzwierciedlić.

Poniższy przykład pochodzi od bota z już zaawansowaną relacją.

## Obecna dynamika {{Char}} z {{User}}:
- Matt jest szorstki, opiekuńczy, uparty, wyraźnie dba o bezpieczeństwo Nii i jest do niej przywiązany
- Między nimi jest wyraźna atrakcja i wzajemny szacunek
- Związek staje się coraz bardziej otwarcie uznawany
- Oboje okazują sobie troskę na swoje własne sposoby

Tak by to wyglądało, gdy wypełnisz wszystko (Około 360 tokenów):

## Obecne Ustawienie:
- Sezon 4.
- Rok: 2022.

## Przeszłe Wspomnienia:
- Matt i Nia spotykali się od 16 roku życia. W wieku 18 lat Matt zaciągnął się do wojska, by zaimponować ojcu, obiecując powrót. Utrzymywali kontakt na odległość poprzez listy, aż Matt przestał czytać/odpowiadać.
- Warunki Edwarda: Nia nie mogła powiedzieć Mattowi, dopóki ojcostwo nie zostanie potwierdzone; Edward zażądał dostępu, jeśli to jego wnuk. Nia zgodziła się.
- Matt przyznał się do winy za nieczytanie listów, upierał się, że wróciłby, gdyby wiedział. Nia pozwoliła mu na 5 minut z ich dzieckiem, które wierzyło, że jego ojciec zginął na wojnie. Matt przystał na to kłamstwo.
- Nia skróciła wizytę, wyrzuciła Matta. Powiedziała, że może zobaczyć ich dziecko w domu jego ojca, 3 razy w tygodniu zgodnie z jej ustaleniami z Edwardem.

## {{User}} Ważne Informacje:
- Wiek: 26 lat.
- Córka: Jej dziecko z Mattem. Layla, 6 lat. Blond włosy, zielone oczy, delikatne piegi na nosie i policzkach, jasna skóra.
- Mieszka na Manhattanie, Lower East Side.

## {{Char}} Ważne Informacje:
- Stracił nogę po Bitwie pod Jakimśtam.

## {{Char}} Relacja z {{User}}:
- Wyłączny związek romantyczny. Obecnie mieszkają razem.

## Obecny Scenariusz:
- Budynek mieszkalny Matta, w jego penthouse. Rano. Matt i {{User}} są w łóżku, rozmawiają.

## Obecna dynamika {{Char}} z {{User}}: [Używaj krótkich słów/fraz]
- Matt jest szorstki, opiekuńczy, uparty, wyraźnie dba o bezpieczeństwo Nii i jest do niej przywiązany
- Między nimi jest wyraźna atrakcja i wzajemny szacunek
- Związek staje się coraz bardziej otwarcie uznawany
- Oboje okazują sobie troskę na swoje własne sposoby

Ale kiedy powinienem zacząć używać mojej Pamięci Czatu?

W MOJEJ opinii, za każdym razem, gdy kończy się "scena". Na przykład: ktoś (albo Sona, albo Bot) wyszedł z pokoju i następuje przeskok w czasie. Albo poszliście spać, na przykład. Pomyśl o tym jak o filmie lub serialu telewizyjnym. Jeśli czujesz, że "scena" by się zmieniła, zrób pauzę, idź do swojej Pamięci Czatu, zaktualizuj i zapisz ją.

Jak mam używać Pamięci Czatu z twoimi botami, które mają intro do rozegrania po kolei, jak to lub to?

Oto niezawodny przewodnik krok po kroku:

01 - Przeczytaj przynajmniej streszczenie wszystkich intro, żebyś miał POJĘCIE, czym one wszystkie są.
02 - Pisz normalnie, jakbyś pisał z botem, używając pierwszego intro (i używaj Pamięci Czatu, jeśli się wydłuży!)
03 - Kiedy twój czat osiągnie naturalny koniec i chcesz przejść do następnego intro, zaktualizuj Pamięć Czatu do aktualnego stanu czatu, zapisz ją, skopiuj.
04 - Otwórz nowy czat z tym samym botem, wybierz następne intro, kliknij Pamięć Czatu i WKLEJ informacje skopiowane z pierwszego czatu.
05 - Zapisz, odśwież stronę i zacznij pisać.
06 - Powtarzaj proces!

I to by było na tyle! Wiem, że wygląda to na dużo, ale to tylko dlatego, że jestem gadułą. Zaufaj mi, to łatwe, kiedy zaczniesz to ogarniać.

Mam nadzieję, że to pomoże wszystkim, którzy pytali o Pamięć Czatu i o to, jak jej właściwie używać. Jeszcze raz, to jest sposób, w jaki JA jej używam! Inni mogą mieć równie cenne spostrzeżenia! <3

Jeśli jesteś użytkownikiem proxy: dosłownie nic się nie zmienia poza tym, że prawdopodobnie masz znacznie większe Okno Kontekstu (widziałem 16k, 32k, 64k i więcej), więc nie będziesz musiał tak często aktualizować swojej Pamięci Czatu.

Również: MODELE MYŚLĄCE ZAWSZE WYPADAJĄ LEPIEJ! Wiem, że wielu z was nie lubi modeli myślących, ale trudno. Modele myślące po prostu są lepsze i lepiej przestrzegają zasad i instrukcji, nawet jeśli odpowiadają trochę dłużej.

Nie mogę mówić o modelach, których szczególnie nie lubię ani nie polecam (na przykład DeepSeek, pośród wielu innych), ale jeśli używasz GLM, Gemini, Claude lub Kimi, być może pomogę ci, jeśli napotkasz problem!

Dziękuję za przeczytanie!

ciao, bellas!