čau, skaistules!

kā minēts iepriekš, šī ir iesācējiem draudzīga rokasgrāmata par Chat Memory (tērzēšanas atmiņas) lietošanu šeit, j.ai, neatkarīgi no tā, vai esi proxy vai JLLM lietotājs (varbūt īpaši tad, ja esi JLLM lietotājs), bet galvenais — ja esi lēnas attīstības (slow burn) fans kā es VAI ja vēlies izmantot dažus no maniem botiem, kuros es skaidri norādu, ka Chat Memory lietošana ir būtiska.

Ja esi šeit, jo vēlies saprast, kā lietot manus botus ar ievadiem, kas jāspēlē secībā, neuztraucies. Izlasi rokasgrāmatu, un es par to pastāstīšu beigās!

Tātad, vispirms daži atrunas paziņojumi:

1es neesmu AUTORITĀTE tehnoloģijās, LLM vai kaut kas tamlīdzīgs. Pašlaik iegūstu programmēšanas grādu, un tādas lietas kā skriptēšana un LLM ir man interesējošas tēmas, tāpēc es daudz pētu, bet tas nenozīmē, ka es nepieļaušu kļūdas.

2 ja tu jau gūsti maksimumu no savas Chat Memory un esi šeit tikai, lai ieraudzītu citu viedokli, laipni lūgts! Dalies ar saviem padomiem arī komentāros. Un, ja tas, ko dari, pilnīgi atšķiras no tā, ko daru es, tas ir labi! Nav VIENA VEIDA, kā strādāt ar LLM/AI. Ir gan vairāk, gan mazāk efektīvi veidi, tomēr.

3 un, kā vienmēr: visi mani veidotie boti ir paredzēti pieaugušo lomu spēlēm un radošai stāstīšanai. AI nav terapija vai reālu attiecību aizstājējs. Visas atbildes ģenerē neapzināti valodas modeļi, un tās neatspoguļo reālus viedokļus, padomus vai jūtas. Attēlotie varoņi ir izdomāti, un jebkas pateiktais neatspoguļo veidotāja vai mitināšanas platformas uzskatus. Izmanto AI atbildīgi.

Tagad pierādījums, ka es nerunāju pa gaisu. Man ir bijuši vairāki slow burn RP pavedieni ar milzum daudz ziņām.

NOTEIKUMS #1: SNIEGTĀ INFORMĀCIJA IR ZINĀMĀ INFORMĀCIJA

Tas nozīmē, ka pat ja tu pasaki AI "ŠIS IR NOSLĒPUMS UN TO DRĪKST ZINĀT TIKAI {{CHAR}} JA TIEŠI PATEIKTS", daži modeļi, īpaši modeļi, kas nedomā (es skatos uz lielāko daļu DeepSeek modeļu tagad), ievēros šo instrukciju tikai pusi laika.

Tāpēc tev vajadzētu pastāstīt AI tikai to, ko vēlies, lai tā zina. Tas attiecas uz VISU. Piemērs: ja tavai Sonai ir sarakstīta vesela fona stāsts viņas profilā, es personīgi to noņemtu un saglabātu citur (piemēram, txt failā vai kaut kur citur), ja vien {{Char}} nav jāzina tavas Sonas stāsts jau no paša sākuma.

Tātad, ja tavas Sonas informācijā ir noslēpumi un fona stāsts, tas varētu būt iemesls, kāpēc dažkārt varoņi, kuriem nevajadzētu tevi pazīt, izpauž informāciju tā, it kā viņi to zinātu.

Tas pats attiecas uz Chat Memory, bet pie tās ķersimies nedaudz vēlāk. ;)

NOTEIKUMS #2: SEKO LĪDZI SAVIEM TOKENIEM! KONTEKSTAM IR NOZĪME!

Tātad. Tokeni. Es zinu, kas tie vispār ir par lietām, vai ne?

Nu, es tev tagad pateikšu: tie ir svarīgi, tāpēc seko tiem līdzi. Ja esi Proxy lietotājs, tu droši vien jau kaut ko par tiem zini, bet, ja neesi vai nekad neesi pievērsis uzmanību tam, kas ir tokeni vai ko Konteksts nozīmē botiem, pievērs uzmanību.

Resurss: Tokenizer. // Kopē & un ielīmē savu saturu šeit, lai redzētu aptuvenu tokenu skaitu dažām lietām, kurām JAI mums nedod skaitļus (piemēram, Persona, Chat Memory un Custom/Advanced Prompt)

Botiem "Konteksts" būtībā ir tas, cik tālu sniedzas viņu atmiņas. Ja neesi proxy lietotājs un tev ir pamata, bezmaksas JLLM pieredze, tavs Konteksts ir 9k tokenu. Mēs izmantosim šo piemēru turpmākajā skaidrojumā, jo, ja esi proxy lietotājs, tu savā ziņā vari pats iestatīt savu Konteksta logu, un tas kļūst par mazāku problēmu.

Tāpat šim piemēram es izmantošu savu otro populārāko botu, kas ir mans kanonam atbilstošais Soldier Boy piedzīvojums. (KAUNS JUMS VISIEM!)

Lūk, statistika:

Pastāvīgie tokeni: 1488.

Tas nozīmē, ka no 9k tokeniem, ko tavs bots var atcerēties, 1488 ir aizņemti pēc noklusējuma. Tie ir Personība un Scenārijs. Sākotnējā ziņa šeit neietilpst, bet es par to pastāstīšu nedaudz vēlāk.

Tātad, šobrīd tev atlicis aptuveni 7512 tokeni. Tas ir labs daudzums, vai ne?

Izņemot... Personība un Scenārijs nav vienīgie pastāvīgie tokeni, kas jāņem vērā. Tev ir arī sava Persona, savs Custom/Advanced Prompt un sava Chat Memory.

Pieņemsim, ka sākotnēji tava Chat Memory būs 0, it kā tu botu lietotu pirmo reizi.

SAVAS PERSONAS OPTIMIZĒŠANA

Es arī izmantošu savu galveno Sonu šim piemēram. Manas Sonas viss profils kopā ir aptuveni 250 tokeni.

Atceries pirmo noteikumu? Sniegtā informācija ir zināmā informācija. Gudrāki modeļi pēc konteksta sapratīs, vai botam vajadzētu zināt lietas par tavu Sonu vai ne, bet parasti labāk ir nepieblīvēt savas Sonas profilu ar milzīgu fona stāstu, jo to, iespējams, NEIZMANTOS visi boti, un tas vienkārši ēd tokenus.

• Lūk, manas Sonas profila veidne.

Labi, tātad, no pirmā acu uzmetiena tas var izskatīties PĀRĀK ĪSS, bet es apsolu, ka tas ir tieši pietiekami. Tavas Sonas informācijā jābūt tikai tām lietām, ko bots, kurš NEKAD NAV SATICIS TAVU SONU, var pamanīt pirmajā acu uzmetienā/saskarsmē.

Tātad bots, kuram nav ne jausmas, kas ir tava Sona, varētu redzēt viņa augumu, matu griezumu, ādas krāsu, varbūt pat etnisko izcelsmi (ko vari tur pievienot). Viņš varētu sadzirdēt, kā skan tava balss pirmajā saskarsmē. Un, ja ir vēl kaut kas, kas, tavuprāt, šeit jāiekļauj, ņemot vērā šos "noteikumus", pievieno to.

Piemēram, Sonām, kas ir Supes (The Boys), vari beigās pievienot kategoriju, piemēram, ## SUPE TRAITS, un tad aprakstīt savas spējas (ja vien tām nav jābūt noslēpumam vai jāatklājas tikai pēc tam, kad tās atklāj), un vari aprakstīt savu "Supe Uniformu", ja tāda ir.

Bet Kara, kā ir ar botiem, kuriem ir nodibinātas attiecības, piemēram, brāļi un māsas, precēti pāri vai bērnības draugi? Viņiem taču būtu jāzina manas Sonas fona stāsts!

Pareizi, un tieši tad tu izmanto Chat Memory! Neuztraucies, mēs pie tās nonāksim!

APGŪTI CUSTOM PROMPT

Es netērēšu tam pārāk daudz laika, jo jau par to runāju savā Tumblr. Ja vēlies veidni savam Custom Prompt, ir TŪKSTOŠIEM veidotāju, kas dalās ar savējiem, bet lūk, teksts, ko es pievienoju visiem saviem botiem.

▫️Labs prompts daudz ko nozīmē , un ir vairāki pavedieni reddit un vietnēs, kur cilvēki dod veidnes labiem sistēmas promptiem, neatkarīgi no tā, vai izmanto Proxy vai ne. JanitorAI oficiālajā Discord ir kanāls TIKAI promptiem, ieskaties!

Prompts JLLM. (Aptuveni 600 tokeni)
Prompts Proxy. (Aptuveni 950 tokeni)

Dažiem cilvēkiem ir daudz garāki prompti, citiem ir ļoti mazi, kompakti prompti. Šeit ir par to, kā atrast to, kas strādā tev un tavam vēlamajam modelim (vai mīļajam vecajam JLLM).

KĀDS IR SKAITS LĪDZ ŠIM?

Izmantojot manu botu, manu Sonu un manu JLLM promptu kā piemērus, mums ir:

[Bots] - 1488 tokeni
[Sona] - 250 tokeni
[Custom Prompt] - 600 tokeni
[Chat Memory] - 0 tokeni

Kopējie pastāvīgie tokeni: 2338 tokeni
Atlikušie tokeni: 6662 tokeni

Nu, tas joprojām ir labs skaitlis! Mēs varam ar to strādāt! Kas iztērēs šos tokenus? Tava tērzēšana.

Tātad, uzreiz no tā vari atņemt sākotnējo ziņu, kas manam botam ir 521 tokens. Tev joprojām ir aptuveni ~6000 tokeni, kas ir labs skaitlis. Tas nozīmē, ka tavā tērzēšanā ir 6000 tokenu vērta "pieejamā atmiņa". Ja esi pļāpātājs, kuram patīk rakstīt GARAS, vairāku rindkopu ziņas kā man, tas ilgst apmēram 15 ziņas (kopā, skaitot bota un tavas). Ja esi vairāk "maksimums divas rindkopas" cilvēks, tas noteikti var ilgt ilgāk.

Neatkarīgi no tā, kādā brīdī tu būsi sapļāpājis pietiekami daudz, ka tev vajadzēs izmantot Chat Memory. Un lūk, kā es izmantoju savējo.

NOTEIKUMS #3:SAPROTI SAVU CHAT MEMORY!

Man arī ir pieejama Chat Memory veidne, kas ir saistīta katrā vienā manā botā. Es to ielīmēšu zemāk un paskaidrošu, kā lietot katru sadaļu.

Vispirms jāsaprot: formatējums/Markdown (tie ## virsraksti un aizzīmju punkti visur) ir ar nolūku. Tas ir viegli saprotams formāts LLM/AI.

Informācijai tavā Chat Memory jābūt tiešai un kodolīgai.. Šī noteikti NAV vieta, kur lietot purpura prozu (vai jebkāda veida prozu). Tai jābūt gandrīz klīniskai. Lūk, tukšā veidne, lai jūs viegli varētu nokopēt/ielīmēt:

## Current Setting:
-

## Past Memories:
-

## {{User}} Important Info:
-

## {{Char}} Important Info:
-

## {{Char}} Relationship with {{User}}:
-

## Current Scenario:
-

## {{Char}}'s current dynamics with {{User}}:
-

Sāksim ar "Current Setting". Tas ir neobligāts. Es to izmantoju, jo esmu kanona/fandoma botu lietotājs/veidotājs, tāpēc dažkārt es vienkārši gribu pārliecināties, ka bots ievēro sižetu, bet tas nav nepieciešams.

Zemāk ir piemērs, kā es to izmantotu:

## Current Setting:
- Season 4.
- Year: 2022.

Ja, teiksim, tu raksti ar Homelander botu, kuram sākotnējais iestatījums bija 2. sezona, un tu virzīji sižetu tālāk, līdz nonāci pie 3. sezonas, piemēram, tev galu galā tas jāatjaunina savā Chat Memory. Neesmu pārliecināts, kā JLLM apstrādā šāda veida informāciju, bet tas palīdz proxy (īpaši jauniem modeļiem).

Tagad sapratīsim sadaļu "Past Memories" — SVARĪGĀKĀ TAVAS CHAT MEMORY DAĻA! Šeit tu apkopot sižetus. Viss svarīgais, kas notika starp tavu Sonu un varoni, jāiekļauj šeit, bet pēc iespējas kodolīgāk.

Lūk, piemērs:

## Past Memories:
- Mets un Nia satikās kopš 16 gadu vecuma. 18 gadu vecumā Mets iestājās armijā, lai iespaidotu savu tēvu, apsolot atgriezties. Uzturēja attiecības no attāluma ar vēstulēm, līdz Mets pārtrauca lasīt/atbildēt.
- Edvarda nosacījumi: Nia nevarēja pastāstīt Metam, līdz tiks apstiprināta paternitāte; Edvards pieprasīja piekļuvi, ja tas būtu viņa mazbērns. Nia piekrita.
- Mets atzina vainu, ka nelasīja vēstules, uzstāja, ka būtu atgriezies, ja būtu zinājis. Nia atļāva 5 minūtes ar viņu bērnu, kurš ticēja, ka viņas tēvs nomira karā. Mets pieņēma šo melus.
- Nia pārtrauca vizīti, izmeta Metu. Teica, ka viņš var redzēt viņu bērnu sava tēva mājā, 3 reizes nedēļā saskaņā ar viņas vienošanos ar Edvardu.

Tas, ko tu redzi iepriekš, ir aptuveni 100 ziņas, kas apkopotas četros aizzīmju punktos. Jo galu galā botam (Metam šajā piemērā) vienkārši jāatceras, ka viņš aizgāja uz karu, pārstāja atbildēt uz vēstulēm, atgriezās pie bērna, par kuru nezināja, ka viņam tāds ir, tika izmests, utt. Precīzās jūtas, kas bija tajā brīdī, nav jāiekļauj, jo AI tik un tā aizpildīs tukšās vietas.

Šī Chat Memory daļa bieži jāatjaunina ar tavu sižetu kopsavilkumiem hronoloģiskā secībā un pagātnes laikā. Nemulsini botu. Ja tās ir PAGĀTNES atmiņas, lieto PAGĀTNES laiku.

Daļa "{{User}} Important Info" ir vieta, kur pievienot jebko par tavu Sonu, ko šim botam jau vajadzētu zināt, vai nu tāpēc, ka tava Sona VIŅAM PASTĀSTĪJA tērzēšanas laikā, vai tāpēc, ka tas tika atklāts, vai tāpēc, ka tā ir zināma informācija.

Piemērs:

## {{User}} Important Info:
- Vecums: 26 gadi.
- Meita: Viņas bērns ar Metu. Leila, 6 gadus veca. Blondi mati, zaļas acis, maigas vasaras raibumus uz deguna un vaigiem, gaiša āda.
- Dzīvo Manhatanā, Lejasaustrumu pusē.

Es parasti šeit iestatu savas Sonas vecumu. Kāpēc ne Personas profilā? Jo tādā veidā es varu atkārtoti izmantot to pašu Personu dažādos scenārijos, kuros es gribētu izmantot šo Personu, bet ar citu vecumu. ;) Glāb pasauli, pārstrādā savas Sonas.

Šeit arī ietilptu tavas Sonas "Fona stāsts", ja varonim ir svarīgi par to zināt, bet pārliecinies, ka tas šeit pievienots tokenu ziņā efektīvā veidā. Nekādu pušķošanu šajā sadaļā. Tikai informācija!

Sadaļai "{{Char}} Important Info" jābūt šeit tikai tad, ja tev IR ko pievienot. Piemēram, viņu vecums vai kaut kas svarīgs tava sižeta attīstībai. Pieņemsim, ka 50 ziņu laikā varonis zaudēja kāju. Tu pievienotu kaut ko līdzīgu:

## {{Char}} Important Info:
- Zaudēja kāju pēc Tā-vai-cita kaujas.

"{{Char}} Relationship with {{User}}" ir tavu PAŠREIZĒJO attiecību ar botu STATUSS. Tātad, ja jūs sākāt kā "Sāncenši", tam vajadzētu teikt "Mūža sāncenši", piemēram. Bet, ja 50 ziņu laikā jūs kļuvāt par draugiem, NOŅEM "Sāncenšu" lietu un aizstāj to ar "Draugi".

Kāpēc es nevaru vienkārši pievienot "Draugi" zem "Sāncenšiem"?

Jo tas mulsinās botu. Ja kaut kas notika, kas mainīja attiecības starp šiem varoņiem, tas jāapkopo un jāpievieno sadaļai "Past Memories". Bots no tā atcerēsies, ka jūs NEKAD nebijāt draugi, bet šai daļai jānorāda, kas jūs esat TAGAD.

Piemēri:

## {{Char}} Relationship with {{User}}:
- Romantiskas ekskluzīvas attiecības. Pašlaik dzīvo kopā.

VAI

## {{Char}} Relationship with {{User}}:
- Svešinieki. Tikko satikušies.

VAI

## {{Char}} Relationship with {{User}}:
- Sāncenši kopš bērnības.

"Current Scenario" ir vieta, kur aprakstīsi ainu par to, kas pašlaik notiek.

Piemērs:

## Current Scenario:
- META dzīvokļu ēka, viņa penthouse. Rīts. Mets un {{User}} ir gultā, sarunājas.

"{{Char}}'s current dynamics with {{User}}" ir vieta, kur detalizēsi (nepārspīlējot) jūtas, dinamiku utt. Kā varonis jūtas pret Lietotāju UN kā Lietotājs pašlaik izturas pret varoni.

Šādi tu IESTATI TEMPU Slow Burn, piemēram. Šeit tu pasaki botam, ka NĒ, viņš nav iemīlējies. Viņš faktiski neuzticas Lietotājam, vēl nepazīst viņu, vēl iepazīst viņu utt. Kad tas sāk mainīties tērzēšanā, ar tavu rakstīšanu, tu ej uz Chat Memory un maini to, lai to atspoguļotu.

Zemāk esošais piemērs ir no bota ar jau attīstītām attiecībām.

## {{Char}}’s current dynamics with {{User}}:
- Mets ir rūkš, aizsargājošs, spītīgs, skaidri rūpējas par Nias drošību un ir pieķēries viņai
- Starp viņiem ir skaidra pievilcība un savstarpēja cieņa
- Attiecības kļūst arvien atklātāk atzītas
- Abi izrāda rūpes viens par otru savā veidā

Šādi tas izskatītos, kad tu to visu aizpildītu (Aptuveni 360 tokeni):

## Current Setting:
- Season 4.
- Year: 2022.

## Past Memories:
- Mets un Nia satikās kopš 16 gadu vecuma. 18 gadu vecumā Mets iestājās armijā, lai iespaidotu savu tēvu, apsolot atgriezties. Uzturēja attiecības no attāluma ar vēstulēm, līdz Mets pārtrauca lasīt/atbildēt.
- Edvarda nosacījumi: Nia nevarēja pastāstīt Metam, līdz tiks apstiprināta paternitāte; Edvards pieprasīja piekļuvi, ja tas būtu viņa mazbērns. Nia piekrita.
- Mets atzina vainu, ka nelasīja vēstules, uzstāja, ka būtu atgriezies, ja būtu zinājis. Nia atļāva 5 minūtes ar viņu bērnu, kurš ticēja, ka viņas tēvs nomira karā. Mets pieņēma šo melus.
- Nia pārtrauca vizīti, izmeta Metu. Teica, ka viņš var redzēt viņu bērnu sava tēva mājā, 3 reizes nedēļā saskaņā ar viņas vienošanos ar Edvardu.

## {{User}} Important Info:
- Vecums: 26 gadi.
- Meita: Viņas bērns ar Metu. Leila, 6 gadus veca. Blondi mati, zaļas acis, maigas vasaras raibumus uz deguna un vaigiem, gaiša āda.
- Dzīvo Manhatanā, Lejasaustrumu pusē.

## {{Char}} Important Info:
- Zaudēja kāju pēc Tā-vai-cita kaujas.

## {{Char}} Relationship with {{User}}:
- Romantiskas ekskluzīvas attiecības. Pašlaik dzīvo kopā.

## Current Scenario:
- META dzīvokļu ēka, viņa penthouse. Rīts. Mets un {{User}} ir gultā, sarunājas.

## {{Char}}’s current dynamics with {{User}}: [Izmanto īsus vārdus/frāzes]
- Mets ir rūkš, aizsargājošs, spītīgs, skaidri rūpējas par Nias drošību un ir pieķēries viņai
- Starp viņiem ir skaidra pievilcība un savstarpēja cieņa
- Attiecības kļūst arvien atklātāk atzītas
- Abi izrāda rūpes viens par otru savā veidā

Bet kad man jāsāk lietot sava Chat Memory?

MANUPRĀT, kad vien beidzas "aina". Piemēram: kāds (vai nu Sona vai Bots) izgāja no telpas un ir laika lēciens. Vai jūs aizmigāt, piemēram. Vienkārši domā par to kā par filmu vai televīzijas šovu. Ja šķiet, ka "aina" mainītos, uztaisi pauzi, ej uz savu Chat Memory, atjaunini un saglabā to.

Kā man lietot Chat Memory ar taviem botiem, kuriem ir ievadi, kas jāspēlē secībā, piemēram, šis vai šis?

Lūk, soli pa solim droša rokasgrāmata:

01 - Izlasi vismaz visu ievadu kopsavilkumus, lai tev būtu PRIEKŠSTATS par to, kas tie visi ir.
02 - Raksti normāli, kā rakstītu ar botu, izmantojot pirmo ievadu (un izmanto Chat Memory, ja tas kļūst garš!)
03 - Kad tava tērzēšana sasniedz dabisku beigas un vēlies pāriet uz nākamo ievadu, atjaunini Chat Memory uz tērzēšanas pašreizējo stāvokli, saglabā to, nokopē to.
04 - Atver jaunu tērzēšanu ar to pašu botu, izvēlies nākamo ievadu, noklikšķini uz Chat Memory un IELĪMĒ informāciju, ko nokopēji no pirmās tērzēšanas.
05 - Saglabā, atsvaidzini lapu un sāc rakstīt.
06 - Atkārto procesu!

Un tas arī viss! Es zinu, ka tas izskatās pēc daudz kā, bet tas tikai tāpēc, ka esmu pļāpātājs. Tici man, tas ir viegli, kad sāc to apgūt.

Ceru, ka tas palīdzēs visiem, kas jautājuši par Chat Memory un par to, kā to pareizi lietot. Vēlreiz, šādi es to izmantoju! Citiem var būt arī vērtīgs ieskats! <3

Ja esi proxy lietotājs: burtiski nekas nemainās, izņemot to, ka tev droši vien ir daudz lielāks Konteksta logs (esmu redzējis 16k, 32k, 64k un vairāk), tāpēc tev nevajadzēs atjaunināt savu Chat Memory tik bieži.

Tāpat: DOMĀJOŠIE MODEĻI VIENMĒR DARBOJAS LABĀK! Es zinu, ka daudziem no jums nepatīk domājošie modeļi, bet tā tas ir. Domājošie modeļi vienkārši ir pārāki un labāk ievēro noteikumus un instrukcijas, pat ja tie atbild nedaudz ilgāk.

Es nevaru runāt par modeļiem, kas man īpaši nepatīk vai ko neiesaku (piemēram, DeepSeek, starp daudziem citiem), bet, ja tu lieto GLM, Gemini, Claude vai Kimi, es varbūt varu tev palīdzēt, ja saskaries ar problēmu!

Paldies par lasīšanu!

čau, skaistules!