Tulkots no angļu valodas
Sveiki visiem!
Šis nav parasts atjauninājums, un šī būs pēdējā ziņa, ko publicēšu, pirms beidzot augšupielādēšu nākamo botu partiju.
Strādājot pie Yang, es aizdomājos par kaut ko:
Daži cilvēki varbūt nezina, kādi API ir labākie maniem botiem. Vai kāds ir lētāks API lietošanas veids?
Tagad pie tā ķeršos.
Pirmkārt, es neveidoju botus JLLM. JLLM man šķiet nopietni novecojis, un es vienmēr beigās veidoju botus ar lielu tokenu skaitu, kas nopietni iznīcina JLLM konteksta logu.
Nē, ko es faktiski izmantoju, ir API maisījums.
-Deepseek šobrīd ir vispopulārākais, bet var būt dārgs atkarībā no varoņa lieluma un garām lomu spēlēm. Ar šo es nopietni ieteiktu saglabāt atmiņu ik pēc 12 līdz 15 ziņām, lai atbrīvotu vietu. Deepseek ir ļoti labs arī sarunvalodas un parastajās lomu spēlēs.
-Es arī izmantoju Grok, galvenokārt NSFW lomu spēlēm. Man šķiet, ka tas raksta ievērojami labāk nekā Deepseek ERP laikā un ir mazāk atkārtojošs. Tomēr: tā darbināšana joprojām ir dārgāka.
Bet man šķiet, ka abu maisījums strādā labi. Es arī atklāju, ka Grok mēdz sekot skriptiem un lorebookiem tūkstoš reižu labāk. Deepseek ir arī dažāds, un tas kļūst vecāks.
Citi API, ko esmu izmantojis un kas ir labi aizstājēji:
Trinity - Šo es tikko testēju uz Monika, un man šķita, ka tas raksta ļoti labi. Un tas ir lētāks.
Qwen3 235B A22B Instruct 2507 - Viens no lētākajiem variantiem, bet kļūst atkārtojošs.
Step 3.5 Flash - Openrouter bija šī bezmaksas versija, bet viņi mēdz neļaut ekstrēmu NSFW. Un viņi mēdz ierobežot darbību dīvainos laikos.
Es neizmantoju Chatgpt, esmu pamanījis, ka tas var būt labs rakstīšanā, bet man tas ir pārāk dārgs. Tāpat ar GLM 5 (lai gan tas ir viens no labākajiem cenzūras ziņā). Un Chatgpt cenzē būtībā visu.
Iestatījumi:
Temp: Deepseek: .30-.50 (lai gan tas var kļūt mazliet "pārāk" radošs) Pārējiem: 1.0-1.20
Max Tokens: Manējie ir ap tūkstoti, bet tas patiešām ir atkarīgs no tevis. Jāsaka, jo vairāk tokenu tas ģenerē uz ziņu, jo dārgāk.
Konteksta lielums: Manējie ir maksimāli izmantoti, bet atkal atkarīgs no tevis.
Papildu iestatījumi:
Top K: 80. Šis iestatījums samazina bezjēdzīgas ģenerācijas.
Top P: .8-.85. AI parametrs, kas kontrolē teksta ģenerācijas radošumu, ierobežojot nākamā vārda izvēli līdz mazākajai augstāk ranžēto vārdu apakškopai, kuras kumulatīvā varbūtība pārsniedz slieksni
Soda koeficients par atkārtošanos: Apmēram 1.0-1.20. Tas soda AI par noteiktu vārdu pārāk biežu atkārtošanu.
Biežuma sods: 0.4-0.6. samazina tokenu atkārtošanos, piemērojot sodu proporcionāli tam, cik bieži vārds jau ir parādījies tekstā.
Un jā, es izmantoju visus šos iestatījumus vienādi visos LLM. Izņemot temperatūras iestatījumus.
Es parasti reizi mēnesī ieskaitīju 10$ Openrouter un, izmantojot šo metodi, tas parasti pietiek 4-6 nedēļām.
Izveidots 25. apr.
Atjaunināts 25. apr.
Publicēts 25. apr.