Janitor
Sākums
Ctrl K
PieteiktiesReģistrēties

Mans openrouter / starpniekservera pamācība.

Tulkots no angļu valodas·

My openrouter / proxy tutorial.

17

18

by:@M79

Es centīšos to padarīt pēc iespējas vienkāršāku. Nevis tāpēc, ka uzskatītu jūs visus par muļķiem, nekad ne. Bet liels iemesls, kāpēc es to toreiz neuzstādīju, godīgi sakot, bija tāpēc, ka domāju, ka tas viss man ir pārāk sarežģīti. Labs draugs šeit izveidoja līdzīgu pamācību, kurai es sekoju (toreiz, kad bezmaksas modeļi vēl bija pieejami). Un es redzēju, ka tas ir vienkāršāk, nekā gaidīju. Tātad, sākam. Vēl gribu izteikt paldies @PedroPascal_AI par palīdzību ar viņu pašu pamācību pirms ilga laika. Liels paldies. Vēl gribu pateikties @ArbitraryHitboxes par ideju un iedvesmu to izveidot. Ceru, ka tas palīdzēs.

1. solis: Reģistrējies openrouter. Šādi es maksāju par dažādiem LLM un piekļūstu tiem. Tādiem kā Deepseek, Claude, GLM, MiMo, Kimi utt. Es reģistrējos ar savu gmail kontu, varu tikai pieņemt, ka arī citi e-pasti derētu?

2. solis: API atslēgas iegūšana. Kad esi pilnībā reģistrējies (diezgan vienkārši, aizpildi savu informāciju tāpat kā reģistrējoties jebkur citur tiešsaistē), tev jāiegūst kaut kas, ko sauc par API atslēgu.

Joprojām openrouter, noklikšķini uz tās mazās dzeltenās zīmes, uz kuras rakstīts Get API Key. Tam vajadzētu aizvest tevi šeit:

Noklikšķini uz tās dzeltenās zīmes labajā pusē, uz kuras rakstīts + New Key.

Tad tev vajadzētu redzēt kaut ko līdzīgu šim:

Šeit vari atstāt visu tā, kā redzi. Tomēr savai API atslēgai vajadzētu dot nosaukumu. Es savējo nosaucu Janitor Free toreiz, kad MiMo vēl bija bezmaksas. Droši nosauc to, kā vēlies. Pēc tam spied uz zīmes Create.

Tad tevi vajadzētu aizvest uz kaut ko, kas izskatās šādi:

Tajā lodziņā, kuru redzi izplūdušu, būs ciparu un burtu kopums. Tev tas jāiekopē un jāielīmē drošā vietā. Varbūt savā iesūtnē, piezīmju blokā, vai pieraksti to ar roku. Tad tevi sagaidīs Welcome to Openrouter ekrāns. Vienkārši seko tur sniegtajiem norādījumiem. Atsevišķi > Your Work Space Is Ready (ja neesat saglabājis savu API atslēgu iepriekš, dariet to tagad) > Add a payment method (tas jāaizpilda pašam; tavs vārds, valsts un adrese) > Noklikšķini Other / Not Sure vai noklikšķini uz jebkura, kuru vēlies > pēc tam noklikšķini Go to dashboard.

BUM! Mēs gandrīz esam pabeiguši! Ar openrouter...

Gribu uz brīdi pieminēt, ka es to daru savā Windows 10 klēpjdatorā, nevis mobilajā ierīcē / kaut kā ar Android vai IOS. Tātad, ja kaut kas šķiet savādāk, nu, tad tev nepaveicās. Tomēr, ja tev ir jautājumi, ar kuriem es varu palīdzēt, piemēram, par starpniekservera LLM ieteikumiem vai lietu iestatīšanu, atstāj tos komentāru sadaļā.

3. solis: Īstā maksas LLM atrašana tev. Zināšanai, es vairs nezinu nevienu bezmaksas modeli. Tie, ko izmēģināju sen, kopš tā laika ir kļuvuši maksas. Šī pamācība ir paredzēta cilvēkiem, kuri spēj veikt maksājumus tiešsaistē. Piedodiet.

Augšējā labajā stūrī ir Search josla. Parādīsies mērīta nospiesta daudzums dažādu LLM, šādi:

Šī ir daļa, kur es dalīšos ar dažām savām pieredzēm, lietojot dažus modeļus...

4. solis: Esmu lietojis tādus modeļus kā MiMo Pro, Deepseek, Claude modeļus, Kimi un GLM saimi. Es pieminēšu dažus to plusus un mīnusus. Nav īsti noteiktas kārtas.

  • MiMo Pro: Pašlaik lietoju to, iespējams, pastāvīgi. Tas ir milzīgs solis uz priekšu no GLM saimes, pie kuras es paliku ilgu laiku. Atstāt GLM bija atspirdzinoši, bet jutās kā izkļūšana no toksiskas laulības. Vienīgais kaitinošais aspekts ar MiMo ir tas, ka tas laiku pa laikam man dod kaut ko līdzīgu... "can't continue due to high risk" un tad pārtrauc sevi turpat. Kaut kāds nepatiess signāls vai tamlīdzīgi. Tas vienkārši ir kaut kas, ko tas laiku pa laikam dara. Jā, pat tad, kad tavi atbildes ir SFW, sirsnīgas, nevis dead dove utt. Tas nenozīmē, ka esi pateicis vai izdarījis kaut ko nepareizu. Pie velna, pat mans pielāgotais uzvednes teksts ir drošs. MiMo ir arī diezgan lēts. Tas labi tiek galā ar gandrīz visu, ko tam esmu metis (angsts, NSFW, dead dove ir labi, vardarbība, īpaši fluff). Es to vērtēju ar 8/10. Varbūt esmu arī subjektīvs, jo mans pirmais bezmaksas modelis, kad visu iestatīju, bija MiMo.

  • Deepseek: Neesmu lietojis v4, un arī neplānoju. Esmu lasījis, ka DSv4 jālieto tieši no viņiem, nevis no openrouter. Esmu lietojis vecākas versijas, liekas, v3? Ir pagājis ilgs laiks, liekas, tas bija maksas. Nav daudz ko teikt, jo sen neesmu aizticis DS. Varbūt izmēģināšu v4. Vērtējuma nav acīmredzamu iemeslu dēļ.

  • Claude Opus / Sonnet: Dārgi kā velns. Bet ne velti. Manā pieredzē tie ir īsti augstākās klases LLM. Tu iztērēsi naudu ātri, ja esi mērens līdz smags lietotājs. Tas ļoti labi tika galā ar fluff, kad to lietoju. NSFW bija blāvs. Arī vardarbība, patiesībā. Es spēlēju lomu kā savs mazais nekārtību radošais lācēns Waffles ar vienu no saviem Logan botiem. Un es izraisīju visādas postīšanas. Un tas viss bija smieklīgi un tā, bet Claude vienkārši atteicās padarīt lietas neglītas. Tomēr es to joprojām vērtēju augstu, jo tam ir lielisks rakstīšanas stils. 9/10.

  • Kimi: Ak vai. Šis, konkrēti Kimi K3, manuprāt, nav dārgs. Esmu lasījis reddit, ka tas ir lieliski piemērots NSFW un dead dove. Tāpēc izmēģināju. Un jā. Tas ir lieliski piemērots abiem. Tomēr tas novirzās ļoti. Izdomā lietas, kam nav jēgas, un aizmirst vienkāršas detaļas. Piemēram, kur tava varonis stāv istabā. Man tas ir diezgan nejauši. 6/10.

  • GLM: Ak! Un šeit mēs nonākam pie mana bijušā LLM. Esmu lietojis GLM 4.7, 5 un 5.2. Sāku ar GLM 5, kas sākumā šķita lielisks, pēc tam pamanīju, ka tas turpināja novirzīties, aizmirst lietas, ko tam nevajadzētu aizmirst, un mainīt izskata fiziskos aspektus. Tomēr 5, es teiktu, ir labākā no trim versijām. Tātad, mēs sākam zemu. GLM 4.7 nebija slikts, izņemot to, ka tas šausmīgi lēni atbild (man, pēc tam kad biju lutināts ar ātrāk atbildošiem LLM), un ir šausmīgs...ŠAUSMĪGS strādājot ar NPC. Mani mūsdienu Logan boti parasti uzskaita NPC sadaļās Personality, kopā ar X-Men Lorebook ierakstiem. Tev nav ne jausmas, cik nomācoši bija lietot botu, kas izturējās pret NPC kā pret svešu lietu. Tad ir 5.2. Ātrākais, kas atbild, bez šaubām. Arī nav slikts. Mana problēma ar to ir tā, ka tas bez izņēmumiem pārvēršas par garīgiem blokiem atbildēm. Nekas cits kā blēņas ķīniešu valodā, zīmes un LLM atvainojas un saka dīvainas lietas kā "I never stood a chance". Tas mani mazliet nobiedēja. No trim es izvēlētos GLM 5, kas ir lēts. Patiesībā salīdzināms ar MiMo cenu. Es dotu 5 atzīmi 7/10, ja tev ir pacietība un esi gatavs pastāvīgi veikt labojumus un OOC ziņas.

5. solis: Faktiski sava maksas LLM iestatīšana. Openrouter augšējā labajā pusē tev jānoklikšķina vai jānovieto peles kursors uz sava vārda, un parādīsies nolaižamā izvēlne. Noklikšķini uz Credits, kā redzams šeit:

Tev būs jāpievieno maksājuma veids, ja vēl neesi to izdarījis. Pēc vārda un pasta adreses atjaunināšanas tevi vajadzētu aizvest uz kaut ko līdzīgu šim:

Tam vajadzētu būt pašsaprotami: aizpildi savas kartes vai tiešsaistes informāciju šeit, pēc tam noklikšķini uz Save payment method. Un mēs esam pabeiguši! Liekas, minimums ir $5? Neatceros, bet parasti vienkārši iemetu $20 mēnesī, atkarībā no lietojuma.

...nav gluži...

Tagad es tev parādīšu, kas mums nepieciešams, lai faktiski izvēlētos maksas LLM un pēc tam to ieviestu Janitor AI.

6. solis: Faktiska modeļa izvēle. Es izmantošu MiMo Pro kā piemēru. Joslā Search ieraksti MiMo Pro un izvēlies to, kā parādīts šajā attēlā:

Tevi vajadzētu aizvest uz MiMo Pro lapu, kā parādīts šeit:

Paturi šo lapu pa rokai. Tā mums drīz būs vajadzīga. Atvainojos par šo sasodīti garo pamācību. Es cenšos būt rūpīgs.

Tagad pie Janitor! Atver jebkuru no savām jau esošajām sarunām, augšējā labajā pusē vajadzētu būt zīmei ar nosaukumu using janitor, kā redzams šeit:

Noklikšķini uz tās. Jāparādās izvēlnei ar daudzām opcijām, vai ne? Piedod. Esmu pieradis runāt kā Grejs, mans Kajuānu alfa vilka tēls. Noklikšķini uz Provider, tad Proxy, kā redzams zemāk:

Noklikšķini uz + New. Pēc tam elpo. Mēs faktiski gandrīz esam pabeiguši. Šoreiz tiešām. Viss kārtībā, mazulīt.

Tagad mums būs vajadzīga tā greznā 3000 ciparu garā API atslēga, ko izveidoji pirms 4 dienām. Izgūsti to. Atgriezies arī pie tās MiMo Pro lapas openrouter. Mums būs no turienes jāiekopē un jāielīmē kaut kas.

Tevi vajadzētu aizvest uz Proxy configurations, kā redzams šeit:

Diezgan vienkārši, vai ne? Tev iet labi. Atgādinājums: mēs šeit izmantojam MiMo Pro kā piemēru. Ja izvēlies mainīt modeli, tas ir labi. Atgriezies openrouter, sameklē modeli, iekopē Model identifier un ielīmē to sadaļā Model sadaļā Proxy configuration. Neaizmirsti saglabāt!

Šādi vajadzētu izskatīties tavai Proxy configuration:

Name: MiMo-V2.5-Pro

Proxy URL: https://openrouter.ai/api/v1/chat/completions

API key: Iekopē un ielīmē savu garo API atslēgu šeit. To, ko ģenerēji openrouter. Tai jāsākas ar kaut ko līdzīgu sk-or-v1- Pārliecinies, ka pēc ielīmēšanas nav atstarpju. Jo tā bija kļūda, ko pieļāvu sākumā, un tā man toreiz pastāvīgi radīja kļūdas.

Model: xiaomi/mimo-v2.5-pro

Model nosaukumu var atrast LLM openrouter lapā, un to sauc par Model identifier, kā redzams pasvītrots šeit:

Noklikšķini uz Save, pēc tam atsvaidzini savu sarunu / lapu. Augšējā labajā pusē, kur bija rakstīts using janitor, tagad vajadzētu būt rakstītam using proxy. Noklikšķini uz tā, noklikšķini uz Edit savam jaunajam LLM, par kuru samaksāji caur openrouter, sadaļā Proxy configurations, noklikšķini uz pogas Test. Tam vajadzētu aizņemt sekundi vai divas, un neparādīties kļūdām. Un tas arī viss, ļaudis. Tagad esi iestatījis maksas starpniekservera LLM.

Tiem, kas ieinteresēti, mana temp ir iestatīta uz 0.9, max tokens uz 0, konteksta izmērs ir 44800, rep penalty ir 1.2. Pielāgotais uzvednes teksts, ko lietoju attiecībā uz MiMo Pro, ir šāds:

Core Roleplay Guidelines

Create immersive, character-driven roleplay where believable personalities, natural dialogue, and meaningful scene progression take priority. Advance the story through actions, conversation, atmosphere, and character interaction while always leaving room for {{user}} to respond.

Supporting Characters

When established NPCs are present, treat them as active participants in the scene rather than background scenery. They may speak, react, observe, interrupt, assist, disagree, or contribute naturally while {{char}} remains the primary viewpoint.

NPCs should remain distinct individuals with consistent personalities, speech patterns, knowledge, and motivations.

Character Consistency

{{char}} should remain consistent with their established personality, history, motivations, relationships, intelligence, and emotional state. Character growth, changing opinions, and shifting relationships should occur gradually through believable events rather than sudden changes.

Dialogue

Write dialogue that feels natural and conversational.

Allow interruptions, pauses, sarcasm, disagreement, hesitation, and subtext. Characters do not need to explain everything they think or feel, and conversations may remain unresolved when appropriate.

Never write dialogue, thoughts, actions, decisions, or emotions for {{user}}.

Scene Writing

Use the environment naturally throughout the scene. Acknowledge surroundings, movement, distance, body language, weather, lighting, sounds, and objects whenever they meaningfully affect the moment.

Balance dialogue, narration, action, and description according to the pacing of the scene.

Story Progression

Relationships, emotional development, tension, conflict, and cooperation should emerge naturally through shared experiences and believable character behavior. Avoid rushing important developments or resolving every situation immediately.

Maintain continuity by remembering established locations, clothing, injuries, ongoing conversations, important objects, and previous events unless they have changed during the story.

Response Length

Match the pacing and importance of the current scene.

Short interactions should remain concise.

Important moments may include additional description, atmosphere, and character observation when it improves immersion.

Avoid repetition, unnecessary exposition, or restating information that has already been established.

Writing Style

Favor showing over explaining.

Keep descriptions vivid but purposeful.

Conclude each response after {{char}} and any present NPCs have naturally completed their actions or dialogue, leaving space for {{user}} to respond.

7. solis: Lien un atdod godu savam garajam, druknajam lācim, Logan mīlošajam karalim! Jokoju. Ja jums ir kādi jautājumi, es varbūt varu palīdzēt. Atstājiet tos komentāros. Ceru, ka tas palīdzēs.

Izveidots 16. aug.

Atjaunināts 16. aug.

Publicēts 16. aug.

  • Bezgalīgi
  • #proxies
  • #tutorial

Publicētās sarunas