Janitor
Sākums
Ctrl K
PieteiktiesReģistrēties

OpenRouter apmācība

Tulkots no angļu valodas·

OpenRouter Tutorial

1,6 tūkst.

5,6 tūkst.

by:@tarnisator

Šī ir īsa apmācība par starpniekserveru iestatīšanu ar OpenRouter. Uz 2025. gada 18. jūliju šis ir pakalpojumu sniedzējs ar patiesi bezmaksas līmeni dažiem diezgan labiem modeļiem (piem., DeepSeek). Gemini ir otra bezmaksas iespēja, taču tā iestatīšana ir daudz sarežģītāka. Ja būs pieprasījums, varu izveidot vēl vienu apmācību. :)

Atjauninājums (2025. gada 27. jūlijs): JanitorAI pievienoja starpniekserveru profilus. Iestatīšana joprojām ir līdzīga. Tagad vari izveidot vienu starpniekservera profilu katram modelim, kuru vēlies izmantot. Noteikti atsvaidzini lapu, pārslēdzoties. Ja tas joprojām neizdodas savienot, nedaudz pakoriģē API atslēgu uz priekšu un atpakaļ, pēc tam saglabā.


Bezmaksas līmenis (50 pieprasījumi dienā atsevišķiem modeļiem)

  1. Izveido kontu OpenRouter. https://openrouter.ai

  2. Noklikšķini uz sava profila > Keys.

  3. Noklikšķini uz "Create API Key".

  4. Piešķir savai jaunajai atslēgai nosaukumu, piem., Janitor. Apstiprini ar "Create".

  5. Nokopē un saglabā savu atslēgu kaut kur datorā. Tā pazudīs pēc tam, kad noklikšķināsi prom!

  6. Janitor AI atver čatu. Pēc tam atver API iestatījumus. (Izvēlne > API settings VAI Noklikšķini using janitor/proxy). Izvēlies Proxy.

  7. Iestati sekojošo:

    • Modeļa nosaukums (izvēlies Custom): deepseek/deepseek-chat-v3-0324:free. Šis ir piemērs. Tas var vairs nebūt pieejams.

      • Lai iegūtu vairāk ieteikumu, skati zemāk.

    • Starpniekservera URL: https://openrouter.ai/api/v1/chat/completions

      • Neklikšķini uz "Add/chat/completions to url". Tas jau ir URL.

    • API atslēga: Ielīmē API atslēgu, kuru izveidoji OpenRouter. Tas ir patiešām garš gabals, kas, iespējams, sākas ar "sk-...".

    • Tas ir kā Advanced Prompt priekš JLLM, bet ar jailbreak tajā.

      • Ieteikums: https://cheesey-wizards-organization.gitbook.io/masterlist/prompts-and-troubleshooting/my-prompt

  8. Noklikšķini uz "Save Settings".

    • (Ieteicams) Pieņem noklusējuma OpenAI ģenerēšanas iestatījumus un pēc tam samazini temperature uz 0-0.1 (jā!) un max tokens uz 0 (bezgalīgi).

  9. Atsvaidzini savu Janitor AI čatu. Svarīgi!

    • Ja to nedarīsi, tu redzēsi kļūdas ziņojumu, kad mēģināsi čatot.

Un viss ir gatavs!


Maksas līmenis

Uz 2025. gada 18. jūliju cena ir vienreizējs maksājums 10 ASV dolāru apmērā, lai uz visiem laikiem atbloķētu augstāku pieprasījumu limitu — 1000 pieprasījumi dienā — tiem pašiem bezmaksas modeļiem, kas pieejami bezmaksas līmeņa lietotājiem. Ja izvēlies maksas modeli, limita nav. Tomēr tava konta bilance tiks patērēta par katru lietošanu. Katram maksas modelim ir sava cena, un tā balstās uz marķieru (token) skaitu.

Ja vari to atļauties, iesaku tos 10 ASV dolārus. Es viegli pārsniedzu iepriekšējo 50 limitu, kad mani patiešām aizrauj izklaide. Atbildes pārģenerēšana skaitās kā atsevišķs pieprasījums.

Kad sasniegsi sava līmeņa limitu — 50 vai 1000 pieprasījumi dienā —, tu sāksi redzēt kļūdas ziņojumu katru reizi, kad čatosi.

Lai ielādētu bilanci savā kontā, dodies uz Profile > Credits. Maksājums tiek veikts ar kredītkarti vai kriptovalūtu.


OpenRouter bezmaksas modeļi

OpenRouter piedāvā daudzus bezmaksas līmeņa modeļus, kas mainās visu laiku. Lai tos redzētu, noklikšķini uz "Models" un nomaini prompt pricing uz 0. Vai noklikšķini šeit: https://openrouter.ai/models?max_price=0

Zinātkārajiem: lielāko daļu modeļu faktiski nehostē OpenRouter. Tos hostē pakalpojumu sniedzēji (piemēram, Chutes AI) un prezentē OpenRouter. Tas ir kā mazumtirdzniecības veikals.

Visi modeļi cieš no ievērojamām kvalitātes problēmām garos konteksta garumos. Pēc 16-20k marķieriem (token) es novēroju, ka DeepSeek modeļi darbojas līdzīgā līmenī kā JLLM. Šeit ir pētījums, kurā testē LLM garo kontekstu lomu spēlēs! https://fiction.live/stories/Fiction-liveBench-Feb-19-2025/oQdzQvKHw8JyXbN87

Ja tev ir kādi jautājumi, droši raksti, un varbūt kāds tev palīdzēs!

Izveidots 2025. g. 18. jūl.

Atjaunināts 25. febr.

Publicēts 2025. g. 18. jūl.

starpniekserveris atļauts

Publicētās sarunas