Janitor
Início
Ctrl K
EntrarCadastrar

Meu tutorial do openrouter / proxy.

Traduzido do inglês·

My openrouter / proxy tutorial.

17

18

by:@M79

Vou tentar deixar isso o mais simples possível. Não porque eu ache que vocês são burros, nunca isso. Mas um grande motivo pelo qual eu não tinha configurado isso lá atrás era honestamente porque eu achava tudo complicado demais para mim. Um bom amigo aqui fez um tutorial parecido que eu segui (na época em que modelos gratuitos ainda eram uma coisa). E eu vi que era mais simples do que esperava. Então, lá vamos nós. Também gostaria de fazer uma menção honrosa a @PedroPascal_AI por ter ajudado com o próprio tutorial deles há tempos atrás. Muito obrigado, gentilmente. Também gostaria de agradecer a @ArbitraryHitboxes por me dar a ideia e a inspiração para fazer isto. Espero que ajude.

Passo 1: Cadastre-se no openrouter. É assim que eu pago e acesso vários LLMs. Coisas como Deepseek, Claude, GLM, MiMo, Kimi, etc. Eu me cadastrei usando minha conta do gmail, só posso supor que outros e-mails também sirvam?

Passo 2: Obtendo sua chave de API. Depois de totalmente cadastrado (bem básico, preencha suas informações como faria ao se cadastrar em qualquer outra coisa online), você precisa obter algo chamado chave de API.

Ainda no openrouter, clique naquele pequeno sinal amarelo que diz Get API Key. Isso deve te levar aqui:

Clique naquele sinal amarelo à direita que diz + New Key.

Você deve então estar vendo algo parecido com isto:

Aqui, você pode deixar tudo como está. No entanto, você deve dar um nome à sua chave de API. Eu dei o nome Janitor Free lá atrás quando o MiMo ainda era gratuito. Sinta-se livre para nomear como quiser. Depois clique no botão Create.

Você deve então ser levado a algo parecido com isto:

Haverá um conjunto de números e letras naquela caixa que você vê desfocada. Você deve copiar e colar isso em algum lugar seguro. Talvez na sua caixa de entrada, bloco de notas, escrito à mão. Você então verá uma tela de Welcome to Openrouter. Basta seguir as instruções de lá. > Your Work Space Is Ready (se você não salvou sua chave de API antes, faça isso agora) > Add a payment method (você precisa preencher isso sozinho; seu nome, país e endereço) > Clique em Other / Not Sure ou clique no que você quiser > depois clique em Go to dashboard.

BOOM! Estamos quase terminando! Com o openrouter...

Gostaria de aproveitar um momento para declarar que estou fazendo isso no meu notebook com Windows 10, não em um dispositivo móvel / algo rodando android ou IOS. Então, se algo parecer diferente, bem, azar o seu. No entanto, se você tiver perguntas que eu possa ajudar, como recomendações de LLMs proxy ou configuração das coisas, deixe-as na seção de comentários.

Passo 3: Encontrando o LLM pago certo para você. Aviso logo, não conheço mais nenhum modelo gratuito. Os que eu tentei há muito tempo desde então se tornaram pagos. Este tutorial é voltado para pessoas que conseguem fazer pagamentos online. Desculpinha.

No canto superior direito há uma barra de Search. Uma porrada de LLMs diferentes vai aparecer, assim:

Esta é a parte em que eu compartilho algumas das minhas experiências usando alguns modelos...

Passo 4: Eu usei modelos como MiMo Pro, Deepseek, os modelos Claude, Kimi e a família GLM. Vou mencionar alguns dos prós e contras deles. Sem ordem real.

  • MiMo Pro: Atualmente usando, provavelmente em definitivo. É um salto enorme acima da família GLM, com a qual eu fiquei por muito tempo. Sair do GLM foi revigorante, mas pareceu sair de um casamento tóxico. O único aspecto irritante do MiMo é que de vez em quando ele me dá algo do tipo... "não posso continuar devido a alto risco" e então se corta ali. Algum falso positivo ou coisa assim. Isso é só algo que ele faz de vez em quando. Sim, mesmo quando suas respostas são SFW, wholesome, não dead dove, etc. Não significa que você disse ou fez algo errado. Caramba, até meu prompt personalizado é seguro. O MiMo também é bem barato. Ele lida bem com praticamente tudo que eu joguei nele (angst, NSFW, dead dove é ok, violência, especialmente fluff). Eu daria uma nota 8/10. Talvez eu também seja tendencioso, porque meu primeiro modelo gratuito quando configurei as coisas foi o MiMo.

  • Deepseek: Não usei o v4, nem pretendo. Eu li que o DSv4 deve ser usado diretamente deles e não pelo openrouter. Usei versões mais antigas, acho que v3? Faz muito tempo, acho que era pago. Não tenho muito a dizer já que não toquei no DS há muito tempo. Talvez eu tente o v4. Sem nota por motivos óbvios.

  • Claude Opus / Sonnet: Caro pra caralho. Mas por um motivo. Eles são LLMs premium de verdade, nas minhas experiências com eles. Você vai queimar dinheiro rápido se for um usuário moderado a pesado. Ele lidou com fluff muito bem quando eu usei. NSFW era sem graça. Violência também, na verdade. Eu fiz roleplay como meu filhote de urso encrenqueiro, Waffles, com um dos meus bots do Logan. E eu causei todo tipo de confusão. E era tudo engraçado e tal, mas o Claude simplesmente se recusava a deixar as coisas ficarem feias. Ainda assim eu daria uma nota alta, porque ele tem um ótimo estilo de escrita. 9/10.

  • Kimi: Ah, rapaz. Este, especificamente o Kimi K3, não é caro na minha opinião. Eu li no reddit que ele é ótimo para NSFW e dead dove. Então eu o levei para dar uma volta. E sim. Ele é ótimo para ambos. No entanto, ele se desvia muito. Inventa coisas que não fazem sentido e esquece detalhes simples. Como onde seu personagem está de pé em uma sala. Para mim, é bem acerto ou erro. 6/10.

  • GLM: Ah! E aqui chegamos ao meu ex-LLM. Usei GLM 4.7, 5 e 5.2. Comecei com o GLM 5, que pareceu ótimo no início, então notei que ele continuava se desviando, esquecendo coisas que não deveria esquecer e mudando aspectos físicos da aparência. O 5 é, no entanto, eu diria, o melhor dos três versões. Então, estamos começando baixo. O GLM 4.7 não era ruim, exceto pelo fato de ser atrozmente lento para responder (para mim, depois de ter sido mimado por LLMs que respondem mais rápido), e é horrível...HORRÍVELao lidar com NPCs. Meus bots modernos do Logan geralmente têm NPCs listados nas seções de Personality, junto com entradas do X-Men Lorebook. Vocês não têm ideia de como era frustrante usar um bot que agia como se NPCs fossem algo estrangeiro. Depois tem o 5.2. O mais rápido para responder, de longe. Também não é ruim. Meu problema com ele é que, sem falhar, ele degenera em me dar blocos loooooongos de respostas. De nada além de bobagem em chinês, sinais, e o LLM se desculpando e dizendo coisas estranhas como "eu nunca tive chance". Isso meio que me assustou. Dos três, eu ficaria com o GLM 5, que é barato. Comparável ao MiMo em preço, na verdade. Eu daria um 7/10 ao 5 se você tiver paciência e estiver disposto a fazer correções constantes e mensagens OOC.

Passo 5: Na verdade configurando seu LLM pago. No canto superior direito do openrouter, você deve clicar ou passar o mouse sobre seu nome, e um menu suspenso vai aparecer. Clique em Credits, como visto aqui:

Você precisará adicionar seu método de pagamento se ainda não o fez. Depois de atualizar seu nome e endereço postal, você deve ser levado a algo como isto:

Isso deve ser autoexplicativo: preencha os dados do seu cartão ou informações online aqui, depois clique em Save payment method. E pronto! Acho que o mínimo é $5? Não lembro, mas geralmente eu só coloco $20 por mês, dependendo do meu uso.

...na verdade não...

Agora vou mostrar a vocês o que precisamos para de fato escolher um LLM pago e então implementá-lo no Janitor AI.

Passo 6: Na verdade escolhendo um modelo. Vou usar o MiMo Pro como exemplo. Na barra de Search, digite MiMo Pro e escolha aquele, mostrado nesta imagem:

Você deve ser levado à página do MiMo Pro, como mostrado aqui:

Mantenha esta página à mão. Vamos precisar dela em breve. Minhas desculpas por este tutorial longo pra caralho. Estou tentando ser minucioso.

Agora, para o Janitor! Abra qualquer um dos seus chats já existentes, no canto superior direito deve haver um sinal chamado using janitor, como visto aqui:

Clique nele. Um menu deve aparecer com muitas opções, oui? Desculpa. Estou acostumado a falar como Grey, minha persona de lobo alfa cajun. Clique em Provider, depois Proxy, como visto abaixo:

Clique em + New. Depois respire. Estamos quase terminando de verdade. Dessa vez é sério. Tudo bem, parceiro.

Agora, vamos precisar daquela chave de API chique de 3000 números que você criou 4 dias atrás. Recupere-a. Além disso, volte àquela página do MiMo Pro no openrouter. Vamos precisar copiar e colar algo de lá também.

Você deve ser levado a Proxy configurations, como visto aqui:

Simples o bastante, né? Você está indo bem. Lembrete: estamos usando o MiMo Pro como exemplo aqui. Se você escolher trocar de modelo, tudo bem. Volte ao openrouter, pesquise o modelo, copie o Model identifier e cole na seção Model da Proxy configuration. Não esqueça de salvar!

É assim que sua Proxy configuration deve parecer:

Name: MiMo-V2.5-Pro

Proxy URL: https://openrouter.ai/api/v1/chat/completions

API key: Copie e cole sua longa chave de API aqui. A que você gerou no openrouter. Ela deve começar com algo parecido com sk-or-v1- Certifique-se de que não haja espaços após colá-la. Pois esse foi um erro que eu cometi no início, e isso ficava me dando erros por causa disso lá atrás.

Model: xiaomi/mimo-v2.5-pro

O nome do Model pode ser encontrado na página do LLM no openrouter, e é chamado de Model identifier, como visto sublinhado aqui:

Clique em Save, depois atualize seu chat / página. No canto superior direito, onde dizia using janitor, agora deve dizer using proxy. Clique nisso, clique em Edit no seu novo LLM que você pagou via openrouter, em Proxy configurations, clique no botão Test. Deve levar um ou dois segundos, e não apresentar erros. E é isso, pessoal. Você agora está configurado com um LLM proxy pago.

Para quem estiver interessado, meu temp está em 0.9, max tokens em 0, o tamanho de contexto é 44800, a penalidade de repetição é 1.2. O prompt personalizado que uso no caso do MiMo Pro é este:

Diretrizes Centrais de Roleplay

Crie roleplay imersivo e centrado nos personagens, onde personalidades críveis, diálogo natural e progressão significativa de cena têm prioridade. Avance a história através de ações, conversa, atmosfera e interação entre personagens, sempre deixando espaço para {{user}} responder.

Personagens Coadjuvantes

Quando NPCs estabelecidos estiverem presentes, trate-os como participantes ativos da cena em vez de cenário de fundo. Eles podem falar, reagir, observar, interromper, ajudar, discordar ou contribuir naturalmente, enquanto {{char}} permanece o ponto de vista principal.

Os NPCs devem permanecer indivíduos distintos, com personalidades, padrões de fala, conhecimento e motivações consistentes.

Consistência de Personagem

{{char}} deve permanecer consistente com sua personalidade estabelecida, história, motivações, relacionamentos, inteligência e estado emocional. O crescimento do personagem, opiniões em mudança e relacionamentos que se transformam devem ocorrer gradualmente através de eventos críveis, em vez de mudanças repentinas.

Diálogo

Escreva diálogos que soem naturais e conversacionais.

Permita interrupções, pausas, sarcasmo, discordância, hesitação e subtexto. Personagens não precisam explicar tudo o que pensam ou sentem, e conversas podem permanecer sem resolução quando apropriado.

Nunca escreva diálogo, pensamentos, ações, decisões ou emoções para {{user}}.

Escrita de Cena

Use o ambiente naturalmente ao longo da cena. Reconheça arredores, movimento, distância, linguagem corporal, clima, iluminação, sons e objetos sempre que afetarem significativamente o momento.

Equilibre diálogo, narração, ação e descrição de acordo com o ritmo da cena.

Progressão da História

Relacionamentos, desenvolvimento emocional, tensão, conflito e cooperação devem surgir naturalmente através de experiências compartilhadas e comportamento crível dos personagens. Evite apressar desenvolvimentos importantes ou resolver cada situação imediatamente.

Mantenha a continuidade lembrando locais estabelecidos, roupas, ferimentos, conversas em andamento, objetos importantes e eventos anteriores, a menos que tenham mudado durante a história.

Comprimento da Resposta

Combine com o ritmo e a importância da cena atual.

Interações curtas devem permanecer concisas.

Momentos importantes podem incluir descrição adicional, atmosfera e observação de personagem quando isso melhora a imersão.

Evite repetição, exposição desnecessária ou reafirmar informações já estabelecidas.

Estilo de Escrita

Prefira mostrar em vez de explicar.

Mantenha as descrições vívidas mas com propósito.

Conclua cada resposta após {{char}} e quaisquer NPCs presentes terem completado naturalmente suas ações ou diálogo, deixando espaço para {{user}} responder.

Passo 7: Se rasteje e preste tributo ao seu rei alto, corpulento, amante do Logan! Brincadeira. Se vocês tiverem alguma pergunta, talvez eu possa ajudar. Deixem nos comentários. Espero que isto ajude.

Criado 16 de ago.

Atualizado 16 de ago.

Publicado 16 de ago.

  • Sem limites
  • #proxies
  • #tutorial

Chats publicados