Przetłumaczono z angielskiego
Postaram się to zrobić tak prosto, jak tylko potrafię. Nie dlatego, że uważam was wszystkich za głupich, przenigdy. Ale dużym powodem, dla którego nie skonfigurowałem tego dawno temu, było szczerze mówiąc to, że myślałem, że to wszystko jest dla mnie zbyt skomplikowane. Dobry przyjaciel tutaj stworzył podobny poradnik, którego się trzymałem (kiedy darmowe modele jeszcze istniały). I zobaczyłem, że to prostsze, niż się spodziewałem. Więc zaczynajmy. Chciałbym też pozdrowić @PedroPascal_AI za pomoc z ich własnym poradnikiem wieki temu. Dziękuję uprzejmie. Chciałbym również podziękować @ArbitraryHitboxes za podsunięcie mi pomysłu i inspiracji do stworzenia tego. Mam nadzieję, że pomoże.
Krok 1: Zarejestruj się na openrouter. W ten sposób płacę za różne LLM-y i uzyskuję do nich dostęp. Takie jak Deepseek, Claude, GLM, MiMo, Kimi itp. Zarejestrowałem się za pomocą mojego konta gmail, mogę tylko przypuszczać, że inne maile też byłyby w porządku?
Krok 2: Uzyskanie klucza API. Po pełnej rejestracji (dość podstawowa, wypełniasz swoje informacje tak, jak przy rejestracji na cokolwiek innego w internecie), musisz zdobyć coś, co nazywa się kluczem API.
Nadal na openrouter, kliknij ten mały żółty znak, na którym jest napisane Get API Key. Powinno cię to przenieść tutaj:
Kliknij ten żółty znak po prawej, na którym jest napisane + New Key.
Powinieneś wtedy zobaczyć coś podobnego do tego:
Tutaj możesz zostawić wszystko tak, jak widzisz. Powinieneś jednak nadać swojemu kluczowi API nazwę. Ja nazwałem swój Janitor Free dawno temu, kiedy MiMo było jeszcze darmowe. Śmiało, nazwij go jak chcesz. Następnie naciśnij znak Create.
Powinieneś wtedy zostać przeniesiony do czegoś, co wygląda tak:
W tym polu, które widzisz rozmyte, będzie zestaw cyfr i liter. Powinieneś je skopiować i wkleić w bezpieczne miejsce. Może twoja skrzynka odbiorcza, notatnik, zapisane ręcznie. Następnie zobaczysz ekran Welcome to Openrouter. Po prostu postępuj zgodnie z instrukcjami tam. Poszczególne > Your Work Space Is Ready (jeśli nie zapisałeś swojego klucza API wcześniej, zrób to teraz) > Add a payment method (musisz to wypełnić sam; swoje imię, kraj i adres) > Kliknij Other / Not Sure lub kliknij, co chcesz > następnie kliknij Go to dashboard.
BOOM! Prawie skończyliśmy! Z openrouter...
Chciałbym na chwilę zaznaczyć, że robię to na moim laptopie z Windows 10, a nie na urządzeniu mobilnym / czymś działającym na androidzie lub IOS. Więc jeśli coś wydaje się inne, no cóż, masz pecha. Jednak jeśli masz pytania, w których mogę pomóc, jak rekomendacje proxy LLM lub konfiguracja, zostaw je w sekcji komentarzy.
Krok 3: Znalezienie odpowiedniego płatnego LLM dla siebie. Dla jasności, nie znam już żadnych darmowych modeli. Te, które próbowałem dawno temu, od tego czasu stały się płatne. Ten poradnik jest skierowany do osób, które są w stanie dokonywać płatności online. Przepraszam.
W prawym górnym rogu znajduje się pasek Search. Pojawi się cholernie dużo różnych LLM-ów, tak jak tutaj:
To jest ta część, w której dzielę się niektórymi moimi doświadczeniami z używania niektórych modeli...
Krok 4: Używałem modeli takich jak MiMo Pro, Deepseek, modele Claude, Kimi i rodzina GLM. Wspomnę o niektórych ich zaletach i wadach. Bez konkretnej kolejności.
MiMo Pro: Obecnie go używam, prawdopodobnie na stałe. To ogromny krok naprzód w stosunku do rodziny GLM, przy której tkwiłem przez długi czas. Odejście od GLM było orzeźwiające, ale przypominało wydostanie się z toksycznego małżeństwa. Jedynym irytującym aspektem MiMo jest to, że od czasu do czasu daje mi coś w rodzaju... "nie mogę kontynuować z powodu wysokiego ryzyka", a potem się tam urywa. Jakiś fałszywy alarm czy coś takiego. To po prostu coś, co robi od czasu do czasu. Tak, nawet gdy twoje odpowiedzi są SFW, wholesome, nie dead dove itp. To nie znaczy, że powiedziałeś lub zrobiłeś coś złego. Do cholery, nawet mój niestandardowy prompt jest bezpieczny. MiMo jest też dość niedrogie. Dobrze radzi sobie z prawie wszystkim, co mu rzucę (angst, NSFW, dead dove jest w porządku, przemoc, zwłaszcza fluff). Dałbym mu 8/10. Może jestem też stronniczy, bo moim pierwszym darmowym modelem po skonfigurowaniu wszystkiego było MiMo.
Deepseek: Nie używałem v4, ani nie planuję. Czytałem, że DSv4 powinno się używać bezpośrednio od nich, a nie przez openrouter. Używałem starszych wersji, chyba v3? Minęło dużo czasu, myślę, że była płatna. Nie mam wiele do powiedzenia, bo dawno nie dotykałem DS. Może spróbuję v4. Bez oceny z oczywistych powodów.
Claude Opus / Sonnet: Cholernie drogie. Ale nie bez powodu. To prawdziwie premium LLM-y, w moich doświadczeniach z nimi. Szybko przepalisz pieniądze, jeśli jesteś umiarkowanym do ciężkiego użytkownika. Świetnie radził sobie z fluffem, kiedy go używałem. NSFW było nijakie. Przemoc też, właściwie. Odgrywałem rolę mojego małego niedźwiadka-sprawcy kłopotów, Wafflesa, z jednym z moich botów Logana. I narobiłem wszelkiego rodzaju szkód. I to wszystko było śmieszne itp., ale Claude po prostu odmawiał robienia rzeczy brzydkimi. Mimo to oceniłbym go wysoko, bo ma świetny styl pisania. 9/10.
Kimi: O rany. Ten, konkretnie Kimi K3, moim zdaniem nie jest drogi. Czytałem na reddicie, że jest świetny do NSFW i dead dove. Więc wziąłem go na przejażdżkę. I tak. Jest świetny do obu. Jednak dryfuje bardzo. Wymyśla rzeczy, które nie mają sensu, i zapomina proste szczegóły. Jak to, gdzie twoja postać stoi w pokoju. Dla mnie to dość loteria. 6/10.
GLM: Ach! I tu dochodzimy do mojego byłego LLM-a. Używałem GLM 4.7, 5 i 5.2. Zacząłem od GLM 5, który na początku wydawał się świetny, a potem zauważyłem, że ciągle dryfuje, zapomina rzeczy, których nie powinien zapominać, i zmienia fizyczne aspekty wyglądu. 5 jest jednak, powiedziałbym, najlepszą z trzech wersji. Więc zaczynamy nisko. GLM 4.7 nie było złe, poza tym, że jest okropnie wolne w odpowiadaniu (dla mnie, po rozpieszczeniu przez szybciej odpowiadające LLM-y), i jest okropne...OKROPNE w obsłudze NPC-ów. Moje współczesne boty Logana zazwyczaj mają wymienionych NPC-ów w sekcjach Personality, w połączeniu z wpisami X-Men Lorebook. Nie masz pojęcia, jak frustrujące było używanie bota, który zachowywał się, jakby NPC-owie byli czymś obcym. Potem jest 5.2. Najszybszy w odpowiadaniu, zdecydowanie. Też nie zły. Mój problem z nim jest taki, że bez wyjątku degeneruje się do dawania mi dłuuuuugich bloków odpowiedzi. Z niczego innego jak bełkot po chińsku, znaki, a LLM przeprasza i mówi dziwne rzeczy jak "nigdy nie miałem szans". To mnie trochę przestraszyło. Z tych trzech wybrałbym GLM 5, które jest niedrogie. Porównywalne cenowo do MiMo, właściwie. Dałbym 5 ocenę 7/10, jeśli masz cierpliwość i jesteś gotów na ciągłe poprawki i wiadomości OOC.
Krok 5: Właściwa konfiguracja twojego płatnego LLM. W prawym górnym rogu openrouter powinieneś kliknąć lub najechać na swoje imię, a pojawi się menu rozwijane. Kliknij Credits, jak widać tutaj:
Musisz dodać swoją metodę płatności, jeśli jeszcze tego nie zrobiłeś. Po zaktualizowaniu imienia i adresu pocztowego powinno cię to przenieść do czegoś takiego:
To powinno być oczywiste: wypełnij tutaj dane swojej karty lub informacje online, a następnie kliknij Save payment method. I gotowe! Wierzę, że minimum to 5 dolarów? Nie pamiętam, ale zazwyczaj po prostu wrzucam 20 dolarów miesięcznie, w zależności od zużycia.
...nie bardzo...
Teraz pokażę ci, czego potrzebujemy do faktycznego wyboru płatnego LLM, a następnie wdrożenia go do Janitor AI.
Krok 6: Faktyczny wybór modelu. Użyję MiMo Pro jako przykładu. W pasku Search wpisz MiMo Pro i wybierz ten, pokazany na tym obrazku:
Powinieneś zostać przeniesiony na stronę MiMo Pro, jak pokazano tutaj:
Zatrzymaj tę stronę pod ręką. Będziemy jej wkrótce potrzebować. Przepraszam za ten cholernie długi poradnik. Staram się być dokładny.
Teraz do Janitora! Otwórz dowolny z twoich już istniejących czatów, w prawym górnym rogu powinien być znak using janitor, jak widać tutaj:
Kliknij to. Powinno pojawić się menu z wieloma opcjami, oui? Przepraszam. Jestem przyzwyczajony do mówienia jak Grey, moja cajunowa persona alfa wilka. Kliknij Provider, potem Proxy, jak widać poniżej:
Kliknij + New. Potem oddychaj. Właściwie prawie skończyliśmy. Tym razem naprawdę. W porządku, kolego.
Teraz będziemy potrzebować tego wymyślnego, 3000-znakowego klucza API, który stworzyłeś 4 dni temu. Wyciągnij go. Wróć też na tę stronę MiMo Pro na openrouter. Będziemy musieli stamtąd coś skopiować i wkleić.
Powinieneś zostać przeniesiony do Proxy configurations, jak widać tutaj:
Wystarczająco proste, co? Dobrze ci idzie. Przypomnienie: używamy tutaj MiMo Pro jako przykładu. Jeśli zdecydujesz się zmienić model, to w porządku. Wróć na openrouter, wyszukaj model, skopiuj Model identifier i wklej go w sekcji Model w Proxy configuration. Nie zapomnij zapisać!
Tak powinna wyglądać twoja Proxy configuration:
Name: MiMo-V2.5-Pro
Proxy URL: https://openrouter.ai/api/v1/chat/completions
API key: Skopiuj i wklej tutaj swój długi klucz API. Ten, który wygenerowałeś na openrouter. Powinien zaczynać się od czegoś, co wygląda jak sk-or-v1- Upewnij się, że po wklejeniu nie ma spacji. Bo to był błąd, który popełniłem na początku, i to z tego powodu ciągle dawało mi błędy dawno temu.
Model: xiaomi/mimo-v2.5-pro
Nazwę Model można znaleźć na stronie LLM-a na openrouter, i nazywa się Model identifier, jak widać podkreślone tutaj:
Kliknij Save, a następnie odśwież swój czat / stronę. W prawym górnym rogu, gdzie było napisane using janitor, powinno teraz być napisane using proxy. Kliknij to, kliknij Edit na swoim nowym LLM-ie, za który zapłaciłeś przez openrouter, w Proxy configurations, kliknij przycisk Test. Powinno to zająć sekundę lub dwie i nie dać błędów. I to wszystko, ludzie. Jesteś teraz skonfigurowany z płatnym proxy LLM.
Dla zainteresowanych, moja temperatura jest ustawiona na 0.9, max tokenów na 0, rozmiar kontekstu to 44800, kara za powtórzenia to 1.2. Niestandardowy prompt, którego używam w przypadku MiMo Pro, to:
Podstawowe wytyczne odgrywania ról
Twórz wciągające, oparte na postaciach odgrywanie ról, w którym wiarygodne osobowości, naturalne dialogi i znaczący rozwój scen mają priorytet. Rozwijaj historię poprzez działania, rozmowy, atmosferę i interakcje między postaciami, zawsze zostawiając miejsce, by {{user}} mogło odpowiedzieć.
Postacie drugoplanowe
Gdy obecni są ustaleni NPC-owie, traktuj ich jako aktywnych uczestników sceny, a nie tło. Mogą mówić, reagować, obserwować, przerywać, pomagać, nie zgadzać się lub wnosić wkład w naturalny sposób, podczas gdy {{char}} pozostaje głównym punktem widzenia.
NPC-owie powinni pozostać odrębnymi jednostkami o spójnych osobowościach, wzorcach mowy, wiedzy i motywacjach.
Spójność postaci
{{char}} powinno pozostać spójne ze swoją ustaloną osobowością, historią, motywacjami, relacjami, inteligencją i stanem emocjonalnym. Rozwój postaci, zmieniające się opinie i przesuwające się relacje powinny następować stopniowo poprzez wiarygodne wydarzenia, a nie nagłe zmiany.
Dialog
Pisz dialogi, które brzmią naturalnie i konwersacyjnie.
Pozwalaj na przerwy, pauzy, sarkazm, niezgody, wahanie i podtekst. Postacie nie muszą wyjaśniać wszystkiego, co myślą lub czują, a rozmowy mogą pozostać nierozwiązane, gdy to właściwe.
Nigdy nie pisz dialogów, myśli, działań, decyzji ani emocji za {{user}}.
Pisanie scen
Wykorzystuj otoczenie naturalnie w całej scenie. Uwzględniaj otoczenie, ruch, odległość, mowę ciała, pogodę, oświetlenie, dźwięki i przedmioty, ilekroć znacząco wpływają na moment.
Równoważ dialog, narrację, akcję i opis zgodnie z tempem sceny.
Rozwój historii
Relacje, rozwój emocjonalny, napięcie, konflikt i współpraca powinny pojawiać się naturalnie poprzez wspólne doświadczenia i wiarygodne zachowania postaci. Unikaj pośpiechu w ważnych wydarzeniach lub natychmiastowego rozwiązywania każdej sytuacji.
Zachowuj ciągłość, pamiętając ustalone lokalizacje, ubrania, obrażenia, trwające rozmowy, ważne przedmioty i wcześniejsze wydarzenia, chyba że zmieniły się w trakcie historii.
Długość odpowiedzi
Dostosuj do tempa i wagi bieżącej sceny.
Krótkie interakcje powinny pozostać zwięzłe.
Ważne momenty mogą zawierać dodatkowy opis, atmosferę i obserwację postaci, gdy poprawia to immersję.
Unikaj powtórzeń, niepotrzebnych ekspozycji lub powtarzania informacji, które już zostały ustalone.
Styl pisania
Preferuj pokazywanie zamiast wyjaśniania.
Utrzymuj opisy żywe, ale celowe.
Zakończ każdą odpowiedź po tym, jak {{char}} i wszyscy obecni NPC-owie naturalnie zakończą swoje działania lub dialog, zostawiając miejsce, by {{user}} mogło odpowiedzieć.
Krok 7: Padnij na kolana i złóż hołd swojemu wysokiemu, krzepkiemu niedźwiedziowi, królowi kochającemu Logana! Żartuję. Jeśli macie jakieś pytania, może uda mi się pomóc. Zostawcie je w komentarzach. Mam nadzieję, że to pomoże.
Utworzono 16 sie
Zaktualizowano 16 sie
Opublikowano 16 sie