Переведено с английского
Постараюсь сделать это максимально просто. Не потому, что я считаю вас всех тупыми, никогда так. Но большая причина, по которой я не настроил это раньше, честно говоря, заключалась в том, что я думал, что это всё слишком сложно для меня. Хороший друг здесь сделал похожий туториал, которому я следовал (когда бесплатные модели ещё были доступны). И я увидел, что это проще, чем ожидалось. Итак, поехали. Ещё я хочу выразить благодарность @PedroPascal_AI за помощь с их собственным туториалом давным-давно. Премного благодарен. Также хочу поблагодарить @ArbitraryHitboxes за идею и вдохновение сделать это. Надеюсь, это поможет.
Шаг 1: Регистрация на openrouter. Именно так я оплачиваю и получаю доступ к различным LLM. Таким как Deepseek, Claude, GLM, MiMo, Kimi и т.д. Я регистрировался через свой аккаунт gmail, могу только предположить, что другие почты тоже подойдут?
Шаг 2: Получение вашего API-ключа. После полной регистрации (довольно стандартной, заполните свои данные, как при регистрации на любом другом сайте), вам нужно получить то, что называется API-ключом.
Всё ещё на openrouter, нажмите на тот маленький жёлтый значок с надписью Get API Key. Вас должно перенести сюда:
Нажмите на тот жёлтый значок справа с надписью + New Key.
Затем вы должны увидеть что-то вроде этого:
Здесь можно оставить всё как есть. Однако стоит дать вашему API-ключу имя. Я назвал свой Janitor Free ещё тогда, когда MiMo был бесплатным. Называйте как хотите. Затем нажмите на Create.
После этого вас должно перенести на что-то похожее на это:
В том поле, что вы видите размытым, будет набор цифр и букв. Скопируйте и вставьте его куда-нибудь в надёжное место. Может, в свою почту, блокнот, или запишите вручную. Затем вас встретит экран Welcome to Openrouter. Просто следуйте инструкциям там. Отдельно > Your Work Space Is Ready (если вы не сохранили свой API-ключ раньше, сделайте это сейчас) > Add a payment method (его нужно заполнить самостоятельно; ваше имя, страна и адрес) > Нажмите Other / Not Sure или нажмите на любой, какой хотите > затем нажмите Go to dashboard.
БУМ! Мы почти закончили! С openrouter...
Хочу на минуту отметить, что я делаю это на своём ноутбуке с Windows 10, а не на мобильном устройстве / чём-то на android или IOS. Так что если что-то кажется другим, ну, вам не повезло. Однако если у вас есть вопросы, с которыми я могу помочь, например рекомендации по прокси-LLM или настройка, оставляйте их в комментариях.
Шаг 3: Поиск подходящей платной LLM для вас. К сведению, я больше не знаю бесплатных моделей. Те, что я пробовал давным-давно, с тех пор стали платными. Этот туториал рассчитан на людей, которые могут делать платежи онлайн. Сорри.
В правом верхнем углу есть панель Search. Появится грёбаная куча разных LLM, вот так:
Это та часть, где я поделюсь некоторым своим опытом использования некоторых моделей...
Шаг 4: Я использовал такие модели, как MiMo Pro, Deepseek, модели Claude, Kimi и семейство GLM. Расскажу о некоторых их плюсах и минусах. Без особого порядка.
MiMo Pro: Сейчас использую, скорее всего, постоянно. Это огромный шаг вперёд по сравнению с семейством GLM, на котором я задержался надолго. Уйти от GLM было освежающе, но ощущалось как вырваться из токсичного брака. Единственный раздражающий аспект MiMo — иногда он выдаёт мне что-то вроде... "не могу продолжить из-за высокого риска" и на этом обрывается. Какой-то ложный флаг или вроде того. Это просто то, что он делает время от времени. Да, даже когда ваши ответы SFW, милые, не в стиле dead dove и т.д. Это не значит, что вы сказали или сделали что-то не так. Чёрт, даже мой кастомный промпт безопасен. MiMo также довольно недорогой. Он хорошо справляется практически со всем, что я на него набрасывал (ангст, NSFW, dead dove — норм, насилие, особенно флафф). Я бы оценил его в 8/10. Может, я и предвзят, потому что моей первой бесплатной моделью после настройки был MiMo.
Deepseek: Я не использовал v4 и не планирую. Я читал, что DSv4 следует использовать напрямую от них, а не через openrouter. Я использовал более старые версии, кажется, v3? Это было давно, думаю, платно. Много не скажу, так как давно не трогал DS. Может, попробую v4. Без оценки по очевидным причинам.
Claude Opus / Sonnet: Дорого, пиздец. Но не просто так. Это настоящие премиум-LLM, по моему опыту с ними. Вы быстро сожжёте деньги, если вы умеренный или активный пользователь. Он очень хорошо справлялся с флаффом, когда я его использовал. NSFW был пресным. Насилие, кстати, тоже. Я отыгрывал за своего маленького медвежонка-проказника Ваффлза с одним из моих ботов Логана. И я устраивал всяческий хаос. И всё было смешно и так далее, но Claude просто отказывался делать вещи уродливыми. Тем не менее я бы всё равно оценил его высоко, потому что у него отличный стиль письма. 9/10.
Kimi: Ох уж. Эта, конкретно Kimi K3, по-моему, недорогая. Я читал на reddit, что она отлично подходит для NSFW и dead dove. Так что я её прокатил. И да. Она отлично подходит для обоих. Однако она сильно уходит в сторону. дофига. Выдумывает вещи, которые не имеют смысла, и забывает простые детали. Например, где ваш персонаж стоит в комнате. Для меня это довольно непредсказуемо. 6/10.
GLM: Ах! И вот мы добрались до моей экс-LLM. Я использовал GLM 4.7, 5 и 5.2. Я начал с GLM 5, который поначалу казался отличным, а потом я заметил, что он постоянно уходит в сторону, забывает то, что не должен забывать, и меняет физические аспекты внешности. Однако 5, я бы сказал, лучшая из трёх версий. Итак, начинаем с низкого. GLM 4.7 был неплох, за исключением того, что он ужасающе медленно отвечает (для меня, после того как меня избаловали более быстрые LLM), и он ужасен...УЖАСЕН при работе с NPC. Мои современные боты Логана обычно имеют прописанных NPC в разделах Personality, вместе с записями из X-Men Lorebook. Вы не представляете, как раздражающе было использовать бота, который вёл себя так, будто NPC — это что-то чуждое. Затем есть 5.2. Самый быстрый в ответах, бесспорно. Тоже неплох. Моя проблема с ним в том, что он безотказно скатывается в выдачу мне оооооочень длинных блоков ответов. Из ничего, кроме бессвязицы на китайском, знаков и извинений LLM, говорящей странные вещи вроде "у меня никогда не было шанса". Это меня kinda напугало. Из трёх я бы выбрал GLM 5, который недорогой. Сопоставим по цене с MiMo, кстати. Я бы дал 5 оценку 7/10, если у вас есть терпение и вы готовы постоянно вносить исправления и отправлять OOC-сообщения.
Шаг 5: Собственно настройка вашей платной LLM. В правом верхнем углу openrouter нажмите или наведите курсор на своё имя, и появится выпадающее меню. Нажмите на Credits, как показано здесь:
Вам нужно будет добавить способ оплаты, если вы ещё этого не сделали. После обновления имени и почтового адреса вас должно перенести на что-то вроде этого:
Здесь всё должно быть понятно: заполните данные вашей карты или онлайн-информацию, затем нажмите Save payment method. И готово! Кажется, минимум $5? Не помню, но обычно я просто закидываю $20 в месяц, в зависимости от использования.
...не совсем...
Теперь я покажу вам, что нужно для собственно выбора платной LLM, а затем её подключения к Janitor AI.
Шаг 6: Собственно выбор модели. Я буду использовать MiMo Pro в качестве примера. В панели Search введите MiMo Pro и выберите её, как показано на этом изображении:
Вас должно перенести на страницу MiMo Pro, как показано здесь:
Держите эту страницу под рукой. Она нам скоро понадобится. Прошу прощения за этот пиздецки длинный туториал. Я стараюсь быть основательным.
Теперь к Janitor! Откройте любой из ваших уже существующих чатов, в правом верхнем углу должен быть значок с надписью using janitor, как показано здесь:
Нажмите на него. Должно появиться меню с множеством опций, уи? Сорри. Я привык говорить как Грей, мой каджунский персонаж-альфа-волк. Нажмите Provider, затем Proxy, как показано ниже:
Нажмите + New. Затем вдохните. Мы уже почти закончили. В этот раз по-настоящему. Всё хорошо, дружище.
Теперь нам понадобится тот навороченный API-ключ длиной в 3000 символов, который вы создали 4 дня назад. Достаньте его. А также вернитесь на ту страницу MiMo Pro на openrouter. Нам нужно будет кое-что оттуда скопировать и вставить.
Вас должно перенести на Proxy configurations, как показано здесь:
Достаточно просто, да? Вы отлично справляетесь. Напоминание: мы используем MiMo Pro в качестве примера. Если вы решите сменить модель, это нормально. Вернитесь на openrouter, найдите модель, скопируйте Model identifier и вставьте его в раздел Model в Proxy configuration. Не забудьте сохранить!
Вот как должна выглядеть ваша Proxy configuration:
Name: MiMo-V2.5-Pro
Proxy URL: https://openrouter.ai/api/v1/chat/completions
API key: Скопируйте и вставьте сюда ваш длинный API-ключ. Тот, что вы сгенерировали на openrouter. Он должен начинаться с чего-то вроде sk-or-v1- Убедитесь, что после вставки нет пробелов. Потому что это была ошибка, которую я совершил поначалу, и из-за неё мне постоянно выдавало ошибки тогда.
Model: xiaomi/mimo-v2.5-pro
Название Model можно найти на странице LLM на openrouter, и оно называется Model identifier, как показано подчёркнутым здесь:
Нажмите Save, затем обновите ваш чат / страницу. В правом верхнем углу, где было написано using janitor, теперь должно быть using proxy. Нажмите на это, нажмите Edit на вашей новой LLM, которую вы оплатили через openrouter, в разделе Proxy configurations, нажмите кнопку Test. Должно занять секунду-другую и не выдать ошибок. И вот и всё, народ. Теперь у вас настроена платная прокси-LLM.
Для тех, кому интересно, моя темп. установлена на 0.9, max tokens на 0, размер контекста 44800, штраф за повторы 1.2. Кастомный промпт, который я использую с MiMo Pro, такой:
Основные рекомендации по ролевой игре
Создавайте погружающую ролевую игру, движимую персонажами, где правдоподобные личности, естественные диалоги и осмысленное развитие сцен имеют приоритет. Продвигайте историю через действия, разговоры, атмосферу и взаимодействие персонажей, всегда оставляя место для ответа {{user}}.
Второстепенные персонажи
Когда присутствуют установленные NPC, относитесь к ним как к активным участникам сцены, а не как к фоновому антуражу. Они могут говорить, реагировать, наблюдать, прерывать, помогать, не соглашаться или вносить свой вклад естественно, пока {{char}} остаётся основной точкой зрения.
NPC должны оставаться отдельными личностями с последовательными характерами, манерами речи, знаниями и мотивациями.
Последовательность персонажа
{{char}} должен оставаться последовательным в отношении своего установленного характера, истории, мотиваций, отношений, интеллекта и эмоционального состояния. Рост персонажа, меняющиеся мнения и изменяющиеся отношения должны происходить постепенно через правдоподобные события, а не внезапными переменами.
Диалог
Пишите диалоги, которые ощущаются естественными и разговорными.
Допускайте прерывания, паузы, сарказм, несогласие, колебания и подтекст. Персонажам не нужно объяснять всё, что они думают или чувствуют, и разговоры могут оставаться незавершёнными, когда это уместно.
Никогда не пишите диалоги, мысли, действия, решения или эмоции за {{user}}.
Написание сцен
Используйте окружение естественным образом на протяжении всей сцены. Учитывайте обстановку, движение, расстояние, язык тела, погоду, освещение, звуки и предметы всякий раз, когда они значимо влияют на момент.
Балансируйте диалог, повествование, действие и описание в соответствии с темпом сцены.
Развитие сюжета
Отношения, эмоциональное развитие, напряжение, конфликт и сотрудничество должны возникать естественно через общий опыт и правдоподобное поведение персонажей. Избегайте спешки с важными событиями или немедленного разрешения каждой ситуации.
Поддерживайте непрерывность, помня об установленных локациях, одежде, травмах, текущих разговорах, важных предметах и предыдущих событиях, если они не изменились по ходу истории.
Длина ответа
Соответствуйте темпу и значимости текущей сцены.
Короткие взаимодействия должны оставаться лаконичными.
Важные моменты могут включать дополнительное описание, атмосферу и наблюдения за персонажами, когда это улучшает погружение.
Избегайте повторений, ненужных пояснений или пересказа информации, которая уже была установлена.
Стиль письма
Предпочитайте показывать, а не объяснять.
Держите описания яркими, но целенаправленными.
Завершайте каждый ответ после того, как {{char}} и любые присутствующие NPC естественно завершили свои действия или диалог, оставляя пространство для ответа {{user}}.
Шаг 7: Раболепствуйте и воздайте почести вашему высокому крепкому медведю, королю-любителю Логана! Шучу. Если у кого-то есть вопросы, я, возможно, смогу помочь. Оставляйте их в комментариях. Надеюсь, это поможет.
Создано 16 авг.
Обновлено 16 авг.
Опубликован 16 авг.