Переведено с английского
Спасибо за отзывы на мой прошлый пост!
Насколько я вижу, почти никто здесь не использует прокси. Раньше я тоже на них полагался, потому что стандартный бот Janitor казался скучным и однообразным. Но в последнее время большинство бесплатных прокси-моделей для ролевых игр либо мертвы, либо постоянно перегружены.
Однако теперь Janitor позволяет вставлять системные промпты для улучшения ответов бота — и я экспериментировал с этим. Я пытался создать промпт, который заставит даже стандартный JanitorLLM почувствовать себя живым, отзывчивым и близким по качеству к старой прокси-модели Chimera (покойся с миром 😭).
У меня получилось две версии:
1. Короткая версия — в первом вступительном сообщении ниже. Она компактная, но уже даёт заметную разницу.
2. Полная версия — во втором вступительном сообщении. Она длиннее, добавляет управление тоном и правила голоса персонажа и даёт лучшие результаты.
Да, промпты занимают часть памяти бота — но 300–700 токенов — небольшая цена за серьёзное улучшение качества ответов.
Я не утверждаю, что это идеально. Я сделал это для собственного использования, пытаясь воссоздать стиль Chimera, и это сработало достаточно хорошо, чтобы я подумал, что другим тоже может понравиться.
⚠️ Важно: промпт предназначен для стандартного JanitorLLM, но он также работает с некоторыми прокси-моделями, которые изначально не предназначены для ролевых игр.
Я включил обе версии во вступления ниже. Вы можете скопировать их, вставить в свои настройки (Пользовательский промпт) и протестировать с любым ботом. Мне было бы интересно услышать:
— Замечаете ли вы разницу в качестве?
— Кажется ли вам опыт более погружающим?
— Какую версию вы предпочитаете — короткую, полную или никакую?
Дайте знать, что вы думаете!
Создано 7 авг.
Обновлено 7 авг.
Опубликован 7 авг.