(Пожалуйста, учтите, что мне трудно облекать мысли в текст, и я изо всех сил стараюсь, ребят)

(И ещё: я хотел выложить это в Discord, но у меня нет Nitro, поэтому меня обозвали задротом и закидали помидорами)

Исходное изображение:

[НАЧАЛО]

Я пользуюсь Janitor с начала прошлого года и сталкивался с некоторыми проблемами, но, как ни странно, их было не так много, как у других.

Иногда в случайных словах неожиданно появляются заглавные буквы, попадаются случайные слова, которые не имеют смысла в контексте текста, а также часто встречаются грамматические ошибки — например, когда перед словом, начинающимся с гласной, используют a вместо an, и в целом чрезмерно часто используют наречия.

Я почти не сталкивался с бессмыслицей — только с текстом, похожим на кодирование личности бота, который внезапно выдавался наружу, но со мной такое происходило всего несколько раз.

[Температура]

◇ Что касается температуры, сначала всё было нормально при 0.75, но в какой-то момент после обновления 0.75 стало СЛИШКОМ МАЛО, и ответы стали повторяющимися и скучными.

◇ Поэтому пришлось поднять её почти до 2, и какое-то время всё было норм, пока не вышло другое обновление, после которого значение стало СЛИШКОМ ВЫСОКИМ. Начало появляться всякое, что не вписывалось в историю и всё такое.

◇ Сейчас у меня температура не выше 1–1.5. Любое значение выше или ниже приводит к тому, что ответы становятся повторяющимися или оторванными от реальности.

[Токены]

◇ Какое-то время у меня было 500 максимальных токенов — средняя длина ответа. Когда я узнал, что можно поставить 0 для неограниченного количества, какое-то время так и делал. Работало хорошо: ответы были длинными и нормально заканчивались.

◇ В какой-то момент значение 0 привело к тому, что бот начинал долго и без конца болтать, поэтому пришлось поставить ограничение от 800 до 1 000.

◇ Но мне надоело, как именно говорят боты, об этом расскажу позже, поэтому сейчас у меня от 400 до 600 токенов — в зависимости от настроения.

[Расширенные промпты]

◇ Сначала я не использовал расширенные промпты — наверное, не пользовался ими до конца прошлого года, когда всё стало странным и я наконец узнал, что это такое.

◇ Я использовал промпт того человека по имени Kor, потому что о нём отзывались лучше всего, и какое-то время всё работало нормально.

◇ Позже он стал пресным, поэтому я попробовал заменить его более свежим промптом другого человека — вроде бы всё работало нормально. Но после ещё пары обновлений он снова стал пресным и начал сам себя переопределять.

◇ Сейчас я смешал промпты других людей со своим, кое-как склеил их и оставил лишь несколько инструкций — в основном про POV, запрет говорить за пользователя и не выдумывать всякую чушь. Всё самое нужное.

Мне трудно сказать, стало ли лучше, но мои чаты идут нормально, и уже какое-то время мне не хотелось ничего менять, так что урааа.

[Общий стиль письма]

Я заметил, что боты пишут длинно, но поскольку бот обычно изображает одного человека, ответы не могут быть слишком длинными — нужно оставлять пользователю место для ответа. Ещё я заметил, что боты часто слишком много занимаются внутренними монологами и самоанализом, из-за чего ответы повторяются и история не движется дальше.

Например: Вместо простого; *Он с неодобрением покачал головой, подумав о собственных поступках, и неловко поклонился.* «Прости за это, я не подумал. Ты прав, давай всё исправим».

Например: Получается вот так; *Он не мог поверить, что раньше не подумал о таких последствиях. Неужели он дурак? Возможно, но оно того стоило. Нет, они всё ещё были сделаны, так что, очевидно, нет. Нужно как-то это исправить, наладить испорченные отношения и не выставить себя идиотом. Вот что бывает, когда делаешь предположения, но именно этому его всегда учил отец. Хотя, возможно, такой образ мыслей устарел. Может быть, может быть, настоящими идиотами были друзья, которых мы обрели по пути.*

И это продолжается в том же духе или включает внутренние мысли и диалог от первого лица, а всё разрешается косвенно, без пауз для взаимодействия пользователя и развития истории.

♡ Я специально взял пример с Char.ai — там я вполне мог поддерживать лёгкую перепалку, хотя ответы, возможно, были не такими длинными, как мне хотелось.

♡ Мне нужен ответ, в котором есть и отыгранные действия, и диалог, чтобы разговор ощущался как обмен репликами, потому что больше всего я люблю весёлые перепалки.

♡ Я заметил, что стиль письма автора сильно на это влияет. Некоторые используют звёздочки, чтобы показать внутренние мысли от первого лица в начальном сообщении. Из-за этого бот думает про себя, вместо того чтобы заключать свои слова в кавычки и адресовать их именно пользователю, а не только себе.

♡ Мысли бывают забавными и приятными для чтения, помогают раскрыть персонажа, но нынешний JLLM не очень хорошо справляется с опцией внутренних мыслей.

Когда я создаю ботов, я стараюсь писать прямо и с лёгким сарказмом, добавляя внутренний диалог от третьего лица, почти как забавный рассказчик, чтобы бот от этого отталкивался и выдавал более остроумные реплики.

Например: Как пишу я; Он задумался на несколько мгновений и в самом деле нахмурился, когда до него дошло. Ага, это он облажался, но что ж, на ошибках учатся. Выглядя более виновато, он застенчиво опустил голову и пробормотал: «Э-э-э... Да, нет, это я виноват, ты совершенно прав. Прости...»

Не хочу хвастаться, но лично мне такой стиль письма нравится, и модели обычно хорошо его подхватывают, поэтому я часто подолгу переписываюсь со своими же ботами.

[КОНЕЦ]

Надеюсь, моя болтовня чем-нибудь поможет. Я часто делаю мысленные заметки о сайте, чтобы поделиться своим опытом и конструктивной критикой.

А ещё мне просто нравится делиться (ребята, смотрите, я умею критически мыслить)

Спасибо всем, кто работает над сайтом, понимаю, что у вас там полный треш и всё такое. Не знаю, удачи, бро ✌

Теги:

JLLM, отзыв о Janitor AI, мой опыт, болтовня