(생각을 글로 표현하는 게 힘들어서 최선을 다하고 있다는 걸 알아줬으면 해, 친구들아)

(그리고 이걸 디스코드에 올리고 싶었는데 니트로가 없어서 너드라고 놀림받고 토마토까지 맞았다는 것도 알아둬)

실제 이미지:

[시작]

작년 초부터 Janitor를 써 왔는데 몇 가지 문제를 겪긴 했어도, 이상하게 다른 사람들이 설명한 것만큼 많지는 않았어.

가끔 단어가 뜬금없이 대문자로 표시되고, 글의 맥락에 전혀 맞지 않는 단어가 갑자기 나오고, 모음으로 시작하는 단어 앞에 an 대신 a를 쓰는 것 같은 문법 실수나 부사를 과도하게 쓰는 일이 잦아.

횡설수설하는 글은 별로 못 봤어. 봇의 성격 설정 코드처럼 보이는 텍스트가 튀어나온 적은 있지만, 그것도 몇 번뿐이야.

[온도]

◇ 온도 설정은 처음엔 0.75로 괜찮았는데, 어느 순간 업데이트로 0.75가 너무 낮아져서 답변이 반복적이고 지루해졌어.

◇ 그래서 거의 2까지 올렸고, 잠깐은 괜찮았어. 그러다 또 다른 업데이트로 너무 높아졌지. 이야기와 전혀 맞지 않는 내용 같은 게 나오곤 했어.

◇ 지금 온도는 많아도 1에서 1.5 사이로 설정해 뒀어. 그보다 높거나 낮으면 반복적이거나 황당해져.

[토큰]

◇ 한동안 최대 토큰을 평균 응답 길이인 500으로 설정해 뒀어. 무제한으로 쓰려면 0으로 설정하면 된다는 걸 알고 나서는 한동안 그렇게 썼어. 잘 작동했고, 답변도 길면서 마무리도 괜찮았어.

◇ 어느 순간 0으로 설정하니 봇이 아주 오랫동안 주절주절 늘어놓게 돼서 800에서 1,000 사이로 제한을 둬야 했어.

◇ 하지만 봇들이 특정한 방식으로 말하는 게 질렸어. 그 얘기는 나중에 할게. 그래서 지금은 분위기에 따라 토큰을 400에서 600 사이로 설정해 뒀어.

[고급 프롬프트]

◇ 처음엔 고급 프롬프트를 전혀 쓰지 않았어. 아마 작년 말쯤 상황이 이상해지고 나서야 그게 뭔지 알게 됐고, 그때까지는 안 썼을 거야.

◇ 가장 평이 좋았던 Kor라는 사람의 프롬프트를 썼고 한동안은 잘 작동했어.

◇ 나중엔 단조로워져서 다른 사람이 만든 좀 더 최근 프롬프트로 바꿔 봤는데, 괜찮아 보였어. 하지만 업데이트가 몇 번 더 되고 나니 다시 단조로워지고 프롬프트를 무시하더라.

◇ 지금은 다른 사람들의 프롬프트와 내 프롬프트를 대충 짜깁기해서 쓰고 있어. 지시는 제한적으로만 주는데, 주로 시점, 사용자를 대신해 말하지 않기, 헛소리 지어내지 않기 같은 내용이야. 좋은 것들은 다 넣었어.

더 잘 작동하는지는 판단하기 어렵지만 채팅은 괜찮았고, 한동안 뭔가 바꿔야겠다는 생각도 안 들어서 야호오오.

[일반적인 글쓰기 스타일]

봇의 글쓰기 스타일은 길다는 걸 알아챘어. 하지만 봇이 보통 한 사람의 역할을 맡으니까 사용자에게 빈틈을 줘야 해서 그렇게 길 수는 없어. 또 봇들이 내적 독백이나 자기 성찰을 많이 하는데, 반복적이고 이야기가 이어지는 걸 방해한다는 것도 알아챘어.

예: 그냥 이렇게 하는 대신; *그는 자신의 행동이 못마땅한 듯 고개를 저으며 어색하게 고개를 숙였다.* "미안해, 생각이 짧았어. 네 말이 맞아. 이걸 바로잡자."

예: 이렇게 되곤 해; *그는 이런 결과를 미리 생각하지 못했다는 걸 믿을 수 없었다. 자신이 바보였나? 어쩌면 그럴지도 모르지만, 그럴 만한 가치가 있었다. 아니, 그래도 그런 일은 분명 벌어졌으니 그렇지 않은 게 분명했다. 어떻게든 이걸 바로잡아야 했다. 바보처럼 굴지 않으면서 깨진 관계를 회복해야 했다. 함부로 단정한 대가였다. 하지만 그건 아버지가 늘 가르쳐 준 일이었다. 하지만 그런 사고방식은 시대에 뒤떨어진 걸지도 몰랐다. 어쩌면, 정말 어쩌면, 진짜 바보는 여정에서 만난 친구들이었을지도 모른다.*

이렇게 계속 이어지거나, 1인칭 시점의 내면 생각이나 대화가 나오고, 사용자가 상호작용하며 이야기를 이어 갈 틈을 남기지 않은 채 모든 일을 간접적으로 해결해 버려.

♡ 나는 특히 Char.ai에서 힌트를 얻었어. 답변이 내가 원하는 만큼 길지 않을 때도 있었지만, 거기선 편하게 티키타카를 할 수 있었거든.

♡ 역할극 속 행동과 대사가 모두 들어가서 대화를 주고받는 느낌을 주는 답변을 원해. 내가 가장 좋아하는 건 재치 있는 티키타카거든.

♡ 제작자의 글쓰기 스타일이 큰 영향을 준다는 걸 알아챘어. 어떤 사람들은 첫 메시지에서 1인칭 내면 생각을 표시하려고 별표를 써. 그러면 봇이 따옴표로 사용자를 향해 직접 말하는 대신 내면에서 생각하게 되고, 자기 자신에게만 말하게 되지.

생각은 재미있고 읽는 맛도 있고, 캐릭터를 더 입체적으로 만들어 줘. 하지만 현재 JLLM은 내면 독백을 넣는 선택지를 잘 활용하지 못해.

봇을 만들 때는 직설적이고 약간 비꼬는 내적 대화를 쓰려고 해. 3인칭을 유지하면서도 재치 있는 해설자처럼 써서, 봇이 그 스타일을 이어받고 더 재미있는 대사를 하게 만드는 거야.

예: 내가 쓰는 방식; 그는 잠시 생각해 보더니, 깨달음이 찾아오자 실제로 미간을 찌푸렸다. 그래, 그건 자기 잘못이었다. 하지만 실수에서 배우는 법이지. 그는 좀 더 미안한 표정으로 수줍게 고개를 숙이고 중얼거렸다. "어어.... 그래, 아니, 내가 잘못했어. 네 말이 완전히 맞아. 미안해...."

자화자찬하려는 건 아니지만, 개인적으로 이런 글쓰기 스타일을 좋아해. 봇들도 대체로 그 스타일을 잘 따라 해서 내 봇들과 한참 동안 티키타카를 주고받게 되곤 해.

[끝]

내 횡설수설이 조금이라도 도움이 되면 좋겠어. 사이트를 직접 써 본 경험과 건설적인 비판을 전하려고 사이트에 대한 생각을 많이 적어 둬.

그냥 공유하는 것도 좋아해 (얘들아, 나도 비판적으로 생각할 수 있어)

사이트를 운영하는 모두에게 고마워. 일이 산더미처럼 쌓였다는 건 알아. 잘 모르겠지만, 아무튼 행운을 빌어 친구 ✌

태그:

JLLM, Janitor AI 피드백, 나의 경험, 수다