음, 이게 원했던 건지 아닌지는 잘 모르겠지만, 내 로어북을 구조적으로 어떻게 만드는지 설명하고 싶어. 어떻게 돌아가는지 그림을 그려주는 셈이지.


이 이미지를 보고 나는 똥을 지리고 웃었다. 그 순서대로.

여기 있는 모든 그림은 @juniperarts

의 작품이야.1. 모토 - 손실 없이 최적화

많은 MHA 봇들은 내가 좋아하는 수준의 디테일이 없어. 물론 이건 양날의 검인데, 디테일이 적다는 건 더 긴 롤플레이를 뜻하고, 디테일이 너무 많다는 건 아주 짧지만 몰입감 있는 롤플레이를 뜻하지.

디테일이 많은 MHA 봇들은 지구력도 떨어지는데, 나는 그 디테일을 잃지 않으면서 몰입감을 유지하고 싶었어.

그래서 내 MHA 봇에는 "모듈" 같은 걸 만들어서, 완전한 시트들을 쉽게 관리하고 편집할 수 있는 모듈들로 나눴어. 그러면서도 한 캐릭터의 전체 내용이 영구적인 토큰 컨텍스트에 계속 쓰이지 않게 해서, 디테일을 유지하면서 더 긴 롤플레이가 가능하도록 했지.

나는 말 그대로 파이도, 케이크도, 심지어 빵집 전체도 다 원하는 그 뚱뚱한 놈이야. RPG를 할 때는 모든 세계의 최고를 다 원하지. 몰입감, 가능한 한 원작에 가깝게 그려지는 것, 그리고 말 그대로 최대한 많이 밀어 넣는 거.

2. 모듈 - 동적 시트

모듈에서는 예를 들어 캐릭터 시트를 여러 부분으로 쪼갰어.

CORE - CORE가 있는데, 이건 캐릭터 이름을 입력했을 때 나오는 주요 캐릭터 정보야. 키, 몸무게, 이름, 가족, 소속, 개성(Quirk)이 어떻게 작동하는지에 대한 짧은 설명 등 그 밖의 정보들이 있지만, 외모 세부 사항과 성격도 있지. 그리고 트리비아도. 트리비아는 재밌으니까.

코어 시트의 목표는 코어당 약 2,000 토큰 미만이지만, 미도리야 같은 몇몇 캐릭터는 여전히 그렇게 작아질 수가 없었어. 물론 놀랄 만큼 작아지긴 했지만, "아주 작은" 수준은 아니야.

Abilities - 다음은 능력인데, 개성(Quirk)이 아니라 능력이야. 여기서는 캐릭터의 기술과 능력을 설명하는데, 가장 중요한 부분은 아니지만 일부 캐릭터는 능력이 광범위해서 이걸 별도 모듈로 만들어야 했어.

Quirk - 캐릭터 개성의 주요 세부 사항은 별도 모듈로 만들었어. 코어 시트에는 개성에 대한 짧은 정보가 있지만, 모든 걸 담고 있진 않아. 그래서 캐릭터 개성의 이름을 입력하면 항목이 활성화되고, 같은 프롬프트에 캐릭터 이름과 "Quirk"라는 단어가 있어도 항목이 활성화돼. 하지만 All For One이나 Overhaul 같은 캐릭터들은 그들의 별칭이 곧 개성 이름이라서, 개성 이름 대신 그냥 자기 이름과 "Quirk"를 쓸 거야.

Relations - 이제 이 섹션은 캐릭터의 관계별로 수십 개의 모듈로 나누기로 했어. 그래서 기술적으로 일부 캐릭터는 모듈이 엄청 많을 수도 있어. 하지만 캐릭터가 가진 관계마다 그에 대한 관계 모듈이 하나씩 있지. 그래서 일부 관계 모듈은 작을 수도 있고 클 수도 있지만, "인물 1"과 "인물 2"의 이름이 같은 프롬프트에 언급될 때만 활성화돼서 관계가 동적으로 일어나고 이전보다 훨씬 적은 컨텍스트를 차지해.

Synopsizes - 줄거리 요약은 안타깝게도 모두 다 "최적화"되어 있진 않아서 일부 항목은 1만 2천 토큰이나 차지해... 그래서 이건 좀 선택적으로 쓰는 거야. 하지만 쇼토 토도로키처럼 개별 캐릭터에 집중하고 싶을 때를 위해 이걸 추가하기로 했어. 관련된 장소나 아크 이름, 또는 아크 이름의 일부를 입력하면, "인물 1"의 이름도 같은 프롬프트에 있을 때 항목이 활성화돼. 그래서 여전히 동적이지만 토큰 사용량은 비싸지. 한 번에 약 3명 미만에 집중할 때만 추천해. 아니면 부자처럼 SillyTavern을 쓰고 있다면, 넌 멋진 거야.

Ultimate Moves - 이 모듈도 쪼개질 수도 있어, 일부 항목이 꽤 커지고 있거든. 하지만 이 모듈에는 캐릭터의 모든 궁극기가 세부적으로 담겨 있어서, 캐릭터가 있을 때 "Ultimate"나 "Special"이라는 단어의 일부를 언급하면 그 캐릭터의 궁극기가 컨텍스트로 끌어올려져. 다만 최적화를 위해 궁극기별로 항목을 나눌 수도 있어.

Stats - MHA 위키에는 일부 캐릭터의 스탯이 있는데, 나는 이걸 HPSC가 캐릭터에게 스탯을 부여하는 것처럼 원작으로 취급하기로 했어. 그래서 "stats"나 "B+" 같은 스탯 등급을 언급하면, 언급된 모든 캐릭터의 스탯이 컨텍스트로 나와. 다행히 이 항목들은 모두 아주 작아.

Equipment - 아이자와와 그의 붕대처럼 캐릭터에게 장비가 있다면, "Equipment"를 입력하면 현재 있는 캐릭터들의 장비 정보가 컨텍스트로 나와. 이 항목들도 대부분 작아.

음, 캐릭터 시트에 대해 내가 머릿속에서 기억하는 다른 모듈이 있는지는 잘 모르겠지만, 적어도 이게 중요한 것들이야.

안타깝게도 현재 모든 캐릭터 시트가 최신 캐릭터 모듈화 형식을 쓰는 건 아니야. 지금 시점에서 100% 완성된 건 쇼토 토도로키뿐이야. 쇼토의 캐릭터에 대한 건 다 끝낸 게 확실하고, 당분간 그의 시트를 손볼 필요는 없을 거야. 많은 캐릭터가 일부 모듈이 없고 아직 최대한 최적화되진 않았어. 릴리스 2.0과 두 번째 사가 시작 이전의 캐릭터들은 완전히 최적화되지 않았지만, 봇의 두 번째 사가에 추가되는 모든 건 형식에 맞아.

그리고 미안한데, 모듈이 캐릭터별이 아니라 카테고리별로 정리되어 있어서 한 캐릭터에 관한 모든 모듈을 읽는 게 힘들 수 있어. 그래서 한 캐릭터에 대해서만 읽고 싶다면 그 캐릭터의 모듈들이 여기저기 흩어져 있을 수 있어.

(미안, 웃긴 비하인드 밈도 없고, JAI의 센서를 건드리지 않을 원작 캐릭터만 등장하는 그림도 없어.)

3. 아크, 이벤트, 챕터, 에피소드 - 타임라인

아크의 경우, 아크별로 광범위한 요약 시트를 만들고, 아크를 구성하는 이벤트별로도 요약을 만들어. 대부분 전투 기반 이벤트지만, 그래도.

전체 아크는 토큰 효율을 높이기 위해 요약됐지만, 임시 히어로 면허 시험 아크처럼 약 2만 5천 토큰을 쓰는 것도 있어서 여전히 컨텍스트 면에서는 비싸. 이 항목들은 첫 메시지에 사용하도록 의도됐고, 서서히 잊히면서 현재 설정을 AI에게 상기시키는 용도로만 쓰이도록 의도됐어.

이벤트는 아크를 구성하는 작은 이벤트들이야. OOC 같은 데서 이벤트 이름을 언급해서 AI가 설정을 알게 해. 이벤트를 보려면 서브플롯 로어북에 가서 키를 읽어봐.

하지만 챕터와 에피소드는 아직 완전히 추가되지 않았어. 나는 미루는 편인데, 결국 모든 개별 에피소드와 챕터의 정보를 로어북에 넣고 싶어. 그러면 원한다면 에피소드나 챕터 항목을 말해서 설정을 바꿀 수 있을 거야. 현재로선 추가되지 않았어. 나는 메인 요리에 집중하는 게으른 놈이고, 디저트는 나중에 온다. 그리고 내 뚱뚱한 엉덩이를 걸고 그것도 올 거야.

4. 위키처럼 쓰기

항목은 어떻게 쓰냐고?

음, 나는 게을러. ctrl+c랑 ctrl+v를 많이 쓰지.

위키에서 복사해서 정리된 항목으로 가져와. 하지만 철자와 문법 오류를 고치고, "대학 AU"에 맞게 표현을 바꾸려고 최선을 다해. 그래서 항목을 쓰는 건 붙여넣은 걸 다시 확인하고 읽으며 표현을 바꾸는 것에 가까워.

하지만 직접 뭔가를 써야 한다면, 위키가 쓸 법한 식으로 쓰려고 해. 규칙을 어기지 않으면서 가능한 한 원작에 가깝게 만드는 데 집중하지.

나는 또한 캐릭터와 시트를 같은 자리에서 한 번에 다 쓴 다음에 모듈로 나눠. 그래야 한 번에 모든 걸 추적할 수 있거든.

나는 야한 걸 코드에 넣거나 그런 특성에 집중하진 않아. 개인적으로 야한 건 안 하고, 나는 바보 같은 전투 재미 같은 걸 위해 여기 있으니까. 하지만 커뮤니티가 원한다면 그런 것도 추가할 의향은 있어.

5. 우려 사항

이 봇을 더 많이 쓸수록 컨텍스트 메모리에 대한 우려가 커져. 124K 윈도우에 맞게 최적화하려고 하지만, 뚱뚱한 테토만 한 요약 말고도 걱정되는 게 몇 가지 있어. JAI는 왠지 124K보다 큰 윈도우를 허용하지 않아서, 더 큰 윈도우를 가진 LLM들은 최대한 그 정도로 줄어들어. 짜증나는 일이지.

그래서 JAI 컨텍스트 윈도우를 위해 이걸 만들고 있지만, 그래도 플레이하기엔 충분하지 않을까 봐 걱정돼. 하지만 뭐. 모든 정보는 무료니까, 여러분이 원하는 MHA 봇들을 만들면 돼. 나는 이미 대부분의 일을 하고 있어서 여러분이 편하게 걸어갈 수 있게 해주는 거야.

질문이 있으면 댓글로 물어봐. 이 봇 페이지는 내가 로어북에 대해 떠들고 어떻게 만드는지 얘기하거나, 여러분 질문에 답하는 곳 같은 거야.