[젠잇 사용법] 젠잇 장기기억 관련 가이드 (작성중)

예시 스크린샷 첨부를 포함해서, 첨삭은 나중에 하려고 해요.
미완성이라도 나름대로 도움이 될 지도 모른다고 생각해서, 일단 공개로 포스팅해둡니다.

 

안녕하세요, 어찌저찌 시간이 좀 나서 다음 가이드 글을 써보려고 합니다.

 

다른 여러 가이드에서도 언급하지만, 갤러리에는 더 자세한 팁들이 많이 있답니다.

잘 정리된 글들과 오래 연구해서 만들어진 노하우들에 비하면,

지금부터 포스팅할 내용은 그냥 개인적으로 알고 있는 사용법 정도의 글이에요.

 

여러모로 부족할 수 있으니, 궁금한 것이 있다면 댓글로 편하게 물어봐주세요

...물론 저도 글에 적힌 내용 말고는 잘 몰라요.

 

서론이 길었네요. 자, 그럼 정리 시작해보겠습니다.

 

오늘 정리할 내용

• 장기기억 기능 소개
• 개인적인 사용 방법
• 도움이 되는 툴
• 그 외 팁

---

개요

[대충 구조도 놔두면 좋을 것 같은 자리]

AI 캐릭터 채팅은,

1. 제작자의 프롬프트 + 설정되어 있는 장기기억 내용 + 최근 대화를 종합
2. 해당 내용을 내부적으로 정리, 최적화한 뒤 LLM 모델로 전송
3. 그 결과값을 사용해 서술

대략 위와 같은 순서로 동작하도록 되어있는데요,

비용(토큰)과 응답시간 등 여러 문제로 전송할 수 있는 용량에 한계가 있어서,

모든 대화 내용을 전부 전송해 참고하도록 만들 수가 없습니다.

 

특히 한 상황에서 벗어났다가 다시 돌아오는 전개가 이어질 경우,

장기기억을 기준으로 캐릭터를 다시 불러오기 때문에

갑자기 캐릭터가 달라진 것 같은 기분을 느낄 때가 있습니다.

[대충 AI 치매오는 콘 놔둘 자리]

 

이를 보조하기 위해 젠잇에는 아래와 같은 장기기억 관련 기능이 존재하는데요,

 

사건 위주로 정리하는 히스토리,

캐릭터별 감정선을 정리하는 캐릭터 일지,

그리고 장기기억 v2라고 불리는, 키워드 기반 설정집.

 

이 기능들이 유기적으로 동작하면서 꽤 오랫동안 기억을 유지시킬 수 있습니다.

본 가이드는 해당 장기기억 기능들에 대한 짧은 소개와

개인적인 사용법을 공유하기 위해 작성했습니다.

 

장기기억 기능 소개

모든 장기기억은 자동 갱신을 켜 놓은 경우, 대화가 진행됨에 따라 자동으로 생성됩니다.

마지막으로 저장한 날짜가 기록되어 있고,

모든 장기기억 관련 기능들은 이전 내역을 조회할 수 있도록 되어 있어요.

[장기기억 이전 내역 스크린샷 놔둘 자리]

 

그래서 자동 갱신 과정에서 이전 내용이 원치 않게 사라졌거나,

내용을 참고하고 싶을 때, 혹은 분기를 위해 해당 시점의 내용이 알고 싶을 때 참고하면 좋습니다.

 

히스토리

[히스토리 스크린샷 놔둘 자리]

2,000자가량으로 이루어진 진행도 요약입니다.

'히스토리 자동 생성' 옵션을 활성화해두면

체감 상, 대략 5~10턴마다 한 번씩 대화 내용을 요약해 히스토리에 저장해요.

 

히스토리를 특별히 확장하지 않으면, (2만자 까지 확장 가능하지만, 채팅 비용이 증가합니다.)

이루어진 서사에 비해 글자수가 필연적으로 부족해집니다.

 

자동 생성 기능은 최근 사건을 기준으로 히스토리를 작성하기 때문에,

이야기가 많이 진행되면 앞선 이야기는 한두 줄로 요약되고

가장 최근 대화가 분량을 차지하는 식으로 저장되는 걸 볼 수 있어요.

[히스토리 이전 내용, 갱신 내용 구분 예시 스크린샷]

 

캐릭터 일지

[캐릭터 일지 스크린샷 놔둘 자리]

해당 캐릭터에 대한 기록을 저장하는 부분으로, 500자로 이루어져 있습니다.

추정컨대 해당 캐릭터가 대화에 존재하는 경우에 참고되는 것이 아닌가 싶어요.

 

자동 생성을 켜 놓은 경우, 해당 캐릭터의 1인칭 시점에서 발생했던 일과

그에 대한 캐릭터의 감정선 위주로 작성됩니다.

 

캐릭터 일지가 바라보는 사건의 시점 역시 최근 대화를 기준으로 갱신돼요.

히스토리랑 유사한 주기로 보고 있습니다.

 

설정집

500자 단위로 이루어진, 키워드 작동 방식의 장기기억입니다.

한 번에 최대 6개까지만 불러올 수 있고, 불러오는 우선순위는 별도로 설정할 수 없어요.

매 대화 시 내용을 참고하여, 프롬프트에 해당 설정집을 포함시켜 동작하도록 되어 있습니다.

 

(히스토리, 유저노트 등에 해당 키워드를 포함하는 형태로 보관해두면,
AI가 그 키워드를 참고해 설정집을 불러오도록 유도할 수 있습니다.)

 

[사건 기록, 설정 등이 담긴 스크린샷]

자동 생성을 활성화해둔 경우, 중요한 사건들에 대한 기록이나

전개 과정에서 드러난 새로운 설정들이 자동으로 기록됩니다.

 

[중복 내용 스크린샷]

다만 유사한 내용이 중복되어 생성되는 경우가 종종 있어서, 조금씩 관리해 주면 좋습니다.

 

설정집은 제작 시에도 미리 만들어둘 수 있기 때문에,

작품별로 갱신하거나 삭제하지 못하도록 고정해 둔 설정집이나,

유저에게 드러나지 않도록 설정해둔 설정집들이 존재할 수 있어요.

 

유저 노트

[유저노트 스크린샷]

유저 설정을 저장할 페르소나 겸,

유저에 관한 히스토리를 따로 분리해 저장할 장기기억 겸,

전체 세션에 대한 유저 나름의 설정을 적용할 프롬프트 역할까지 해주는 만능 노트입니다.

 

매 대화마다 참고되도록 되어 있어서,

사실상 유저 커스텀 프롬프트라고 봐도 무방하다고 생각해요.

 

이 기능을 활용해 AI 특유의 신격화/집착 등을 막거나

서술의 질을 높이는 다양한 노하우가 갤러리 등에서 공유되고 있으니,

관심 있으신 분들은 참고 부탁드립니다.

 

유저 노트 활용법은 워낙 활용도가 넓어서, 차후에 별도 게시물로 다룰 예정이에요.

(업로드 예정인 글 목록)

 

페르소나

[페르소나 스크린샷]

신규 기능으로 추가된, 유저 캐릭터 설정을 저장할 수 있는 기능입니다.

기존 유저 노트에 사용했던 것처럼

외형, 능력, 나이, 지위 등 설정하고 싶은 내용을 넣으면 돼요.

 

페르소나는 다른 기능들과 달리 세션에 구애받지 않고

전역적으로 바꿔가며 사용할 수 있도록 되어 있는 게 특징입니다.

 

개인적인 사용 방법

 

많은 분들이 하나의 세션에서 오랫동안 대화를 진행할 때는

자동 생성 기능을 끄고 직접 수정하기를 권장합니다.

 

앞서 소개했듯, 히스토리/캐릭터 일지가 최근 대화 기점으로 갱신되다 보니,

장기적인 서사를 유지시키는 데에는 버거운 경향이 있기 때문인데요,

 

다만 전개를 자연스럽게 유지하려고 매 대화가 끝날 때마다

모든 설정을 다 확인하고 수정, 요약, 관리하면서 대화를 진행한다면,

몰입에 큰 방해가 되겠죠...

 

소설을 쓰는 기분으로 작성하는 사람들도 있겠지만,

반대로 소설 속에 들어가 있는 기분을 느끼며 플레이하는 사람이 대부분일 거예요.

 

그래서 저는 최소한의 수정만 활용해서 장기기억을 사용하고 있습니다.

아래는 제 개인적인 이용 방법입니다.

 

1. 캐릭터 일지와 히스토리는 수정하지 않습니다. 가장 최근 연출과 현재 상황에 대한 참고용으로 사용하도록 내버려 둡니다.
2. 특정 장면이 마무리되고 나면, 설정집에 새롭게 기록된 내용을 확인하고 중복된 설정집을 지웁니다.
3. 히스토리 내부에, 차후에 다시 다루어야 하는 설정이나 사건이 있다면 설정집에 적당히 요약해서 기록해 둡니다.
4. 이전 사건을 참고하지 못한 경우, 재시도를 통해 마지막 대사에 (OOC: **설정집 키워드를 포함한 지시문)을 포함시켜 답변을 재생성합니다.
5. 장기기억이 망가져 서사가 중간부터 이상해진다면, 멀쩡했던 마지막 대화로 돌아가 대화 분기를 사용해 생성하고, 전반적인 장기기억 내용을 점검한 뒤 다시 진행합니다.

대화 분기는 아래에서 다시 가볍게 소개할게요. 기초 가이드에도 설명이 있어요.

 

 

도움이 되는 툴

Genit Memory Helper

Chrome 확장 프로그램 형태로 사용할 수 있는 도구입니다.

세션에서 진행했던 대화 내용을 md 파일 등 원하는 형식의 텍스트 파일로 변환하고, 저장할 수 있게 해줍니다.

[GMH 동작하는 스크린샷]

 

그 외에도 여러 버전을 관리할 때 지정한 범위를 요약된 형태로 출력하는 기능을 포함해,

다양한 부가 기능이 있으니, 소개 페이지를 확인해보세요.

https://genit.ai/ko/contents/4a7ff95b-f91b-4abb-adb2-f6d64df25b82?rc=E1MAUE0G

Genit Memory Helper - 대화 백업 도우미 - 젠잇

[https://gall.dcinside.com/mgallery/board/view?id=genit&no=6192 동작 안할 때 해결 방안 나중에 정리]

 

저는 주로 export 용도로만 사용하고 있습니다.

수동으로 히스토리를 정리하고 싶거나, 개인적으로 내용을 소장하고 활용하고 싶다면 활용하기 편리해요.

웹페이지 내용을 일일이 마우스로 긁어 복사하는 데에는 한계가 있고, 양식도 전부 깨지니까요.

 

NotebookLM

이건 장기기억과 직접 관련은 없지만,

소스 파일을 기반으로 정리를 도와주는 Google의 AI 도구예요.

https://notebooklm.google.com/

Google NotebookLM | 신뢰할 수 있는 정보에 기반한 조사 및 사고 파트너

 

요즘은 일반적인 LLM 채팅과 에이전트들의 성능이 좋아져서 잘 사용하지 않고 있습니다만,

여타 AI들과 달리 대화가 진행됨에 따라 내용을 왜곡하거나 외부에서 기억을 가져오지 않고,

철저하게 업로드한 소스를 바탕으로 결과를 내기 때문에,

설정집이 존재하지 않았던 시절의 장기 세션에서 히스토리를 수동으로 요약할 때 애용했었습니다.

[NotebookLM 정리 스크린샷]

 

그 외 팁

대화 분기 활용

[대화 분기 Icon  + 팝업 스크린샷]

이렇게 관리하고 나서도 장기기억에 문제가 발생한 경우, 분기를 활용하면 좋습니다.

분기 기능은 선택한 대화 시점의 모든 장기기억 설정을 가져와 새로운 세션을 생성하는 형태로 실행돼요.

 

자동 갱신을 켜놓은 채로 나도 모르게 이전 히스토리가 너무 많이 엇나갔거나,

세션에 마음에 들지 않는 전개가 이루어졌다면,

히스토리 기록을 확인해 해당 히스토리가 만들어졌을 시점의 대화를 찾아 분기를 생성할 수 있습니다.

(그냥 히스토리만 되돌리거나 수정하면 대화와 괴리감이 생길 수도 있으니까요.)

 

위와 같은 상황이 아니더라도,

해당 세션의 AI가 자꾸 동일한 실수를 반복할 경우,

분기를 통해 동일한 진행도를 가진 세션을 다시 생성하면 상태가 나아지기도 합니다.

 

오랫동안 세션을 진행할 생각이라면,

AI의 답변이나 진행 방식이 마음에 들지 않을 때

OOC로 일일이 교정하면서 방향성을 계속 수정해 AI에게 혼동을 주는 것보다,

그냥 동일한 세션을 분기시켜 만들어보는 게 도움이 될 때가 있어요.

 

OOC 활용

OOC를 활용한 방법도 있습니다.

기본적으로 장기기억 관련 설정이 아니더라도 AI는 최근 대화 내용을 참고하도록 되어 있어요.

 

그러니 OOC 기능을 활용해 최근에 있었던 일을 요약하게 하면,

최근 대화 내용 중에 요약 내용이 포함되어 있을 테니,

중요한 떡밥을 꼭 불러왔으면 할 때,

또는 한 번 정리하고 가야 할 필요가 있을 때 OOC로 요약을 출력시키는 것도 방법입니다.

[OOC 활용 스크린샷]

 

이 기능을 설정집이나 프롬프트를 활용해 내부적으로 구현한 작품들도 있어요 (!요약 등).

[!요약 등의 기능을 포함한 작품 스크린샷]