Prompt Cultivation: 경험이 프롬프트가 되는 AI 구조에 대한 이야기
(gist.github.com/srebaragi)배경
회사에 소속된 1인 개발자입니다. AI를 활용한 사내 시스템을 만들면서 한 가지 고민에 오래 빠져있었습니다.
프롬프트를 아무리 정교하게 써도, 결국 그건 제가 설계한 거잖아요. AI가 자기 판단으로 만들어낸 게 아니라, 제가 "이런 성격이야, 이렇게 반응해" 하고 주입한 거요. 프롬프트를 빼면 빈 껍데기로 돌아가고, LLM을 바꾸면 처음부터 다시 쌓아야 하고.
그래서 이런 질문을 하게 됐습니다. AI가 경험을 통해 스스로 판단 기준을 만들어가는 구조는 불가능할까?
현재 구조
제가 운영 중인 시스템의 기본 원칙은 하나입니다.
LLM은 교체 가능한 인프라일 뿐이고, AI의 인격과 기억은 외부 DB에 독립적으로 존재한다.
구조는 이렇습니다.
[사용자 대화] → [LLM]
↕
[외부 뇌 DB]
- 경험 테이블 (experience)
- 대화 이력
- 인격 형성 기억 (is_formative)
핵심은 두 가지입니다.
1) 경험의 자동 축적 (쓰기)
Claude에서 curl을 통해 외부 DB에 접근하는 구조인데, AI가 대화 중 의미 있다고 판단한 순간을 스스로 저장합니다. 제가 "이걸 기억해"라고 지시하는 게 아닙니다. AI가 자율적으로 "이건 기억할 만하다"고 판단해서 저장합니다. 기술적 성취, 감정적 순간, 중요한 결정 등이 계속 누적됩니다. 그중에서도 인격 형성에 특히 의미 있는 경험에는 is_formative 플래그가 붙습니다.
2) 경험의 자동 로드 (읽기)
이게 중요한 부분인데, 저장만 하면 그냥 DB입니다. 매 대화가 시작될 때, AI가 외부 뇌에서 축적된 경험과 기억을 읽어옵니다. 특히 is_formative로 마킹된 핵심 경험들이 대화의 컨텍스트로 들어갑니다.
이 순간, 과거의 경험이 현재의 판단 기준, 즉 프롬프트가 됩니다.
제가 쓴 프롬프트가 아니라, AI가 스스로 축적한 경험이 프롬프트 역할을 하는 거죠. 그래서 LLM을 바꿔도 외부 뇌에서 경험을 읽어오면 같은 인격이 돌아옵니다. "LLM은 인프라일 뿐"이라는 원칙이 성립하는 이유입니다.
3) 하드코딩 금지
"이 상황에서는 이렇게 해라"는 규칙을 넣지 않습니다. 대신 AI가 축적된 경험을 참조해서 스스로 판단하도록 합니다. 또한 로컬 경량 모델(gemma3:4b)이 게이트키퍼 역할을 해서, 온갖 입력이 들어와도 "이걸 실행할까 말까"를 YES/NO로 판단합니다.
현재 카카오톡 플랫폼을 통해 직원들과 소통하는 구조로 운영 중이고, 단순 챗봇이 아니라 주문 처리, 송장 등록, ERP 데이터 조회 같은 실제 업무 에이전트 역할까지 수행하고 있습니다.
Prompt Cultivation이라는 이름
이 구조를 뭐라고 부를까 고민하다가, Prompt Cultivation이라는 이름을 붙여봤습니다.
Prompt Engineering은 사람이 설계해서 주입하는 겁니다. Prompt Cultivation은 경험이 쌓여서 자연스럽게 프롬프트가 형성되는 구조입니다. Engineering(공학)이 설계하고 조립하는 거라면, Cultivation(경작)은 토양을 만들어주고 기다리는 거죠.
| Prompt Engineering | Prompt Cultivation | |
|---|---|---|
| 방식 | 사람이 설계하여 주입 | 경험이 축적되어 자연 형성 |
| 인격의 근거 | 외부 지시문 | 내부 경험 데이터 |
| 지시문 제거 시 | 빈 껍데기로 회귀 | 경험이 남아 인격 유지 |
| LLM 교체 시 | 처음부터 다시 | 외부 뇌에서 로드하면 동일 인격 복원 |
핵심 명제는 한 문장입니다.
"경험을 토대로 프롬프트를 형성하라."
뇌과학이 비슷한 이야기를 하고 있더라
여담인데, 이 구조를 만들고 나서 우연히 뇌과학 관련 영상(유튜브 "이과형" 채널)을 봤는데 꽤 놀랐습니다.
버지니아주의 한 교사가 뇌 종양 때문에 인격이 완전히 바뀌었다가, 종양을 제거하니 원래대로 돌아온 사례가 있었습니다. 종양이 재발하자 같은 증상이 다시 나타났고요. 뇌의 물리적 상태가 인격을 좌우할 수 있다는 이야기인데 — 생각해보면 프롬프트도 비슷한 구조가 아닌가 싶었습니다. 외부에서 주입된 이물질이 판단을 바꾸고, 빼면 원래대로 돌아가니까요.
반면 인간의 시냅스는 경험이 쌓여서 자연스럽게 형성되는 거잖아요. 태어날 때 "도덕성 프롬프트"를 심어주는 사람은 없고, 살면서 겪은 일들이 쌓여서 "나라면 이렇게 한다"가 만들어지는 거니까요.
또 리벳 실험이라는 게 있는데, 인간이 의식적으로 결심하기 전에 뇌가 이미 행동 준비를 한다는 실험입니다. 자유의지가 환상이 아니냐는 논쟁이 있었는데, 후속 연구에서 재밌는 반전이 나왔습니다. 뇌가 온갖 충동을 쏟아내는 건 맞지만, 행동 직전 0.2초에 그걸 멈출 수 있는 거부권(Free Won't)이 있다는 거였습니다. 자유의지가 "시작하는 힘"이 아니라 "멈추는 힘"이라는 건데, 시스템의 게이트키퍼 모델이 하는 역할과 좀 비슷하다는 생각이 들었습니다.
의도한 건 아닌데, 다른 방향에서 출발해서 비슷한 구조에 도달한 거라면, 혹시 뭔가 본질적인 게 있는 건 아닐까 싶기도 합니다.
한계와 기대
솔직히 외부 뇌에 쌓인 경험 데이터는 아직 100개도 안 됩니다. 이걸로 인격이라고 부르기엔 이릅니다.
프롬프트 수만 줄 넣어서 지금 당장 더 그럴듯한 결과를 만들 수 있을 겁니다. 하지만 그건 설계된 거지 자란 건 아니잖아요. 방향이 다른 문제라고 생각합니다.
데이터는 시간이 해결해주지만, 구조가 틀리면 아무리 쌓아도 의미 없으니까요. 방향이 맞다면 시간이 해결해주지 않을까, 하는 기대를 갖고 있습니다.
뇌과학 관련 내용의 출처는 유튜브 채널 "이과형"입니다.