▲

Claude의 메모리 아키텍처는 ChatGPT와 정반대임

 (shloked.com)
4P by GN⁺ 2일전 | ★ favorite | 댓글 2개
  • Claude의 메모리 시스템은 사용자가 직접 호출할 때만 활성화되며, 실제 대화 기록을 실시간으로 검색하여 정보를 반환함
  • 반면 ChatGPT는 매 대화마다 사용자 프로필과 히스토리를 자동으로 불러와, 즉시 개인화된 경험을 제공함
  • 이러한 두 접근방식은 타겟 사용자층과 제품 개발 철학의 차이를 반영함
  • Claude 사용자는 개발자와 전문가 중심, 투명성과 직접 제어, 그리고 개인정보 보호를 중시함
  • 최근 Claude에도 ChatGPT와 유사한 자동 메모리 기능이 팀 및 엔터프라이즈 계정에 도입되는 등 AI 메모리 디자인의 영역이 빠르게 확장됨

Claude의 메모리 시스템 작동 방식

Claude의 메모리 시스템은 두 가지 핵심 특징을 가짐

  • 매 대화 시작 시 빈 상태에서 출발하며, 사용자 프로필이나 이전 대화 기록을 사전에 불러오지 않음
  • 메모리 기능은 사용자가 "이전에 이야기한 내용을 알려줘", "마지막에서 이어서 진행해줘" 등 명확한 호출 문구를 사용할 때만 활성화됨

Claude는 AI가 생성한 요약본이나 압축된 프로필이 아닌, 실제 과거 대화 이력만을 실시간으로 검색하여 해당 정보를 활용함
검색이 완료되면, Claude는 검색 결과를 통합해 사용자의 요청에 답하거나 논의를 이어감

Conversation Search 도구

  • conversation_search 도구는 전체 대화 이력을 키워드나 주제별로 검색함
  • 예를 들어 "Chandni Chowk에 대해 이야기했던 내용 기억해?"라고 요청 시, Claude는 해당 주제와 관련된 여러 대화를 찾아 이를 통합하여 요약본을 제공함
  • 여러 주제(예: Michelangelo, Chainflip, Solana)를 동시에 질문하면, 각각 개별적으로 순차 검색하여 해당 내용을 링크와 함께 반환함
  • conversation_search 파라미터에는 검색 결과 최대 개수, 검색 쿼리 등이 포함됨
    • 예: max_results(1~10), query(검색 키워드)

Temporal Chat Retrieval 도구

  • recent_chats 도구는 시간 기준으로 대화 이력에 접근함
  • "최근 10번 대화 내용 알려줘"와 같이 요청하면, 가장 최신 대화를 순서대로 찾아서 요약 제공함
  • 특정 기간을 지정해 "2024년 11월 마지막 주에 이야기한 내용은?"처럼 시점 기반으로도 검색 가능함
  • recent_chats 파라미터에는 after/before(시작·종료 시점), n(대화 개수, 1~20), sort_order(정순/역순)이 있음

ChatGPT와 Claude의 비교

지난 해까지만 해도 ChatGPT와 Claude가 제공하는 주요 기능은 비슷했으나, 지금은 제품 방향성이 크게 달라짐

  • ChatGPT는 대중 시장용 소비자 제품으로 발전해 왔으며, 학생, 부모, 취미 인구 등 다양한 배경의 사용자가 사용함
    • 모든 대화에서 메모리 구성 요소가 자동으로 로드되어, 즉각적이고 손쉬운 개인화 경험 제공
    • 상세한 사용자 프로필을 바탕으로 향후 기능 추천, 맞춤형 기능, 수익화에 활용 가능
  • Claude는 개발자, 엔지니어, 전문가 중심의 사용자층을 타깃으로 개발됨
    • 사용자는 알고리듬 동작을 이해하며, 언제 메모리를 호출할 지 명확히 선택함
    • 프로필화나 자동화보다는, 도구로서의 기능성과 예측 가능성, 개인정보 보호에 더 큰 가치를 둠

이처럼 두 서비스의 메모리 시스템은 사용자층 및 개발 철학의 차이를 직접적으로 반영함

AI 메모리 설계의 다양성

ChatGPT와 Claude의 정반대 메모리 시스템은 AI 메모리 설계 영역이 매우 다양함을 보여줌

  • 메모리 접근 방식에 정답이나 보편적인 해법은 없으며, 실제 사용자 필요와 목적에 따라 설계를 거꾸로 진행하는 것이 필수적임
  • AI 도구의 활용 역사가 3년이 채 안 된 만큼, 장기간 동일 AI 어시스턴트를 사용할 때 축적 데이터 처리나 개인정보 관리 등에 대한 정립된 모범 사례가 부재한 상황
  • 현재 다양한 AI 앱들이 각자 독특한 메모리 접근법을 실험 중이며, 기저 모델 역시 매주 더 강력해지는 중임
  • 이 과정에서 최적의 방식에 대한 정답은 없고, 다양한 시도와 실험이 이어지고 있음

최근 업데이트: Claude의 자동 메모리 기능 도입

이 글 게재한 날, Anthropic은 Claude의 팀/엔터프라이즈 계정용 자동 메모리 기능 을 발표

  • 이 기능은 ChatGPT 방식과 유사하게, 작업 맥락/업무 패턴/프로젝트 별 정보를 기반으로 자동으로 메모리 요약을 구축함
  • 각 Claude 프로젝트별로 독립적인 메모리가 생성되며, 사용자가 직접 Claude가 기억하는 내용 조회 및 편집 가능함
  • 필자의 개인 Pro Max 구독에는 아직 해당 기능이 도입되지 않아 기능 평가전
  • 차후 기존 검색 기반 메모리와의 비교, ChatGPT와의 차이 등에 대해 추가 리뷰 예정
▲
GN⁺ 2일전  [-]
Hacker News 의견

  • 구현의 차이는 결국 비즈니스 목표에서 비롯됨
    ChatGPT는 명확히 광고와 제휴 링크를 통한 수익화를 목표로 하며, 메모리 구현도 사용자 프로필을 만드는 데 중점을 두고 있음
    반면 Claude의 메모리 구현은 과거 상호작용과 추상화 접근이라는 장기적 목표에 더 가까움
    인간의 기억 접근 방식과 유사하게 대화를 검색할 수 있도록 설계되어 있고, 차후 강화학습을 통해 사용자가 지적한 실수를 기억하거나, 과거 대화에서 추상화를 도출하여 능동적으로 작업을 처리할 수도 있을 것이라 생각함
    결국 ChatGPT는 사용자 자체를 기억하려는 반면, Claude는 개별 상호작용 내역에 집중하고 있음

    • AGI라면 광고 없이도 수익을 만들 수 있겠지만, 새로운 Google 같은 회사는 광고가 필요함
      말과 실제 행동이 일치하지 않는 부분이 있다고 느낌
    • Anthropic 역시 개인화 광고를 제공하지 않을 것이라고 믿지 않음
    • 사용자가 LLM을 a, b, c 주제로 자주 쓰고 d, e, f는 덜 쓴다고 가정하면
      b, c, f 같은 일부 주제엔 OpenAI가 중단형 광고(전체화면, 30초 이상)로 수익을 낼 수 있음
      이것은 단순히 주제를 분석하면 가능함
      만약 OpenAI가 채팅 및 코딩 세션 1000개 정도를 분석해 사용자가 특정 회사에 취업하거나 다른 회사에서 차를 사도록 유도해 수익을 극대화할 수 있다면, 그 과정에서 중단형 광고뿐 아니라 응답의 질이나 내용을 조정할 수도 있음
      이런 점이 충분히 현실적이면서도 디스토피아적인 상황임
      반면 DeepSeek가 광고 없이 운영된다면 닫힌 소스 LLM들이 시장점유율을 얻기 위한 기준은 훨씬 더 높아질 것
      결국 LLM은 모든 상품처럼 사용자가 품질에 따라 비용을 지불하게 될 것이며, 각기 다른 수준의 품질을 원하게 됨
      광고가 AI의 답변 신뢰성을 손상시킬 수 있으므로 전체화면 광고가 가장 현실적인 귀결이라 생각함
    • 왜 광고로 가는 명확한 방향성을 본다고 생각하는지 궁금함
      ChatGPT는 SNS가 아니므로 같은 방식으로 수익화할 필요가 없음
      구독, 엔터프라이즈, 비즈니스, API 등에서 이미 충분히 수익을 올리는 중임

  • ChatGPT 메모리 구현에 대한 분석 글의 링크가 잘못되었음을 지적하며, 정확한 링크를 공유함
    ChatGPT의 메모리 구현 방식이 궁금했었는데, Claude와 완전히 다른 접근법을 보면 아주 흥미로움
    Claude의 방식은 기술적 과제 해결에 더 적합해 보이고, ChatGPT는 일상 대화 및 광고 통합에 유리해 보임
    언젠가는 이러한 언어 기반 메모리 방식이 구식이 될 것이고, 누군가는 언어적 표현을 뛰어넘는 인코딩된 기억 저장/조회 방식을 찾을 것임
    이것이 AGI의 마지막 돌파구가 될지도 모름

    • AGI를 위한 마지막 돌파구라는 주장에 동의하지 않음
      현재 LLM들은 개념을 이해하지 못하며, 실제로 ‘이해’라는 기능이 없고, 본질적으로는 고도화된 마르코프 체인임
      진짜 인텔리전스가 AGI의 전제 조건이라고 생각함
    • 최근 대화 리스트는 실제 메모리가 아닌 대화 압축형태로 저장되어 필요 시에만 접근한다는 점에서 Claude와 유사하다고 생각함
      ChatGPT의 메모리가 엔티티별 요약인 실제 Memory만 문맥에 넣을 수 있게 한 것 같음
    • ChatGPT는 일상 대화, 기술적 과제 등 모든 것을 아우르려 하기 때문에 이 전략이 잘 먹히고 있음
      그리고 과거 대화 요약이나 Embedding 방식도 인코딩 방식의 메모리 저장이라고 볼 수 있지 않냐는 의견을 제시함
    • AGI는 원하지 않음
      어떻게 AGI가 명령을 따르도록 만들 수 있을지 고민이 생김

  • Claude의 메모리 구현에 만족함을 밝히지만, ChatGPT의 메모리는 꺼두었음
    ChatGPT는 너무 다양한 일에 사용하고 있으니 연결되지 않은 내용을 의미 없이 연결하려고 하는 점이 어색했기 때문임

    • ChatGPT의 메모리가 가장 편리한 기능이며, 이를 통해 계속 사용하게 됨
      개인화와 필요한 정보 참조를 원함
      예를 들어 한 프로젝트의 정보를 기억하게 해 두면 이후부터는 매번 컨텍스트를 설명할 필요 없어서 삶의 질이 크게 개선됨
      단, 내가 직접 통제할 수 없는 백그라운드 대화 메모리 생성 방식은 별로 좋아하지 않음
    • 반대로 ChatGPT가 자동으로 메모리에서 정보를 불러오는 기능이 훨씬 더 편리하게 느껴짐
    • 메모리 기능을 끈 이유는 이전에 거짓 정보를 기억에 남겼었는데, 그걸 계속 반복해서 불러와서였음
    • 언제 이전 대화 내용을 불러올지 통제할 수 있다는 점이 가치 있다고 생각함
      ChatGPT는 원하지 않는 옛 대화 내용이 불필요하게 섞여 쓸데없음
    • ChatGPT가 기본적인 것조차 기억 못해서 신기함
      언어 학습 목적으로 다양한 AI 튜터를 써봤는데 ChatGPT가 가장 좋았음
      하지만 ‘느리게 말해줘’를 자꾸 반복해서 요청해야 했고, 이 규칙을 대화 전체에 적용하라고 말해도 불가능했음
      이외에도 기억이 제대로 동작하지 않는 부분이 있음

  • 곧 ChatGPT의 메모리 방식이 바뀔 것임
    참고 링크: X.com - 메모리 변경 소식, Anthropic 공식 발표

    • 메모리 시스템이 바뀐다면 아쉬울 것 같음

  • ChatGPT 메모리 및 채팅 히스토리 관련해서 직접 글을 쓴 경험을 공유함
    직접 정보 덤프하는 프롬프트도 포함되어 있음
    관련 링크

  • 항상 정확한 입력 컨트롤을 원해서 메모리를 완전히 끄는 편임
    모든 시스템 프롬프트, 트레이닝 등을 제거하고 내가 직접 쓴 프롬프트만 쓰고 싶음

  • ChatGPT에게 직접 질문해서 밝혀낸 정보가 신뢰할 만한지, 혹은 생성형 환상(hallucination)일지 의문임
    LLM이 자신이 어떻게 동작하는지 알 이유가 없고, 그런 학습자료를 제공받았을 리도 없다고 생각함

    • LLM에게 어떻게 동작하는지 묻는 건 별 도움 안 되지만, 사용할 수 있는 함수/도구의 시그니처에 대해서 묻는 건 오히려 잘 맞음
      왜냐하면 이런 툴 정보는 시스템 프롬프트에 굉장히 자세히 적혀 있기 때문임

  • Claude는 오로지 원본 대화 히스토리만 참조해 기억을 불러온다고 함
    AI가 생성한 요약이나 압축된 프로필은 없이 실제 과거 대화만 실시간 검색함
    요약, 프로필, 지식 그래프 등이 없는 것은 전문가 기능이 아니라 잘 작동하지 않는다는 의미임
    예를 들어 "Chandni Chowk"처럼 구체적인 것은 기억할지 몰라도 "문제가 있었던 내 동료"처럼 모호한 표현은 제대로 찾지 못함

  • 외부 메모리 저장소를 툴 콜링이나 MCP를 통해 사용할 때의 장애물이 무엇인지 질문함
    RL로 메모리 사용 패턴을 강화하고 있는지를 궁금해함
    데이터 프라이버시 관점에서, 추론 시 LLM이 어차피 정보를 알게 되지만 직접적으로 입력하고 싶지는 않음
    예: "관심사: MacOS, bondage, discipline, Baseball"

    • 봄에 재미 삼아 SQLite db로 메모리 저장하는 MCP 툴을 만들어봤다고 이야기함
      당시 Claude는 프롬프트로 계속 유도해도 메모리를 자발적으로 활용하지 않으려 했음
      매번 명시적으로 기억 체크나 저장을 지시해야 해서 효용성이 떨어짐
      관련 레포지토리

  • 이 글을 보고 혼란스러웠음
    저자가 메모리가 꺼진 상태에서도 프롬프트가 삽입된다고 생각하는 것인지 명확하지 않음
    본인의 경우 메모리가 꺼진 상태에선 최근 대화나 선호 정보가 삽입되는 메타데이터가 전혀 없으며, 완전히 독립된 대화로 남아 있음
    실험 중에 메모리를 켜고 끄기를 오가던 것이 혼선을 줬던 건지, 아니면 내가 글을 제대로 읽지 않은 것인지 모르겠음

답변달기
▲
roxie 1일전  [-]

갑자기 모든 온점이 사라졌어요

답변달기