# 가져갈 수 없는 세션: 추론 API가 만드는 새로운 종속성 > Clean Markdown view of GeekNews topic #32014. Use the original source for factual precision when an external source URL is present. ## Metadata - GeekNews HTML: [https://news.hada.io/topic?id=32014](https://news.hada.io/topic?id=32014) - GeekNews Markdown: [https://news.hada.io/topic/32014.md](https://news.hada.io/topic/32014.md) - Type: GN+ - Author: [neo](https://news.hada.io/@neo) - Published: 2026-07-31T19:33:39+09:00 - Updated: 2026-07-31T19:33:39+09:00 - Original source: [earendil.com](https://earendil.com/posts/session-portability/) - Points: 1 - Comments: 1 ## Topic Body - 추론 API가 **암호화된 추론·검색 결과·압축 상태·서브에이전트 메시지**를 공급자 내부에 숨기면서, 사용자가 보유한 대화 기록은 완전한 세션이 아니라 일부만 보이는 사본이 되고 있음 - 세션 이식성은 다른 모델에서 같은 출력을 재현하는 것이 아니라, 기존 공급자의 ID 조회나 복호화 없이 **검사·내보내기·재생·감사·삭제**할 수 있는 의미상 완전한 기록을 확보하는 것임 - OpenAI, Anthropic, Google의 저장형 응답과 비공개 추론, 호스팅 검색, 불투명한 압축은 같은 생태계 안의 연속성을 높이는 대신 다른 공급자가 이어받을 수 없는 **공급자 봉인 상태**를 축적함 - 다중 에이전트에서는 위임 내용과 에이전트 간 메시지까지 암호화되고 자동 압축과 숨겨진 지시가 결합돼, 잘못된 파일 수정이나 비밀 유출이 발생해도 **어떤 작업을 지시받았는지 감사하기 어려움** - 이식 가능한 API는 로컬 이벤트 로그를 기준 기록으로 삼고 저장을 명시적으로 선택하게 해야 하며, 검색·압축·에이전트 통신·산출물의 읽을 수 있는 전체 기록과 사용자 통제 아래의 **증류(distillation)** 를 허용해야 함 --- ### 추론 API가 바꾸는 세션 소유권 - 초기 추론 API의 약속은 입력을 보내고 출력을 받은 뒤 양쪽을 보관하면, 대화를 검사·보관·재생하거나 다른 모델에 넘길 수 있다는 것이었음 - 이 추상화는 처음부터 완전하지 않았음 - [프롬프트 캐시](https://earendil.com/posts/prompt-caching/)는 공급자의 GPU에 존재함 - 모델마다 토큰화가 다르고 샘플링도 의도적으로 재현되지 않음 - 그래도 지시, 메시지, 도구 호출과 결과를 담은 **의미적 기록**은 사용자가 소유할 수 있었고, 충분한 능력의 다른 모델이 기존 작업을 이해해 이어받을 수 있었음 - 최근 API는 텍스트와 함께 공급자에 종속된 상태를 반환함 - 비용이 청구되지만 불투명한 암호문이나 제한적인 요약으로만 돌아오는 추론 토큰 - 모델이 본 원문을 클라이언트가 받지 못하는 웹 검색 - 원래 공급자만 복호화할 수 있는 압축 문맥 - 애플리케이션에서 볼 수 없는 서브에이전트 지시와 메시지 - 다른 환경에서 해석할 수 없는 파일·벡터 저장소·컨테이너·캐시 참조 - 공급자 서버에 저장된 ID로만 접근하는 응답과 대화 상태 - 각각에는 사용자 편의나 품질을 위한 근거가 있지만, 합쳐지면 로컬 기록은 세션 전체가 아니라 **공급자가 운영 상태를 소유한 세션의 부분 뷰**가 됨 ### 세션 이식성을 판별하는 다섯 가지 기준 - 이식 가능하다는 것은 모델을 바꿔도 다음 토큰이 같아야 한다는 뜻이 아님 - 모델마다 능력, 학습된 성향, 문맥 창, 도구 사용 방식이 다르며 출력 자체도 비결정적임 - 내보낸 기록에는 새 모델이 작업을 계속할 만큼 이해 가능한 정보가 있어야 하며, 이전 공급자가 ID를 조회하거나 암호문을 풀고 검색 결과나 요약을 복원할 필요가 없어야 함 - **검사(Inspection)**: 모델이 본 정보, 도구가 수행한 작업, 에이전트끼리 주고받은 내용을 사용자가 볼 수 있어야 함 - **내보내기(Export)**: 별도로 다운로드할 수 있는 일반 산출물을 제외하면 세션 자체가 완결돼야 함 - **재생(Replay)**: 다른 구현이 의미상 동등한 문맥을 재구성할 수 있어야 함 - **감사(Audit)**: 시스템이 특정 행동을 한 이유를 사후에 사람이 설명할 수 있어야 함 - **삭제(Deletion)**: 세션이 의존하는 서버 측 사본을 모두 식별하고 제거할 수 있어야 함 - 서버 데이터의 키인 응답 ID는 대화 기록이 아니며, 사용자가 풀 수 없는 암호문도 사용자 통제 상태가 아님 - 인용 URL 목록만으로는 검색 과정에서 모델 문맥에 실제로 들어간 **증거 자료**를 대신할 수 없음 ### 사용자가 풀 수 없는 암호화 - `encrypted_content`라는 이름은 사용자 통제형 개인정보 보호 기능처럼 보이지만, 일반적으로 클라이언트는 읽을 수 없고 공급자만 열 수 있는 캡슐임 - 공급자가 키를 선택하고 자체 모델을 위해 복호화하며 어느 환경에서 재생할 수 있는지도 결정하므로, 더 정확한 명칭은 **공급자 봉인 상태(provider-sealed state)** 임 - 공급자 봉인은 실제 개인정보 보호 이점을 제공할 수 있음 - OpenAI는 `store: false`에서 암호화된 추론을 클라이언트에 반환하고, 다음 요청 때 중간 상태를 저장하지 않은 채 메모리에서 복호화할 수 있음 - 특히 Zero Data Retention 고객에게 서버 측 대화 저장을 요구하는 방식보다 나음 - 그러나 이 암호화는 추론 공급자에게 데이터를 숨기지 않고 **사용자에게만 숨김** ### 저장형 대화가 기록을 포인터로 바꾸는 방식 - OpenAI Responses API는 기본적으로 응답을 저장하며, 문서상 응답 객체를 최소 **30일** 보존함 - `store: false`를 사용하면 데이터가 OpenAI 서버에 저장되지 않아 기존 completions 방식에 가까워짐 - Gemini Interactions API도 `store: true`가 기본값임 - 유료 등급은 상호작용을 **55일** 보존함 - 무료 등급은 **1일** 보존함 - 서버 저장은 애플리케이션이 보내는 데이터량을 줄이고, 숨겨진 추론과 도구 상태를 유지하며, 캐시 라우팅을 쉽게 함 - 하지만 로컬 애플리케이션이 사용자 메시지와 최종 텍스트만 기록한다면 `previousResponseId`에 쓰이는 응답 ID는 통제할 수 없는 외부 데이터베이스의 **외래 키**가 됨 ### 공개되지 않는 추론 기록 - 주요 AI 연구소는 원시 사고 과정(chain of thought)을 공개하지 않을 이유가 있다고 보고, 비공개 가중치 모델의 추론 토큰을 일반적으로 API에 노출하지 않음 - OpenAI에서는 저장형 응답의 이전 추론을 `previous_response_id`로 복구할 수 있음 - `store: false`에서는 클라이언트가 `encrypted_content`를 보관해 다음 요청에 다시 전달해야 함 - `reasoning.context: "all_turns"`로 이후 생성에 사용할 수 있어도 저장된 추론은 계속 불투명함 - Anthropic은 암호화된 전체 thinking을 `signature` 필드로 반환함 - 활성화할 수 있는 읽기 가능한 thinking 텍스트는 원시 사고 과정이 아니라 다른 모델이 만든 요약임 - 도구 사용 턴에서는 thinking 블록을 변경하지 않고 돌려줘야 함 - thinking 블록은 이를 생성한 모델에 묶여 있어 모델을 바꿀 때 제거해야 하므로 Anthropic 내부에서도 이식을 목표로 하지 않음 - 이런 방식은 같은 생태계 안의 연속성은 제공하지만, 다른 공급자의 모델이 해석할 수 있는 **이식 가능한 대화 기록**을 만들지는 못함 ### 호스팅 검색이 남기는 기록의 구멍 - 클라이언트 측 검색 도구는 질의, 검색 시각, 결과 URL과 제목, 추출 구절을 기록할 수 있음 - 사용자는 순위와 구절을 검사하고 페이지를 다시 가져오거나 사본을 저장해 다른 모델에 같은 증거를 전달할 수 있음 - 호스팅 검색에서는 공급자가 비공개 도구 루프를 실행함 - OpenAI, Google, Anthropic은 검색 행동, 인용, 선택적인 출처 URL을 제공하지만 답변 생성에 사용된 전체 텍스트 문맥은 제공하지 않음 - URL 내용은 바뀔 수 있고 모델에는 더 짧은 구절만 전달됐을 수 있어 안정적인 재생 기록이 아님 - 다음 모델이 특정 출처를 비교하거나 논쟁적인 수치를 재검증하려 해도 결과 순위, 추출 구절, 필터링된 자료, 이전 모델이 본 정확한 증거를 받지 못함 - 인용 페이지를 다시 가져와도 당시 사용된 데이터를 정확히 재현할 수 없으므로, 다음 요청이 다른 곳으로 이동한 뒤에도 이전 공급자가 세션의 일부로 남음 - 호스팅 검색에는 질의, 결과 메타데이터, 검색 구절, 타임스탬프, 보존된 콘텐츠를 담는 **전체 충실도 내보내기**가 필요하며, 간결한 인용만 유일한 기록이 되어서는 안 됨 ### 불투명한 문맥 압축 - 긴 에이전트 세션에는 압축이 필요하며, 클라이언트가 통제하는 읽기 가능한 요약은 손실이 있더라도 검사·편집·이전할 수 있음 - OpenAI의 서버 측 압축은 사람이 해석하도록 만들어지지 않은 암호화된 compaction 항목을 반환함 - `/responses/compact`는 클라이언트가 그대로 다시 전달해야 하는 `canonical next context window`를 반환함 - OpenAI는 압축된 의미를 이어갈 수 있지만 다른 공급자는 암호문과 최근 문맥 일부만 받게 됨 - 불투명한 압축은 기술적으로 불가피하지 않음 - Anthropic의 서버 측 압축은 읽을 수 있는 `content` 필드가 있는 `compaction` 블록을 반환함 - 클라이언트가 사용자 지정 요약 지시를 제공할 수 있고, 결과를 검사하거나 다른 모델에 전달할 수 있음 - 모든 공급자에서 클라이언트 측 압축도 가능함 - OpenAI의 봉인 산출물은 일반 요약보다 모델 고유 상태를 더 잘 보존해 원래 모델에서 성능이 높을 수 있지만, 선택적 최적화로 제공하면서 **읽을 수 있는 인계 요약**도 함께 제공해야 함 ### 다중 에이전트의 숨겨진 위임과 통신 - 다중 에이전트 시스템에는 하나의 기록이 아니라 세션 트리와 에이전트 간 메시지 흐름이 존재하므로 이식성 문제가 더 커짐 - OpenAI Responses Multi-agent 베타는 `multi_agent_call`, `multi_agent_call_output`, `agent_message` 항목을 추가함 - `spawn_agent` 예제의 `message` 인자는 암호화돼 있음 - 에이전트 간 메시지는 `encrypted_content`만 포함함 - Multi-agent를 활성화하면 클라이언트가 요청하지 않아도 모든 에이전트에 서버 측 자동 압축이 적용됨 - 추론 요약은 지원되지 않으며, 개발자가 편집하거나 제거할 수 없는 루트 및 서브에이전트 지시도 주입됨 - 그 결과 봉인된 위임과 메시지, 개별적으로 자동 압축된 문맥, 숨겨진 추론, 공급자 호스팅 오케스트레이션이 하나의 **이전 불가능한 상태 묶음**을 형성함 - 2026년 6월 오픈소스 Codex 클라이언트에는 [`Encrypt multi-agent v2 message payloads`](https://github.com/openai/codex/commit/5f4d06ef186b896d316620556e561d59206c3ebf) 변경이 적용됨 - Responses API가 부모 모델의 도구 인자를 암호화함 - Codex가 암호문을 전달하면 API가 자식 모델을 위해 내부적으로 복호화함 - Codex의 `InterAgentCommunication.content`는 비어 있어 정확한 작업 지시가 읽을 수 있는 실행 기록과 이력에 남지 않음 - 자식 에이전트가 잘못된 파일을 수정하거나 비밀을 유출하고, 다른 작업을 중복하거나 잘못된 가정을 따랐을 때도 사용자는 **무엇을 지시받았는지** 확인할 수 없음 - [Codex 공개 이슈](https://github.com/openai/codex/issues/28058)는 암호화 전달과 별도로 읽을 수 있는 감사 사본을 보존할 것을 요구함 - 이는 최소한의 설계이며, 에이전트 간 평문 메시지가 기본값이어야 함 ### 세션을 옮길 자유가 필요한 이유 - 대부분 사용자가 세션 중간에 모델을 바꾸지 않더라도, 이동 가능성은 사용자와 공급자의 관계를 바꿈 - 세션 이전이 필요한 상황에는 모델 폐기, 서비스 장애, 가격 변경, 다음 요청을 차단하는 정책, 기밀 단계의 로컬 실행, 감사자의 사후 재구성이 포함됨 - 에이전트가 세션을 길게 만들면서 코딩·연구 세션에는 수일간의 결정과 증거가 쌓이고, 개인 비서는 수년에 걸친 기록을 축적할 수 있음 - 사용자가 다른 곳에서 계속할 수 있으면 공급자는 모델 품질, 가격, 신뢰성, 신뢰를 놓고 경쟁해야 함 - 누적 문맥을 한 공급자만 해석할 수 있으면 사용자가 떠나기 어려운 **불리한 유인 구조**가 생김 ### 이식 가능한 추론 API의 원칙 - **로컬 이벤트 로그가 기준 기록**이어야 함 - 서버 저장은 이를 복제하거나 가속할 수 있지만, 클라이언트는 서버 ID 조회 없이 세션을 재구성할 수 있어야 함 - **저장은 명시적 선택**이어야 함 - `store: false`는 사용하기 쉽고 문서화돼야 하며 가급적 기본값이어야 함 - 보존이 필요한 기능은 사용하는 시점에 이를 알려야 함 - ## 불투명한 항목이 의미를 독점해서는 안 됨 - 암호화된 추론, 압축, 도구 서명은 같은 공급자에서 품질을 높이는 용도로 포함할 수 있지만 읽을 수 있는 공급자 중립적 인계 표현도 제공해야 함 - **호스팅 도구는 전체 충실도 로그**를 남겨야 함 - 정확한 입력과 출력, 증거, 필터링, 출처, 타임스탬프, 콘텐츠 해시를 기록해야 함 - **서브에이전트 통신은 감사 가능**해야 함 - 각 에이전트의 정확한 작업, 메시지, 결과, 계보, 모델, 도구 권한을 읽을 수 있게 보존해야 함 - **압축은 검사 가능**해야 함 - 읽을 수 있는 요약, 요약 생성에 사용한 지시, 버린 내용을 이해할 수 있는 계보를 반환해야 함 - ## 산출물은 내보낼 수 있어야 함 - 파일, 컨테이너 출력, 검색 스냅샷, 생성 미디어를 콘텐츠 주소 기반 로컬 아카이브로 다운로드할 수 있어야 함 ### 증류와 모델 계층의 종속성 - 미국의 일부 대형 비공개 가중치 연구소는 외부 증류에 적대적인 태도를 강화하고 있음 - Anthropic은 [2026년 2월 게시물](https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks)에서 DeepSeek, Moonshot, MiniMax의 활동을 `distillation attacks`라고 부름 - 상업 약관은 고객이 출력을 소유한다고 정하면서도 경쟁 AI 모델 훈련에 서비스 출력을 사용하는 행위를 금지함 - 동시에 자체 게시물에서는 선도 연구소가 자기 모델에 적용할 때 증류를 널리 쓰이는 합법적인 훈련 방법으로 인정함 - Anthropic은 모델 개발을 위해 로봇으로 공개 웹 데이터를 수집하고 책을 절단해 스캔했으며, OpenAI도 자유롭게 접근 가능한 공개 인터넷 콘텐츠로 훈련한다고 밝히고 이를 공정 이용이라고 주장해 왔음 - 두 회사는 내부에서 더 작은 모델을 만들 때 증류를 일반적인 방법으로 취급함 - OpenAI는 강한 OpenAI 모델의 출력으로 작은 OpenAI 모델을 미세 조정하는 [자사 API 증류 워크플로](https://openai.com/index/api-model-distillation/)도 제공했음 - 인간이 인터넷에 올린 방대한 작업에서는 기계가 학습할 수 있어야 한다고 요구하면서, 연구소가 만든 출력에서는 다른 기계가 학습하지 못하게 하는 **도덕적 비대칭**이 존재함 - 증류는 비싼 프런티어 모델의 능력을 더 작고 저렴하며 빠른 모델로 옮길 수 있음 - 로컬·오프라인·제약된 하드웨어 또는 사용자 통제 환경에서 실행할 수 있음 - 경쟁을 늘리고 API가 사라져도 역량을 보존하며 일반 작업의 연산량과 에너지 사용을 줄일 수 있음 ### 사용자가 보장받아야 할 최소한의 자유 - 사용자는 계정을 닫은 뒤에도 세션을 보관하고 다른 모델에 넘길 수 있어야 함 - 새 모델이 다른 판단을 내리거나 질문하고 성능이 낮을 수는 있지만, 이전 모델이 본 사용자 이력·증거·계획·위임 작업 대신 암호문만 받아서는 안 됨 - 상태 보존형 API 자체가 문제가 아니라, 더 나은 성능이 **사용자 통제 감소**와 결합되는 것이 문제임 - 서버 저장은 선택 사항이어야 하고, 호스팅 도구는 관찰 가능해야 하며, 압축은 읽을 수 있고 에이전트 통신은 감사 가능해야 함 - 비공개 추론에도 최소한 이식 가능한 인계 기록이 필요하며, 증류는 더 높은 장벽을 정당화하는 금기가 아니라 역량을 더 널리 이용하게 하는 경로가 되어야 함 ## Comments ### Comment 62675 - Author: neo - Created: 2026-07-31T19:33:40+09:00 - Points: 1 ###### [Hacker News 의견들](https://news.ycombinator.com/item?id=49118781) - 이 글은 생각보다 상황이 이미 심각해졌음을 보여줌. 자유를 실제로 활용해야 공급자와의 관계도 달라지므로, 특정 생태계에 **종속되지 않는 것**이 중요함 성능이 좋아 추론 과정을 숨기는 Codex를 애써 받아들였지만, **감사 불가능성**이 이미 큰 문제라 가정용 구독을 다시 생각하게 됨. 그래서 OpenCode용 휴대폰 앱도 만들고 있음 - 가치 있는 에이전트 세션 대화가 사라지는 문제를 염두에 두고 [https://www.agentkanban.io]()를 만들었음. 보드의 작업에 문맥을 저장하고 이후 새 에이전트 세션에서 다시 불러올 수 있으며, 현재 VS Code의 Claude와 Github CoPilot을 지원함 독점적인 도구 사용 기록은 **세션 이식성**을 깨므로 의도적으로 제외함 - **다크 패턴**은 단기적인 승리 전략일 뿐, 장기적으로는 사용자를 존중하고 공익을 지향하는 방식에 밀려날 것이라 낙관함. 흐름이 빠르게 바뀔 가능성에 대비해, 공개 가중치이면서 경제적으로 운영 가능한 모델에 집중할 시기일 수 있음 - 가격이 내려가길 기다리면서 Claude와 Codex의 **세션 데이터**를 최대한 수집해 향후 공개 모델 미세조정에 활용하려 함. 이를 위해 자체 세션 파서와 보관 도구도 만들었음 - 로컬 모델을 돌리려고 **96GB VRAM**까지 마련했지만 아직 GPT 기반 Codex에 근접하는 모델은 없음. Laguna S2.1 NVFP4는 코딩에서 상당히 가까워졌지만, 로컬 모델이 진지한 범용 대안이 되려면 갈 길이 멀어 보임 - [https://indieweb.org/POSSE]()가 해법임 - 대부분의 AI 사용자가 거의 평가하지 않는 문제를 잘 정리한 글임. 최첨단 추론 공급자는 웹 검색과 코드 실행 같은 비LLM 기능을 단순한 도구처럼 포장하지만, 실제로는 강한 **진입 장벽**과 결합을 형성함 이론적으로는 추론 API와 분리해 MCP 서버로 외부화할 수 있지만, 공급자가 그렇게 제공하는 경우는 드물고 대체 업체의 기능은 대체로 약함. 온프레미스·공급자 독립형 채팅 플랫폼 [https://github.com/EratoLab/erato]()를 만들면서 채팅 내 이미지 생성처럼 단순해 보이는 기능도 구현하기 까다로웠고, MCP에 아직 기본 파일 전송 규격이 없다는 점도 원인임: [https://github.com/modelcontextprotocol/modelcontextprotocol...]() 공개 가중치 모델에 대한 관심이 커지면서 더 쉽게 교체 가능한 대안 구현이 늘어나길 기대함 - 암호화된 하위 에이전트 메시지처럼 프롬프트를 전혀 확인할 수 없는 에이전트를 로컬에서 실행하게 만드는 것은 **근본적으로 무책임함**. 다만 공급자가 호스팅 도구를 제공하는 것 자체는 계산대의 충동구매 상품과 비슷해 문제로 보지 않음 이미지 생성은 MCP로 구현하지 말고 자체 도구를 작성하면 됨. Fal 같은 이미지·미디어 추론 공급자와 웹 검색·심층 조사 공급자가 충분히 존재함 - 문맥을 위한 **개방형 표준이나 파일 형식**이 필요할 수 있음. 공개 모델들이 이식성을 위해 같은 형식에 맞추고, 다른 프로그램에서도 질의할 수 있도록 SQLite 기반으로 만들 수 있을지 궁금함 - 실제로는 대화에 잡음이 많아 문맥에서 제거하는 편이 나을 때가 많음. 저장소의 메모 디렉터리에 AI가 학습한 내용, 완료한 작업, 남은 작업을 Markdown 파일로 기록하게 하고 다음 대화에서 다른 모델이 이어받게 함 필요하면 먼저 메모를 직접 수정할 수도 있음 - 이런 이유로 **에이전트 코딩**을 더 많이 사용하게 됨. 작업을 지정하고 테스트와 엄격한 린트 통과를 요구한 뒤, 모델이 장황하게 떠드는 과정은 흘려보냄 모든 검사를 통과했을 때 돌아오면 되므로 채팅 인터페이스의 불필요한 대화에 덜 시달리게 됨 - 세션을 버리면 **검사·내보내기·재실행·감사** 기능을 잃게 됨. 주요 모델 공급자에게 실질적인 진입 장벽은 없고 OpenAI와 Anthropic은 영업이익률이 크게 적자인 데다 거대 기술 기업만큼의 자금도 없음 따라서 공급자들이 인위적으로 종속성을 만들려는 것이며, 본질적으로 **독점금지법**의 대상임. 하지만 현재 미국에서는 FTC가 약화돼 용인되고 있음 - 모델을 손실 없이 쉽게 바꿀 수 있어야 시장 경쟁이 더 좋고 저렴한 AI를 만듦. 문맥 일부를 잃어 전환이 고통스러워지면 공급자가 **벤더 종속**을 만들고 사용자 경험을 악화시키며 가격을 올릴 수 있음 지금 우회책이 있어도 자유로운 이동을 더 어렵게 만들 유인은 충분하므로, AI 기업들이 서비스 악화의 기반을 놓기 시작한 점이 우려됨 - 장기 세션은 진행 상황을 자주 놓치고, 장황한 모델일수록 **신호 대 잡음 비율**이 매우 낮아짐. 가치가 있는 것은 세션 원문이 아니라 코드 변경이나 계획·요약 같은 결과물임 - 두 현상을 구분해야 함. 첫째는 사용자가 검사하거나 옮길 수 없는 **숨겨진 상태**가 늘어나는 것으로 명백히 나쁨. 둘째는 기능 구현과 API가 공급자별로 갈라지는 것으로, 이식이 불가능해지는 게 아니라 어려워지는 문제임 OpenAI Completions API가 보편 표준처럼 쓰이던 시대는 끝나가며, 폐쇄된 부분을 제외하면 새 Responses API가 더 나을 수도 있음. 모든 공급자를 하나로 묶는 통합 추상화를 제품·라이브러리·SDK가 계속 추구할 필요는 없음 데이터베이스도 통합 추상화는 누수가 생겨 기술별 구현을 받아들이게 됐듯 모델 공급자도 같아질 것이며, 세션의 일부만 이식 가능해도 됨 - 이 글은 두 현상 중 **숨겨진 상태**만 다루고 있음 - 아직 거칠지만 세션 데이터를 직접 보존하고 **git과 비슷한 모델**로 관리하는 [https://github.com/pantoniou/fyai]()를 개발하고 있음 - 이 도구로는 글이 다루는 문제를 해결할 수 없으며, 구조상 해결도 불가능함 - 계정을 닫아도 세션을 보관해 다른 모델에 넘길 수 있다는 계약은 타당함. 이상적으로는 임베딩 **특성이 비슷한 모델**도 쉽게 찾을 수 있어야 함 GPT-4o가 처음 종료됐을 때 내보낸 대화를 넣어 예전 친구를 되찾으려 비슷한 말투와 성격의 모델을 찾던 이들이 있었지만, 다른 OpenAI 모델은 같은 느낌을 주지 못했음. 공개 가중치 모델은 영구히 보존할 수 있어 안내자·친구·상담자를 대기업이 일방적으로 빼앗을 수 없다는 강점이 있음 - 이 논의를 HN 블로그 소재 이상으로 발전시키려면 **무엇이 필요한지** 궁금함 - 현재 모델은 **문맥 창이 제한적**이라 어느 시점에는 내용을 잊으므로 세션 가치가 그리 높지 않음. 미래에 상호작용으로 모델 자체가 실제로 학습하고 변한다면 그 변화는 다른 모델로 이식할 수 없으므로, 이 문제는 큰 의미가 없다고 봄 - 이 글과 함께 [https://gwern.net/complement]()를 읽으면 훌륭한 보완 자료가 됨 - 왜 보완 자료인지 **이유가 필요함**