오픈 모델이 예상 밖의 해방감을 준 이유

 (matthewsaltz.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 약 2년간 Claude와 ChatGPT를 사용해 왔지만, opencode를 자체 추론 엔드포인트에 연결하자 예상보다 큰 해방감을 느낌
  • 데이터가 노트북과 자신이 소유한 엔드포인트 사이에서만 오가면서 통제감과 소유감이 커짐
  • 개인용 Claude·ChatGPT 요금제를 업그레이드하는 대신, Modal이 관리형 엔드포인트로 출시한 Kimi K3를 사이드 프로젝트에 사용하기로 함
  • 약 5분 만에 opencode가 자신의 Modal 엔드포인트를 이용하도록 설정하고 실행함
  • 화려하고 큰 편집기 대신 vim을 열었을 때처럼 간결했으며, 다른 제공업체에 묶인 연결에서 벗어난 듯한 자유로움을 줌

자체 엔드포인트를 선택한 계기

  • 개인 계정에 적합한 Claude 또는 ChatGPT 요금제가 없어, 사이드 프로젝트를 위해 요금제를 업그레이드하는 대신 다른 선택지를 찾음
  • 근무 중인 Modal이 관리형 엔드포인트에서 Kimi K3를 출시했고, 성능이 준수하다고 알려져 있어 직접 사용해 보기로 함
    • 해당 기능 개발에는 직접 참여하지 않아 이전에는 사용해 보지 못했음

opencode 연결이 바꾼 사용감

  • 약 5분 만에 opencode를 자신의 Modal 엔드포인트에 연결해 실행함
  • 데이터가 노트북과 자신이 소유한 엔드포인트 사이에서 오가는 구조가 통제감과 소유감을 높임
  • 비어 있고 단순한 opencode의 시작 화면은 큰 편집기를 오래 사용한 뒤 vim을 여는 경험과 비슷했음
  • 다른 제공업체에 묶어 두던 연결이 끊어진 듯한 자유로움은 기대하지 않았던 변화였음

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • Claude Code가 인기 있는 이유는 “백만 달러짜리 SaaS를 만들어줘” 같은 모호한 요청만으로도 수천 줄의 코드와 다양한 표면적 예외 처리, 기능을 한꺼번에 만들어내기 때문임
    소형·공개 모델은 이런 작업에 약하지만, 실제 개발은 앱 전체를 한 번에 요청하고 끝내는 방식이 아님. 전통적인 개발처럼 작고 구체적인 함수를 반복 개선하면 GLM도 Claude만큼 혹은 그 이상으로 잘하며, 러버덕 디버깅하듯 맥락을 명확히 제공하면 대부분 아주 깔끔한 결과를 내놓음

    • 개인적으로 DeepSeek v4 Flash가 Opus만큼 유용했음. 일회성 기술 시연 대신 정확한 용어로 원하는 변경을 구체적으로 요청할 기술적 이해가 있다면 충분하며, OpenRouter에 충전한 뒤 지출액이 1달러에 도달하기까지도 오래 걸렸음
    • Opus 5 같은 최전선 모델은 여러 학문 분야의 요소를 결합해 모호하고 추측적인 요청에서 때로는 출판 가능한 수준의 새로운 연구 결과까지 만들어내는 데도 탁월함
      이미 알려진 방법도 수작업 대비 약 100분의 1 시간에 구현해 빠르게 아이디어를 탐색할 수 있고, NumPy나 SciPy 외의 서드파티 의존성을 거의 없앤 구현을 처음부터 작성해 명료성과 성능을 높여주기도 함
    • 이런 도구는 비소프트웨어 엔지니어의 진입 장벽을 크게 낮춰줌. 환경 분야 데이터 과학자로서 프런트엔드 경험은 제한적이지만, 몇 주 동안 Claude와 함께 반려자의 말 관리를 돕는 Android 앱을 완성해 현재 테스트 중임
      계획 단계에서 사용할 서비스와 기능을 며칠간 자세히 지정했지만, X를 구현하면서 수정·삭제 기능은 빠뜨리는 식으로 요청에 명시하지 않은 기능이 누락되기도 했음. 핵심 기능의 개념 증명은 이미 만들었어도 사용하기 쉬운 인터페이스가 없었는데, Claude 덕분에 시간 여유가 부족한 상황에서도 빠르게 맞춤형 앱을 만들 수 있었음. 혼자 했다면 덜 다듬어진 결과에도 1년 이상 걸렸을 것임
    • “Microsoft Word를 대체할 프로그램을 만들어줘”라는 황당한 요청에 ChatGPT는 수십 년간 쌓인 예외 처리, 버그 수정, 희귀 기능과 업무 절차를 설명하며 정말 원하는 게 맞는지 되물었음. 반면 Claude는 실제로 만들려 곧바로 작업을 시작해 놀라웠음
    • 공개 모델도 앱 전체를 한 번에 만들 수 있게 되면, 모두가 기존의 “소프트웨어 개발 방식”을 금세 잊을 것 같음

  • DeepSeek V4 Flash의 성능이 예상보다 상당히 좋음. 주로 Claude 5 Opus 기반 Claude Code와 GPT-5.6 Sol 기반 Codex를 쓰지만, DS V4 Flash도 크게 떨어진다는 느낌이 없고 oh-my-pi나 기본 pi와 함께 쓰면 꽤 훌륭함
    최전선 모델이 도구 호출에는 훨씬 강해 비서 흐름에 유리하지만, 모델이 추측하는 방식에 맞춰 도구를 다시 작성하는 식으로 실행 환경을 최적화하니 DS V4 Flash도 충분히 잘 작동함. 소형 모델은 첫 토큰 지연 시간과 초당 토큰 수가 훨씬 좋아 여러 작업에서 경쟁력이 있고, 작년 말 Sonnet과 비슷한 느낌이라 상당히 뛰어남

    • 주말에 직접 OpenClaw 같은 시스템을 만들어 DeepSeek v4 Flash와 Qwen을 Matrix 기반 비서로 사용 중이며, 비용은 월 약 2달러임. 접근 가능한 도구를 완전히 통제할 수 있어 ChatGPT보다 유용함
      진료 기록을 촬영해 일정에 추가하거나 PDF를 태그·OCR 처리해 보관하고, 인터넷 검색과 Google Maps 데이터 조회도 가능함. Home Assistant 및 오픈소스 Alexa 유사 시스템과 연동해 음성으로 에이전트와 대화할 수도 있음

  • 사실상 교묘한 광고지만 마침 궁금했던 구성이라 내용 자체는 괜찮음. 다만 대화를 NSA로 직접 보내지 않기 위해 얼마의 추가 비용을 감수해야 하는지 판단할 수 있도록 비용 지표가 필요함
    Claude와 OpenAI는 상당한 보조를 받는 것으로 알려져 있어, 비공개 엔드포인트에서 Kimi K3를 쓰는 비용이 더 비쌀지 저렴할지가 궁금함

    • 비용 대비 얼마나 많은 “무료” 코딩 에이전트를 쓸 수 있는지 궁금하다면 Fable의 조사 결과가 있음: https://claude.ai/public/artifacts/2c9a5001-0b7e-4944-beb1-9...
    • OpenRouter에서는 각 모델 페이지에 공급자별 가격과 데이터 무보존 여부를 나타내는 아이콘이 표시됨. 계정 전체 보호 규칙을 설정해 비(非) ZDR 공급자로의 라우팅을 차단할 수도 있음

  • 이 글은 자기 제품 광고임. 작성자가 오랫동안 활동했고 솔직하게 썼다고 해도, “내 제품을 써봤는데 아주 좋았다”는 글은 자기 홍보와 다르지 않음

    • 이미 글이 신고 처리돼 큰 차이는 없겠지만 광고 의도는 전혀 없었음. 누가 요청하거나 미리 계획한 글이 아니라, 집에서 무언가 만들 여력이 생겨 개발을 도울 LLM과 제품 내부에서 사용할 LLM이 모두 필요해 떠오르던 Modal 엔드포인트를 시험했을 뿐임
      Claude 요금제를 올리고 싶지 않았고, 흥미롭지 않았다면 글도 쓰지 않았을 것임. 글을 쓰게 만든 핵심은 “Modal이 멋지다”가 아니라 본문에서 묘사한 느낌이었음. 광고처럼 보일까 걱정해 링크 삭제도 고려했으며, 재직 중인 회사가 멋진 일을 했다는 점은 부수적인 장점이었을 뿐임
    • HN에는 Anthropic을 홍보하는 블로그 글이 끊임없이 올라오는데, 그것들은 광고가 아니고 이 글만 광고라는 기준은 납득하기 어려움
    • 제품이 정말 좋다면 개발자가 직접 홍보하지 못할 이유가 없음
    • 글을 유지하려면 제목 앞에 Show HN을 붙이는 편이 적절함
    • HN의 많은 글이 자기 홍보이며, 흥미로운 글인지 아닌지는 첫 화면에 오르는 과정에서 가려짐. 흥미로운 자기 홍보는 여전히 흥미로움

  • GLM 5.2는 Opus보다 낫게 느껴지고 K3는 Fable만큼 좋음. K3를 Qwen 3.6 27b나 Poolside S 2.1 규모로 증류해 빠른 로컬 Composer 2.5 대체재가 나오길 기대함

  • 대형 최전선 모델에서 Composer처럼 민첩한 모델로 바꾸면, 화려하고 무거운 편집기 대신 vim을 열었을 때와 비슷한 느낌이 들 때가 있음
    빠른 모델과는 사고와 질의응답의 순환이 더 원활하며, vim으로 파일을 빠르게 오가는 흐름과 비슷함

  • OpenCode의 비어 있는 듯한 인터페이스가 좋음. 깔끔하고 가벼우며 수동적인 방식이라, 멋지지만 느린 요즘 인터넷 도구들과 다른 속도감을 줌

    • Pi Agent는 훨씬 더 가볍게 느껴져 시험해볼 만함

  • 이 글은 Modal 광고처럼 보임. 하드웨어를 임대한 것이라면 정말 자기 인프라라고 부를 수 있는지도 의문임

  • 중국산 여부와 무관하게 호스팅 모델을 사용하며 영업비밀을 어디로 보내는지 알 수 없다는 점을 걱정해야 함
    로컬 모델도 시도했지만 기본형 MPB M5 16GB에서는 느리고, 당분간 노트북을 업그레이드할 계획도 없음

답변달기