Morph (YC S23), AI 코드 편집을 초당 4,500 토큰으로 적용

 (news.ycombinator.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • AI 코딩 도구에서 생성된 변경사항을 기존 파일에 붙이는 과정이 병목이 되자, Morph는 Fast Apply 모델로 전체 파일 재작성과 취약한 검색-치환을 대체하려 함
  • 에이전트는 수정되지 않은 줄을 //...existing code...처럼 남긴 느슨한 편집 출력을 만들고, Morph가 원본 파일을 기준으로 실제 변경을 적용함
  • 제공 모델은 morph-v3-fast가 4,500+ tok/sec, morph-v3-large가 2,500+ tok/sec이며 create.xyz, databutton, continue.dev 등에서 사용됨
  • 검색용으로는 임베딩·리랭킹 모델을 제공하고, 다음 제품으로 Cmd-K 스타일 인라인 편집 모델과 sub-500ms 지연의 Morph Tab API를 준비 중임
  • Cursor가 먼저 개척한 방식이지만 API로 공개되지 않았고, Morph는 개발자가 직접 붙여 쓸 수 있는 API와 큰 무료 티어를 앞세움

AI 코드 편집 적용의 병목

  • AI가 만든 코드 변경을 기존 코드에 안정적으로 삽입하는 과정이 Morph의 핵심 문제의식임
    • 전체 파일 재작성은 느리고 비용이 커질 수 있음
    • 검색-치환 방식은 작은 차이에도 깨지기 쉬워 오류가 날 수 있음
  • Morph는 에이전트가 변경사항을 느슨하게 출력하도록 설계함
    • 수정하지 않은 기존 줄은 // ...existing code...처럼 참조함
    • 원본 파일과 느슨한 패치를 입력으로 받아 Fast Apply 모델과 추측 디코딩으로 실제 편집을 적용함
  • 목표는 AI 패치를 더 빠르고 안정적이며 프로덕션에 쓰기 쉬운 형태로 만드는 것임
  • 관련 자료는 아래에서 확인할 수 있음

모델 라인업과 다음 제품

  • Morph는 두 가지 Fast Apply 모델을 제공함
    • morph-v3-fast: 4,500+ tok/sec
    • morph-v3-large: 2,500+ tok/sec
  • 이 모델들은 create.xyz, databutton, continue.dev 등에서 Fast Apply를 구동하는 데 쓰임
  • 코드 검색을 위해 임베딩과 리랭킹용 검색 모델도 함께 제공함
  • 다음 기능은 편집 흐름을 더 짧게 만드는 쪽에 맞춰져 있음
    • Inline Edit Model, Cmd-K: 개발 흐름을 끊지 않는 매우 빠른 인라인 편집
    • Morph Tab API: 다음 코드 편집과 액션을 예측하는 모델이며 sub-500ms 지연을 목표로 하고 현재 비공개 베타임
  • Morph는 개발자 경험에서 원시 추론 속도가 중요하며, 전체 파일 재작성보다 Fast Apply 편집이 속도·비용·신뢰성 측면에서 낫다고 봄
  • 좁은 작업 벤치마크가 99% 이상으로 포화되면, 단일 frontier 모델보다 특화된 추론 최적화 모델 쪽으로 복잡성이 이동한다는 판단임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견

  • 나는 개발자 경험에서 원시 추론 속도보다 정확도가 중요하다는 주장에 동의하지 않는 편임. 사용자들은 훨씬 느린 tok/sec을 감수하면서도 더 대형 모델을 선호하는 이유가 결국 코드 품질이 첫 번째 기준임. 큰 코드 수정(예: 5,000 토큰)에서 200~300ms 정도 지연은 별로 의미 없는 수치임. 에디트 속도 자체가 병목보다는 품질이 더 큰 요소임. 코드 변경 때 200ms 단축이 품질보다 우선이라면 전혀 공감할 수 없음. 1~2개의 에이전트를 병렬로 쓰면 코드를 리뷰하는 동안 이미 대부분 수정이 끝남. 품질 측정 기준이 궁금하고, 빠른 모델과 대형 모델 간 오류율 차이는 어느 정도인지 궁금함

    • 나는 추론 속도가 약 50% 빨라지면 정확도가 한 자리수만큼 개선되는 것보다 내 작업 흐름에 훨씬 더 큰 가치를 준다고 느낌. 어차피 변경 사항을 직접 확인해야 하니, 빠른 반복 주기가 더 낫게 느껴짐. 다만 정확도가 충분히 높아서 검증을 덜 하거나 덜 자주 해야 할 수준이라면, 이때는 추론 속도 이점이 거의 의미 없어짐

    • 전적으로 동의함. AI 모델이 코드 변경을 제안한 후 가장 먼저 할 일은 반드시 그 결과물을 꼼꼼하게 리뷰하는 과정임. 대다수의 경우, 프로프트에 빠진 문맥이나 특정 토큰 때문에 코드가 중복되거나 엉뚱하게 생성되는 경우가 많음. 변경 사항을 일괄 적용하면 디버깅이 더 어려워지고, 이런 대량 코드 삽입이 누적될수록 코드가 생각보다 빨리 망가질 가능성이 높음

    • 내가 이해한 바로는 단순히 ±300ms 수준이 아니고, 300ms와 10초처럼 매우 큰 간극이 있음. 이런 대형 모델의 응답 대기는 확실히 내 입장에서는 제약이 됨. 게다가 이런 단순 작업에는 리소스가 불필요하게 소모되는 아쉬움이 있음. 사실 코드 변경을 똑똑하게 적용하는 작업은 기존 프로그래밍 환경에서도 충분히 다룰 수 있는 영역이라 생각함. 정말 이런 게 꼭 LLM이 필요할 정도로 어려운 작업인지 궁금함

    • 너에게는 리뷰 시간이 병목처럼 느껴지는 것 같음. 나는 현재 누군가가 코드 에이전트 결과물 리뷰를 훨씬 빠르게 할 수 있게 도와주는 기능을 만들고 있음. 만약 시간이 있다면 네 워크플로우를 좀 더 자세히 인터뷰하고 싶음. 댓글이나 내 프로필에 있는 연락처로 연락주면 좋겠음

    • 핵심은 개발자가 몰입(flow) 상태를 유지하는 것이라 생각함. 에러와 지연이 모두 몰입을 끊는 요인이 됨. 결론적으로 코딩에서 품질(정확성)이 가장 중요한 요소임. 품질 평가는 크게 2가지 기준을 사용함. 첫째, 유저의 쿼리에서 태스크 완성까지 전체 라인에서 평가하는 종단 간 성능(aider 스타일의 bench); 둘째, 적용 정확도(문법/구문 문제, 문자 단위 diff 등). 대형과 빠른 모델 간 오류율은 약 2% 내외임. 복잡하거나 어려운 언어라면 대형 모델이 더 적합하며, 자동으로 태스크에 적합한 모델을 라우팅하는 옵션도 있음

  • 나는 microsoft copilot을 써봤는데, 특히 코드 적용 단계에서 너무 느리고 불편하다고 느낌. 리소스가 풍부한 곳에서 모델을 제대로 못 훈련했다는 게 의아함. 요청: 가장 좋은 diff 포맷을 LLM이 생성할 수 있도록, 시스템 프롬프트를 공식 문서에 넣어줬으면 좋겠음. LLM 업그레이드마다 diff 포맷이 바뀌는 경우가 많아 어떤 포맷이 최선인지 항상 추측해야 해서 불편함. 추가로, 개인정보 정책이 확실히 이해되지 않는데 내 해석대로라면 유료 사용자도 데이터가 저장/학습된다는 의미인지 궁금함. (전화없이) 서비스에 요금 결제만 하고 데이터 훈련에 쓰이지 않게 하는 방법이 궁금함. Morph Privacy Policy 를 참고함

    • ZDR(Zero Data Retention) 옵션도 가능함. info@morphllm.com으로 메일 보내주면 설정해줌. Morph를 OpenRouter로 사용하면 항상 Zero Data Retention임

    • “내 데이터로 모델을 훈련하지 말라” 요구는 좀 우스운 주장임. 이런 모델이 만들어진 원리 자체가 남의 코드로 훈련한 결과물임. 이러한 도구를 쓰면서 내 데이터는 훈련에 쓰지 말라는 건 사실상 이기적인 생각, 집단 이익의 딜레마와 비슷함. 이렇게 모델이 더 나아지는 구조임

  • 공식 데모에서 제공된 HTML 예제를 https://morphllm.com/dashboard/playground/apply 에서 그대로 적용해봤더니 아무 변경도 요청하지 않았는데 CSS가 추가되고, contact 섹션까지 생김. 이런 내용은 업데이트 인스트럭션에 없었음

    • 예리하게 발견함. HTML 예제가 하드코딩된 스니펫을 주석 해제 안 한 상태였음. 이제 수정함

  • 비용 측면에서 보면 Morph가 Gemini Flash보다 많이 비싸다는 인상임. Gemini flash도 꽤 괜찮은 코드 생성이 가능하고, 빠르게 에디트를 반영하는 AI도 좋은데 가격대가 만만치 않음. 예를 들어 Morph v3 fast는 인풋 $1.20/M 토큰, 아웃풋 $2.70/M 토큰인데 Gemini 2.5 Flash는 인풋 $0.30/M 토큰, 아웃풋 $2.50/M 토큰임 (참조: OpenRouter)

    • 데이터 0 보존 옵션 기준 요금임. Morph 공식 웹사이트 가격은 인풋 $0.80 / 1M 토큰, 아웃풋 $1.20 / 1M 토큰임. 대량/예약 인스턴스에는 할인 정책도 있음

  • 혹시 헷갈릴까봐 질문하는데, Morph는 다른 LLM의 결과물을 “적용”하는 툴이지 자체 LLM은 아닌지 궁금함. 초당 4,500토큰을 생성하는 게 아니라 적용 기준인지 궁금함

    • 맞음. 하지만 Morph 자체도 LLM임. 실제로는 대형 LLM이 소형 LLM을 툴 콜처럼 활용하는 구조임

  • 매우 인상적임. 내부 AI 코딩 시스템용으로 이런 솔루션을 찾고 있는 입장인데, 오픈소스인 Osmosis Apply 1.7B 같은 프로젝트와 비교하면 어떤 점이 다른지 궁금함. Morph 모델은 오픈소스/오픈웨이트가 아니라는 전제임

    • 둘 다 직접 써보는 게 좋겠음! 우리 모델은 속도와 정확성 면에서 차이가 크게 우위임

  • 이전에 Morph를 OpenRouter에서 못 봤는데 이젠 올라와 있는 것 같음. 다만 등록된 모델이 예전 버전인 듯? 더 적극적으로 지원할 계획이 있는지. 그리고 fast apply 모델이 Relace나 Llama/Cerebras와 성능(특히 정확성) 비교한 벤치마크 결과가 궁금함

    • 해커뉴스의 힘이 대단함! 이제 거기서도 신규 모델이 등록됨

    • 현재 v2 모델은 morph-v3-large를 가리키고 있음. 곧 v3-large와 v3-fast도 추가될 예정임

  • Relace와의 비교가 궁금함. 둘 다 YC 출신 회사고, 기능도 매우 비슷한 것으로 보임 Relace

    • 좋은 질문임. 고객사 명단도(create.xyz, continue.dev) 동일하게 표시함

  • ChatGPT와 VSCode 사이 브릿지를 만드는 브라우저 확장, 그 사이에 Morph(혹은 Claude)를 껴서 agentic coding을 웹 UI로 바로 활용하면 정말 좋을 것 같음. API 대신 웹 인터페이스 활용 아이디어임

    • MCP를 쓰면 이 목적을 달성할 수 있음. 곧 출시 예정임

  • AI가 똑똑하게 rebase+merge를 자동화해주는 기능이 있으면 개발 속도가 비약적으로 빨라질 것 같음. 여러 사용자의 코드 변경을 AI가 의도까지 파악해 자동으로 병합한다면 정말 생산성 향상임

    • Claude Code를 사용하면 이미 그 기능을 쓸 수 있음. 그냥 “다른 브랜치 병합하고 충돌 해결해줘"라고 요청하면 됨

    • 얼마나 자주 머지 컨플릭트 상황을 겪는지 궁금함

답변달기