HN 공개: ChatGPT를 위한 비선형 사용자 인터페이스 구축

 (grafychat.com)
1P by GN⁺ | ★ favorite | 댓글 1개

Grafychat 소개

  • Grafychat은 ChatGPT 및 기타 대화형 AI를 위한 프라이버시 친화적인 캔버스 기반 시각적 노트북임
  • OpenAI, Google AI 및 Local Ollama 모델과 함께 작동함
  • API 키를 가져와서 채팅을 시작할 수 있음

Grafychat의 주요 기능

끝없는 캔버스

  • 채팅을 시각적으로 구성할 수 있음
  • 대화를 관리하기 위해 점을 연결할 수 있음
  • 필요한 만큼 캔버스를 만들 수 있음

프라이버시 친화적

  • 모든 것이 사용자의 기기에 저장됨
  • 데이터는 non-local LLM 요청에 대해서만 기기에서 나감
  • 가입이나 계정이 필요하지 않음

결과 제어

  • 사용자 지정 지침을 쉽게 적용할 수 있음
  • 실시간으로 모델을 전환할 수 있음
  • 모델 매개변수를 조정할 수 있음

강력한 검색

  • 모든 데이터에 대한 전체 텍스트 검색이 가능함
  • 정밀도로 필터링할 수 있음
  • 결과로 쉽게 탐색할 수 있음

최고 수준의 OpenAI 지원

  • GPT-4 등 모든 ChatGPT 모델 지원
  • 음성 입력/받아쓰기 지원
  • 음성 생성/내레이션 지원
  • 이미지 생성 지원
  • ChatGPT에 대한 활성 구독이 필요하지 않음
  • 자체 OpenAI API 키 사용 가능

무료로 사용 가능한 로컬 모델

  • Ollama 지원(Mac, Windows, Linux)
  • 증가하는 오픈소스 모델 카탈로그
  • 강력한 Llama 3 등
  • 완전 무료로 사용 가능
  • 기기에서 Ollama 앱을 실행하고 설정하기만 하면 됨

사용자 정의 가능한 프롬프트 라이브러리

  • 앱 전체에서 사용 가능
  • 프롬프트를 쉽게 저장, 편집 및 재사용 가능

각 채팅은 마크다운 편집기

  • 모든 채팅을 편집할 수 있음
  • 데이터를 깔끔하게 유지
  • Inspector로 Markdown으로 내보내기 가능

Inspector가 있는 클래식 채팅 보기

  • Inspector에서 채팅 시작 또는 계속 가능
  • 현재 대화 선택 및 검사 가능
  • Markdown으로 내보내기 가능

사용자 정의 가능한 모양과 느낌

  • Flow에 색상 추가 가능
  • 특정 부분 표시/숨기기 가능
  • 대화의 일부에 레이블 지정 가능

여러 AI 제공업체 지원

  • OpenAI
  • Google AI
  • LLama 3를 통한 Ollama
  • 그리고 목록이 계속 증가하고 있음

BYOAK - API 키 직접 가져오기

  • JSON 파일로 데이터 가져오기/내보내기
  • 키보드 단축키
  • 코드 강조 표시 지원
  • 채팅 고정, 색상 태그 지정
  • 사용자 지정 배경
  • 다크 모드
  • 등등

가격 및 라이선스 정보

  • 한 번 구매로 라이선스 소유 가능
  • 각 라이선스에는 5개의 활성화가 포함되어 있으며 만료 날짜가 없음
  • Standard ($39): 모든 제한 해제, 모든 기능 잠금 해제
  • Extended ($59): Standard의 모든 기능 + 자체 호스팅 패키지, 데스크톱 앱 출시 예정
  • Premium ($79): Extended의 모든 기능 + 프리미엄 지원, 데스크톱 앱 출시 예정

FAQ 요약

  • Grafychat은 ChatGPT 및 기타 대화형 AI를 위한 프라이버시 친화적인 캔버스 기반 시각적 노트북
  • 구독 기반 앱이 아니며, 한 번 구매로 라이선스를 소유할 수 있음
  • 5개의 활성화는 라이선스 키를 5개의 다른 기기에서 사용할 수 있음을 의미
  • OpenAI, Google AI, Local Ollama 모델 등 여러 챗봇 제공업체 지원
  • 가입이나 OpenAI 구독이 필요하지 않음
  • 데스크톱 앱은 아직 출시되지 않았지만 개발 중에 있음
  • Grafychat.com은 사용자 데이터를 보관하지 않음
  • 환불 정책에 대해서는 별도 문의 필요

GN⁺의 의견

  • Grafychat은 ChatGPT나 GPT-4 등 다양한 대화형 AI 모델을 시각적으로 관리할 수 있는 도구로 보임. 특히 대화 내용을 캔버스 형태로 구성하고 연결할 수 있어서 체계적으로 대화를 정리하는데 유용해 보임.
  • 사용자 데이터를 기기에 저장하고 API 키를 직접 입력받는 등 프라이버시를 중요시하는 점도 장점. 다만 non-local LLM 요청시에는 데이터가 외부로 전송된다는 점은 유의해야 할 듯함.
  • 오픈소스 모델인 Ollama도 지원해서 무료로 사용할 수 있는 점, 그리고 프롬프트 라이브러리 기능으로 자주 사용하는 프롬프트를 저장하고 재사용할 수 있는 점 등 사용성을 높이는 기능들이 다양함.
  • 한편 구독 방식이 아닌 라이선스 방식이라 가격이 다소 부담스러울 수 있음. Standard 등급의 경우에도 $39로 적지 않은 금액. 기능이 많고 개인정보 보호에 신경썼다고는 하지만 오픈소스 모델을 무료로 사용할 수 있다는 점을 감안하면 가격 경쟁력 면에서는 의문.
  • 아직 데스크톱 앱이 없고 웹 기반으로만 서비스된다는 점, 그리고 신생 서비스다보니 안정성이나 향후 지속성 여부가 불확실하다는 점도 도입시 고려해볼 사항.

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 사이트에서 CSS 한 줄 때문에 내 노트북이 심하게 버벅임
    모달, 예를 들면 YouTube 비디오 팝업에 쓰인 backdrop-filter: blur(0.1875rem)이 원인임

    • 프런트엔드 개발자인데, 이 이유 때문에 이 효과는 절대 적용하지 않음
      고성능 노트북에서도 전력 소모가 너무 크고 팬이 세게 돌기 시작함
    • 블러 효과는 왜 항상 전력을 그렇게 많이 쓰는지 궁금함
      GPU를 쓰는 방법이 없는 건지, 아니면 완전히 다른 문제가 있는 건지 모르겠음

  • 예전에 드래그 기능은 없고 트리 시각화만 있는 비슷한 인터페이스를 생각해 본 적이 있음
    보통 같은 대화에서 곁가지 주제를 다루지만, 나중에 AI가 헷갈리지 않게 곁가지가 시작된 이전 메시지를 수정함
    그런데 OpenAI는 그 곁가지 트리를 버리므로, 수동으로 정렬할 필요 없이 탐색한 곁가지 주제의 트리를 보여주면 좋겠음

    • ChatGPT는 전체 트리를 보관하지 않나? 마지막으로 봤을 때는 특정 노드에서 앞뒤로 전환할 수 있었음

  • 흥미로운 접근임. 전형적인 중간 단계 작업 흐름을 다루는 것 같음
    최종 결과물은 선형 형태를 선호하더라도, 실제 작업은 먼저 계층 구조를 완성하는 식으로 자주 진행함
    몇 년째 Gingko https://gingkowriter.com/를 쓰고 있는데, 단계 확장을 끝없이 허용하면서도 쉽게 선형 구조로 접을 수 있어 문제 구조를 정리하는 부담을 줄여줌
    이 경우에는 트리의 잎 개수만큼 N개의 문맥을 유지하는지, 채팅들이 서로 분리되어 있는지, 끝없는 비정형 캔버스에서 정돈된 최종 산출물로 어떻게 넘어갈지 궁금함

    • 좋은 질문임
      문맥은 결국 그룹화 방식의 하나라서, 잎 개수만큼 문맥을 유지하는지는 상황에 따라 다름
      비정형 캔버스에서 정리된 산출물로 넘어가는 부분은 앱 안 명령과 결합한 RAG로 보고 있고, 로컬 RAG 솔루션을 작업 중임
      아직 초기 단계지만 유망하며, 기본적으로 모든 데이터와 대화하고 그 위에 다양한 명령을 적용하는 방식임
    • 왜 꼭 정돈된 최종 산출물로 전환해야 하는지 모르겠음
      잠재 사용자이자 비슷한 도구를 직접 만들까 생각했던 입장에서는, 트리 또는 더 정확히는 방향 그래프 자체가 원하는 최종 결과물임
    • 약간 주제에서 벗어나지만, Mac용으로 Gingko와 비슷한 독립 실행형 소프트웨어가 있었던 것 같음
      찾아보니 Gingko의 예전 데스크톱 앱 버전 같고, 아직 https://github.com/gingko/client/releases에서 받을 수 있음
    • 내 컴퓨터 안에 전부 남아 있어야 하는 소프트웨어에 구독형 과금을 붙이는 건 받아들이기 어려움

  • Obsidian과 https://github.com/AndreBaltazar8/obsidian-canvas-conversati... 같은 플러그인을 쓰면 이런 걸 직접 쉽게 만들 수 있음

    • Dropbox를 몇 개의 스크립트와 sftp로 대체했을 때와 비슷함
    • 아래 댓글에서 Obsidian Canvas용 무료 플러그인을 더 많이 언급했음: https://news.ycombinator.com/item?id=40301465
    • "쉽게"는 기술자에게나 해당되고, 일반 사용자에게는 그렇지 않음

  • 데모를 보니 흥미롭지만, 노드를 끌어다 놓고 관심 있는 노드를 찾는 데 금방 지칠 것 같음
    검색 기능이 있는지 궁금함
    AI가 에이전트처럼 그래프 보기를 만들어 주거나, 적어도 후속 질문을 제안·강조하고 그것들이 자동으로 그래프 안에서 정리된다면 더 흥미로울 것 같음

    • 검색은 여기서 내가 좋아하는 기능 중 하나임. / 단축키를 써보면 됨
    • 개인적으로는 시간을 들여 정리하고 끌어다 놓는 데 가치가 있다고 봄
      아마 내가 시각적으로 사고하는 편이라서 그런 듯함

  • 유일한 피드백은, 폐쇄 소스 AI 제품은 의심스러워서 사지 않을 것 같다는 점임
    그래도 구독 모델 흐름을 피한 건 고맙고 반가움
    확실히 원격 측정이 전송되지 않는다는 걸 알 수 있게 오픈소스로 공개하고 지원 비용을 받는 방식이라면 돈을 낼 수 있음
    다만 내가 특이한 쪽일 수 있으니 적당히 걸러 들어도 됨
    아이디어는 훌륭하고, 집중해서 주말 하루나 이틀이면 MVP 정도는 만들 수 있을 것 같음
    물론 개인적으로 관심 없는 화려한 기능들은 구현에 더 오래 걸릴 수 있음

    • 셀프 호스팅 옵션이면 실용적인 해결책이 될 수 있나?
      https://www.grafychat.com/d/docs/selfhost
      다만 코드가 난독화되어 있지 않다는 전제는 필요할 듯함
    • 소스를 공개하고 싶지는 않지만 빌드에 대해 필요한 감사를 수행할 의향이 있는 프로젝트를 위한 open-build 같은 방법론이 있으면 좋겠음

  • 이런 기능을 OpenAI나 Anthropic UI에서도 제공하면 좋겠음
    사실 간단하게 "create a new chat from here"만 있으면 됨
    제품은 멋지고 잘 만들었지만, 가격이 개인적으로는 걸림돌임

    • 소프트웨어 구매 판단을 동네 McDonald's 드라이브스루 메뉴 가격과 비교해서 생각하게 됨
    • 서드파티 클라이언트는 이걸 지원함
      예를 들어 MindMac의 "Fork from this message" 기능이 마음에 듦
    • 이전 질문을 수정하면 이 목적을 꽤 잘 달성할 수 있음
      기존 UI도 이전 수정본을 리비전 트리로 모두 보관함

  • 랜딩 페이지가 좋고 제품을 충분히 잘 설명해 줌
    예전에 비슷한 것을 원했던 적이 있어서 이 콘셉트도 마음에 듦

  • 공유한 데모에서는 원래 부모 채팅에서 자식 채팅을 만드는 모습이 보임
    두 자식 채팅을 연결·병합해서 다음 자식 채팅을 만드는 방식이나, 이전 자식 채팅에서 다시 자식 채팅을 만드는 방식도 시도해 봤는지 궁금함

    • JSON, TXT, CSV 파일이 들어 있는 폴더를 불러와 하나씩 흘려보내고 결과를 다른 폴더에 모으는 노드가 있으면 좋겠음
      LLM 파이프라인이나 프롬프트 편집기 같은 형태임

  • 일부 프런트엔드에 통합되면 좋을 부가 기능으로, 민감한 정보가 새지 않게 돕는 찾기-바꾸기 키-값 저장소를 만든 적이 있음
    내부 도메인 대신 IP, 도메인, 하위 도메인을 something.contoso.com 같은 더미 도메인으로 바꿔 ChatGPT에 보낼 수 있다면 돈을 낼 만한 기능임
    Python으로 구현해 두긴 했지만 별도 프런트엔드에 붙인 추가 기능이라 꽤 투박함

답변달기