GN⁺: HN 공개: ChatGPT를 위한 비선형 사용자 인터페이스 구축

Grafychat 소개

• Grafychat은 ChatGPT 및 기타 대화형 AI를 위한 프라이버시 친화적인 캔버스 기반 시각적 노트북임
• OpenAI, Google AI 및 Local Ollama 모델과 함께 작동함
• API 키를 가져와서 채팅을 시작할 수 있음

Grafychat의 주요 기능

끝없는 캔버스

• 채팅을 시각적으로 구성할 수 있음
• 대화를 관리하기 위해 점을 연결할 수 있음
• 필요한 만큼 캔버스를 만들 수 있음

프라이버시 친화적

• 모든 것이 사용자의 기기에 저장됨
• 데이터는 non-local LLM 요청에 대해서만 기기에서 나감
• 가입이나 계정이 필요하지 않음

결과 제어

• 사용자 지정 지침을 쉽게 적용할 수 있음
• 실시간으로 모델을 전환할 수 있음
• 모델 매개변수를 조정할 수 있음

강력한 검색

• 모든 데이터에 대한 전체 텍스트 검색이 가능함
• 정밀도로 필터링할 수 있음
• 결과로 쉽게 탐색할 수 있음

최고 수준의 OpenAI 지원

• GPT-4 등 모든 ChatGPT 모델 지원
• 음성 입력/받아쓰기 지원
• 음성 생성/내레이션 지원
• 이미지 생성 지원
• ChatGPT에 대한 활성 구독이 필요하지 않음
• 자체 OpenAI API 키 사용 가능

무료로 사용 가능한 로컬 모델

• Ollama 지원(Mac, Windows, Linux)
• 증가하는 오픈소스 모델 카탈로그
• 강력한 Llama 3 등
• 완전 무료로 사용 가능
• 기기에서 Ollama 앱을 실행하고 설정하기만 하면 됨

사용자 정의 가능한 프롬프트 라이브러리

• 앱 전체에서 사용 가능
• 프롬프트를 쉽게 저장, 편집 및 재사용 가능

각 채팅은 마크다운 편집기

• 모든 채팅을 편집할 수 있음
• 데이터를 깔끔하게 유지
• Inspector로 Markdown으로 내보내기 가능

Inspector가 있는 클래식 채팅 보기

• Inspector에서 채팅 시작 또는 계속 가능
• 현재 대화 선택 및 검사 가능
• Markdown으로 내보내기 가능

사용자 정의 가능한 모양과 느낌

• Flow에 색상 추가 가능
• 특정 부분 표시/숨기기 가능
• 대화의 일부에 레이블 지정 가능

여러 AI 제공업체 지원

• OpenAI
• Google AI
• LLama 3를 통한 Ollama
• 그리고 목록이 계속 증가하고 있음

BYOAK - API 키 직접 가져오기

• JSON 파일로 데이터 가져오기/내보내기
• 키보드 단축키
• 코드 강조 표시 지원
• 채팅 고정, 색상 태그 지정
• 사용자 지정 배경
• 다크 모드
• 등등

가격 및 라이선스 정보

• 한 번 구매로 라이선스 소유 가능
• 각 라이선스에는 5개의 활성화가 포함되어 있으며 만료 날짜가 없음
• Standard ($39): 모든 제한 해제, 모든 기능 잠금 해제
• Extended ($59): Standard의 모든 기능 + 자체 호스팅 패키지, 데스크톱 앱 출시 예정
• Premium ($79): Extended의 모든 기능 + 프리미엄 지원, 데스크톱 앱 출시 예정

FAQ 요약

• Grafychat은 ChatGPT 및 기타 대화형 AI를 위한 프라이버시 친화적인 캔버스 기반 시각적 노트북
• 구독 기반 앱이 아니며, 한 번 구매로 라이선스를 소유할 수 있음
• 5개의 활성화는 라이선스 키를 5개의 다른 기기에서 사용할 수 있음을 의미
• OpenAI, Google AI, Local Ollama 모델 등 여러 챗봇 제공업체 지원
• 가입이나 OpenAI 구독이 필요하지 않음
• 데스크톱 앱은 아직 출시되지 않았지만 개발 중에 있음
• Grafychat.com은 사용자 데이터를 보관하지 않음
• 환불 정책에 대해서는 별도 문의 필요

GN⁺의 의견

• Grafychat은 ChatGPT나 GPT-4 등 다양한 대화형 AI 모델을 시각적으로 관리할 수 있는 도구로 보임. 특히 대화 내용을 캔버스 형태로 구성하고 연결할 수 있어서 체계적으로 대화를 정리하는데 유용해 보임.
• 사용자 데이터를 기기에 저장하고 API 키를 직접 입력받는 등 프라이버시를 중요시하는 점도 장점. 다만 non-local LLM 요청시에는 데이터가 외부로 전송된다는 점은 유의해야 할 듯함.
• 오픈소스 모델인 Ollama도 지원해서 무료로 사용할 수 있는 점, 그리고 프롬프트 라이브러리 기능으로 자주 사용하는 프롬프트를 저장하고 재사용할 수 있는 점 등 사용성을 높이는 기능들이 다양함.
• 한편 구독 방식이 아닌 라이선스 방식이라 가격이 다소 부담스러울 수 있음. Standard 등급의 경우에도 $39로 적지 않은 금액. 기능이 많고 개인정보 보호에 신경썼다고는 하지만 오픈소스 모델을 무료로 사용할 수 있다는 점을 감안하면 가격 경쟁력 면에서는 의문.
• 아직 데스크톱 앱이 없고 웹 기반으로만 서비스된다는 점, 그리고 신생 서비스다보니 안정성이나 향후 지속성 여부가 불확실하다는 점도 도입시 고려해볼 사항.

[neo]

Hacker News 의견

이 댓글들은 AI 기반 대화형 워크스페이스 데모에 대한 다양한 의견을 제시하고 있음. 주요 내용은 다음과 같음:

• 이미지 기반으로 유사한 데모를 만들었으며, LLM과 작업할 때 결정론적인 "다음 단계"가 필요하다고 느끼는 대신 기계와 실제로 리프할 수 있게 해줌.
• 이 아이디어의 세 번째 반복판이며, 답장 팝업이 스마트한 기능이고 좋은 터치임. 프라이버시 중심과 BYOK도 마음에 듦.
• AI를 위한 그래프 인터페이스가 주목받고 있음.
• Obsidian과 플러그인을 사용하여 이와 유사한 것을 쉽게 만들 수 있음.
• 노드를 끌어다 놓고 관심 있는 것을 찾는 데 지칠 것 같음. 검색이 가능한지 궁금함.
• AI를 에이전트로 사용하여 그래프 뷰를 만들거나 자체 구성되는 그래프로 후속 질문을 제안/강조하면 더 흥미로울 것임.
• 선형 완성품을 선호하지만 종종 계층을 먼저 완성하여 작업함. Gingko를 사용하면 문제 구조를 쉽게 정리할 수 있음.
• 가격이 비싸고 폐쇄 소스라는 점이 구매 장벽이 될 수 있음. 오픈 소스로 전환하고 지원에 대해 요금을 부과하는 것이 좋겠음.
• OpenAI나 Anthropic의 UI에서도 이와 유사한 기능을 제공하면 좋겠음. "여기에서 새 채팅 만들기"와 같이 간단할 것임.