boolsee 2 karma 가입일 2023-11-20 최근 활동 최근 작성한 댓글 전체 보기 얼마 전에 C: 드라이브 디스크 공간이 부족해서 큰 파일 위주로 찾아서 삭제하다가 4GB 크기 AI 모델이 설치되어 있는 것을 처음 발견했습니다. Chrome을 주 브라우저로 사용하지 않아서 해당 모델을 삭제했는데 이 글을 읽는 5/6(수) 현재, 다시 다운로드 받았더군요. 이런 대용량 파일은 설치할 때, 선택 옵션을 주도록 했으면 좋겠습니다. OpenClaw 자체 실행 환경은 Raspberry PI 도 상관없을 정도라서 괜찮습니다. 다만, OpenClaw의 '뇌'라고 할 수 있는 AI 추론 능력(=LLM)이 필요한데 위 사양에서 Local LLM 구동은 불가능하니 Ollama Cloud 종류나 OpenAI (OAuth 가능) 이나 Codex (API) 이용해야 합니다. 그리고, Excel 보다는 Google Windows 에 설치해서 구경해 보았습니다. 1. 모델 선택 목록에는 ollama 와 같은 Local LLM은 없네요. 2. Warp 설명에는 자연어 대화는 "영어"로 입력하라고 되어 있으니 한글 자동 번역 기능 같은 것이 없다는 것인지 모르겠네요. ollama로 local LLM 구성이 쉽긴 한데 오픈 소스 모델별 도구 호출이 실패할 가능성이 높다고 합니다. ollama 내부적으로 느슨한 규정과 모델별 도구 호출 Parser 문제가 얽혀있기 때문이라고 하네요. 정작 Local LLM의 가장 근원 문제는 중대형 모델 실행하기 위해서는 고가의 하드웨어가 필요하다는 것입니다. MAC Studio 32GB짜리가 3백 중반, GB10은 정말 잘 사용해 왔는데 올 해 가격이 너무 많이 올라서 대체 솔루션으로 bitwarden self hosting 설정했습니다. bitwarden 은 cloud 방식 사용도 가능하고 사용성이 1password와 유사해서 불편함이 없습니다. 전체 배지 GeekAward 장기 활동 스페셜 더 많은 GeekBadge가 있습니다. 활동을 통해 모으거나, GeekGold로 구매해 보세요.
