10P by joone 4달전 | favorite | 댓글과 토론

안녕하세요. 거의 1년전에 loz라는 툴을 여기에 공유한적 있습니다.
https://news.hada.io/topic?id=8594

당시에는 OpenAI API기반으로 유닉스 pipe와 연동해서 여러가지 기능을 수행하는 툴이였는데, git commit 메시지 작성도 지원했습니다. 이번 업데이트에서는 ollama를 지원해서 원하는 LLM 모델을 로컬에 쉽게 설치해서 사용해볼 수 있습니다.

제가 테스트해본 것은 Llama2와 Code Llama인데 로컬에서 잘 동작합니다. ollama는 llama-cpp를 기반으로 동작하므로 GPU가 없어도 사용할 수 있습니다.

참고로 loz project 대부분의 git commit message는 gpt-3.5-turbo와 code llama를 통해 작성되었습니다.

현재 우분투 22.04에서 테스트했습니다. 맥에서도 잘될겁니다. 사용해보시고 버그나 아이디어 있으면 알려주시가 바랍니다.