Dalai - LLaMA를 당신의 컴퓨터에서 가장 간단히 실행하는 방법
(cocktailpeanut.github.io)- 2 문장 만으로 LLaMA 7B 모델을 로컬에서 실행 가능
npx dalai llama
npx dalai serve
- llama.cpp + llama-dl CDN
- 해킹 가능한 웹앱 내장 (JavaScript API 및 Socket.io API 포함)
- localhost:3000 으로 접속
npx dalai llama
npx dalai serve