▲Alpaca.cpp - ChatGPT 같은 모델을 개인 노트북에서 실행하기 (github.com/antimatter15)38P by xguru 2023-03-21 | ★ favorite | 댓글 6개 LLaMA 와 Alpaca, 그리고 llama.cpp 를 합쳐서 조정한 뒤 채팅 인터페이스를 붙인 것 Alpaca-7b-q4 모델을 이용 M2 맥북에어 에서도 꽤 빠른 속도로 생성 함께 보면 좋은 글 β llama.cpp - 페이스북의 LLaMA 모델을 순수 C/C++로 추론하기 Llama 3.3 70B로 이제 GPT-4급 모델을 노트북에서 실행가능 Vicuna-13B - ChatGPT 90% 이상의 품질을 보여주는 오픈소스 챗봇 ChatGPT 5.5 Pro를 최근 사용한 경험 LM Studio - LLM을 로컬에서 쉽게 실행하게 해주는 도구 댓글과 토론 인증 이메일 클릭후 다시 체크박스를 눌러주세요 ▲readiz 2023-03-28 [-]https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/… 모델 찾으시는 분들이 있을거 같아.. 답변달기▲draupnir 2023-03-24 [-]요즘 진짜 무슨 전쟁난 거 같아요 뉴스 따라잡기가 ㄷㄷ 답변달기▲pugh123 2023-03-22 [-]와우~정말 특이점이 온 것 같습니다.... 답변달기▲daumkakao 2023-03-21 [-]어마어마하네염 ㄷㄷㄷㄷ 그리고 이제 하드웨어 사양의 표준이 되어버린 애플실리콘 ㄷㄷㄷ 답변달기▲ffdd270 2023-03-21 [-]저 정도 속도면 ChatGPT 터보 모델과 비교해서도 손색이 없네요. 너무 놀랍습니다. 답변달기▲xguru 2023-03-21 [-]아 정말 하루가 다르게 뭔가 막 쏟아지네요. LLM에 Stable Diffusion Moment가 오고 있다 답변달기