# Alpaca.cpp - ChatGPT 같은 모델을 개인 노트북에서 실행하기

> Clean Markdown view of GeekNews topic #8756. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=8756](https://news.hada.io/topic?id=8756)
- GeekNews Markdown: [https://news.hada.io/topic/8756.md](https://news.hada.io/topic/8756.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-03-21T13:37:23+09:00
- Updated: 2023-03-21T13:37:23+09:00
- Original source: [github.com/antimatter15](https://github.com/antimatter15/alpaca.cpp)
- Points: 38
- Comments: 6

## Topic Body

- LLaMA 와 Alpaca, 그리고 llama.cpp 를 합쳐서 조정한 뒤 채팅 인터페이스를 붙인 것   
- Alpaca-7b-q4 모델을 이용   
- M2 맥북에어 에서도 꽤 빠른 속도로 생성

## Comments



### Comment 15421

- Author: readiz
- Created: 2023-03-28T09:59:26+09:00
- Points: 1

https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/blob/main/ggml-alpaca-7b-q4.bin  
  
모델 찾으시는 분들이 있을거 같아..

### Comment 15379

- Author: draupnir
- Created: 2023-03-24T10:43:50+09:00
- Points: 1

요즘 진짜 무슨 전쟁난 거 같아요 뉴스 따라잡기가 ㄷㄷ

### Comment 15326

- Author: pugh123
- Created: 2023-03-22T16:54:35+09:00
- Points: 1

와우~정말 특이점이 온 것 같습니다....

### Comment 15302

- Author: daumkakao
- Created: 2023-03-21T18:20:18+09:00
- Points: 1

어마어마하네염 ㄷㄷㄷㄷ 그리고 이제 하드웨어 사양의 표준이 되어버린 애플실리콘 ㄷㄷㄷ

### Comment 15297

- Author: ffdd270
- Created: 2023-03-21T14:22:25+09:00
- Points: 1

저 정도 속도면 ChatGPT 터보 모델과 비교해서도 손색이 없네요. 너무 놀랍습니다.

### Comment 15292

- Author: xguru
- Created: 2023-03-21T13:43:50+09:00
- Points: 1

아 정말 하루가 다르게 뭔가 막 쏟아지네요.   
  
[LLM에 Stable Diffusion Moment가 오고 있다](https://news.hada.io/topic?id=8684)