# ChatLLaMA - LLaMa 기반 ChatGPT의 오픈소스 구현체

> Clean Markdown view of GeekNews topic #8591. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=8591](https://news.hada.io/topic?id=8591)
- GeekNews Markdown: [https://news.hada.io/topic/8591.md](https://news.hada.io/topic/8591.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-03-02T10:10:59+09:00
- Updated: 2023-03-02T10:10:59+09:00
- Original source: [github.com/nebuly-ai](https://github.com/nebuly-ai/nebullvm/tree/main/apps/accelerate/chatllama)
- Points: 15
- Comments: 1

## Topic Body

- Meta가 최근 릴리즈한 LLaMA는 RLHF 훈련 프로세스에는 파인튜닝 되어있지 않음   
- ChatLLaMA는 LLaMA를 이용한 RLHF 구현체로 ChatGPT 스타일 서비스를 구축할 수 있는 완전한 오픈소스  
- ChatGPT 보다 15배 정도 빠르게 훈련 가능  
- 파인튜닝 프로세스 속도 향상을 위해 DeepSpeed ZERO 지원 내장   
- LLaMA의 7B, 13B, 33B, 65B 모두를 지원해서 자신에 맞는 사이즈를 선택 가능

## Comments



### Comment 15018

- Author: xguru
- Created: 2023-03-02T10:11:26+09:00
- Points: 1

[LLaMA - Meta가 공개한 65b 파라미터 LLM ](https://news.hada.io/topic?id=8578)