LLaMA 모델의 간략한 역사
(agi-sphere.com)- 2023년 2월에 출시된 LLaMA는 이미 다양한 파인튜닝 모델이 출시됨
- 각 모델을 살펴보고 비교
- LLaMA : (7B, 13B, 33B, 65B), CommonCrawl/C4/GitHub/Wikipedia/Gutenberg & Book3/ArXiv/StackExchange
- Alpaca : 52k GPT-3 instructions
- Vicuna : 70k ChatGPT conversations
- Koala : 117k cleaned ChatGPT conversations
- GPT4-x-Alpaca : 20k GPT4 instructions
- WizardLM : 70k instructions synthesized with ChatGPT/GPT-3
- OpenAssistant : 600k human interactions (OpenAssistant Conversations)
- LLaMA 모델을 로컬에서 돌리기 위한 소프트웨어들