▲
xguru 2023-11-09 | parent | ★ favorite | on: RedPajama v2 - LLM 훈련을 위한 30조(30T)개의 토큰 데이터 셋(together.ai)

RedPajama - LLaMA 데이터셋을 재작성하는 오픈소스 프로젝트
RedPajama 3B, 7B 모델 공개
RedPajama, HELM 벤치마크에서 공개된 다른 7B LLM 모델보다 뛰어난 성능을 갖는 7B 모델 공개