▲ChatLLaMA - LLaMa 기반 ChatGPT의 오픈소스 구현체 (github.com/nebuly-ai)15P by xguru 2023-03-02 | ★ favorite | 댓글 1개 Meta가 최근 릴리즈한 LLaMA는 RLHF 훈련 프로세스에는 파인튜닝 되어있지 않음 ChatLLaMA는 LLaMA를 이용한 RLHF 구현체로 ChatGPT 스타일 서비스를 구축할 수 있는 완전한 오픈소스 ChatGPT 보다 15배 정도 빠르게 훈련 가능 파인튜닝 프로세스 속도 향상을 위해 DeepSpeed ZERO 지원 내장 LLaMA의 7B, 13B, 33B, 65B 모두를 지원해서 자신에 맞는 사이즈를 선택 가능 함께 보면 좋은 글 β Lit-LLaMA - nanoGPT 기반 오픈소스 LLaMA 구현체 DeepSpeed Chat - RLHF를 이용한 ChatGPT-like 모델 훈련용 프레임워크 Meta, 차세대 언어모델 Llama 2 공개 llama2를 파인 튜닝 하고 있는 사람들 ColossalChat - ChatGPT를 복제하기 위한 RLHF 파이프라인 오픈소스 솔루션 댓글과 토론 인증 이메일 클릭후 다시 체크박스를 눌러주세요 ▲xguru 2023-03-02 [-]LLaMA - Meta가 공개한 65b 파라미터 LLM 답변달기