Persimmon 8B: Adept가 공개한 새로운 LLM 모델

주요 특징

• Adept에서 Apache 라이선스로 공개한 대형 언어 모델(LLM)
• Persimmon-8B 모델은 80억개의 매개변수를 가지며, 다양한 언어 작업에 사용 가능
• LLaMA2, GPT3, MPT 등에 비해 약 4배 가량 더 큰 16K의 컨텍스트 크기를 가짐
• 10억개 미만의 매개변수를 갖는 오픈소스 언어 모델들 중 가장 뛰어난 성능을 보임

더 알아보기

• Adept 홈페이지
• Base 가중치 (md5sum: cd0320cba9efad9ccd18e9ec4d16ae1b) 다운로드
• Chat 가중치 (md5sum: 663aeace07269c44e90f4e8bcd07f32a) 다운로드
• 모델 및 추론 코드 등을 포함하고 있는 GitHub 저장소
• (⚠️광고⚠️) 파이토치 한국어 커뮤니티에서 조금 더 길게 정리한 내용 읽기