▲MPT-7B, 상업적으로 이용 가능한 오픈소스 LLM (mosaicml.com)14P by xguru 2023-05-09 | ★ favorite | 댓글 2개 1조개의 토큰으로 학습된 트랜스포머 LLaMA-7B와 비슷한 품질이지만 오픈소스, 상업적 이용 가능 추가로 3개의 파인튜닝 모델도 공개 MPT-7B-Instruct, MPT-7B-Chat, MPT-7B-StoryWriter-65K+(65K 토큰 지원) MosaicML 플랫폼에서 9.5일간 약 ~$200K 비용으로 학습했고, 자신만의 MPT 모델을 훈련, 파인튜닝, 디플로이 가능 MPT: Mosaic Pretrained Transformers 함께 보면 좋은 글 β MosaicML, MPT-7B-8K 모델 공개 LLaMA - Meta가 공개한 65b 파라미터 LLM XGen-7B - 1.5T 토큰에 대해 최대 8K 시퀀스 길이로 훈련한 7B LLM 1-bit Bonsai - 상업적으로 실용 가능한 최초의 1비트 LLM InternLM - 오픈소스 7B 파라미터 언어 모델 댓글과 토론 인증 이메일 클릭후 다시 체크박스를 눌러주세요 ▲kuroneko 2023-05-09 [-]요즘 상업적 사용 가능한 오픈소스 LLM 모델이 엄청나게 출시하는걸 보면 LLM계의 Stable Diffusion이 되기 위해 경쟁하는 것 같네요. 우승 승자가 누가 될지 기대됩니다. +_+ 답변달기▲xguru 2023-05-09 [-]일단 ChatGPT로 먼저 연동해서 개발하고, 나중에 가장 발전된 오픈소스로 교체하는게 좋은 대안일 것 같아요. 답변달기