32P by xguru 2023-05-04 | favorite | 댓글과 토론
  • 상업적으로도 이용 가능한 소스코드 와 모델을 공개
  • 인스트럭션 데이터셋을 만들기 위한 코드
  • 일반 하드웨어/엔터프라이즈용 GPU 에서 파인튜닝 가능한 코드 (최대 20B 파라미터까지)
  • LoRA 및 8-bit 양자화 코드 포함
  • GPU 서버에서 챗봇을 실행하기 위한 코드(파이썬 클라이언트용 API 엔드포인트 포함)