torchtune 소개: 대형 언어 모델을 미세 조정하기 위한 파이썬 라이브러리

• torchtune은 대형 언어 모델(LLM)을 쉽게 미세 조정할 수 있도록 설계된 새로운 파이토치 라이브러리입니다. 구성 가능하고 모듈식 빌딩 블록을 제공하여 사용자가 교육 프로세스를 사용자 정의하고 LLM을 특정 사용 사례에 맞게 조정할 수 있습니다.

• torchtune은 데이터 세트 및 모델 체크포인트 다운로드에서 진행 상황 및 메트릭 기록, 모델 양자화 및 인기 벤치마크에서 평가에 이르기까지 전체 미세 조정 워크플로우를 지원한다.

• 또한 인기 있는 생산 추론 시스템과 호환성을 제공하며 미세 조정된 모델을 테스트하기 위한 로컬 추론을 가능하게 합니다.

• torchtune은 확장성, 민주화 및 상호 운용성을 염두에 두고 구축되어 모든 전문 지식 수준의 사용자가 액세스할 수 있으며 오픈 소스 LLM 생태계와 원활한 통합이 가능합니다.

• 효율적인 추론과 양자화를 위해 Hugging Face Hub, PyTorch FSDP, Weights & Biases, EleutherAI의 LM 평가 Harness, ExecuTorch, Torchao와의 통합을 제공합니다.