GPT-3.5 Turbo 미세 조정 및 API 업데이트

• OpenAI가 GPT-3.5 Turbo에 대한 미세 조정 모델 지원을 발표함.
• 미세 조정을 통해 모델이 지침을 더 잘 따르게 하며, 출력 형식과 말투를 훨씬 안정적으로 유지할 수 있음.
• 특히 성능 향상 외에도 미세 조정은 프롬프트를 단축하는데 매우 효과적으로, 최대 90%의 프롬프트 단축하여 비용 절감이 가능함.
• 학습할 데이터를 올리고 API를 호출하는 것으로 미세 조정 모델이 준비됨.
• 미세 조정 모델은 훈련과 사용에 모두 별도의 비용이 부과됨.
• 기존 GPT-3 모델 기반의 미세 조정 모델들은 2024년 1월 4일에 사용이 종료될 예정으로, GPT-3.5 Turbo로 이동해야 함.

[kuroneko]

• 미세 조정 가이드
• HN 스레드

본문에 빼먹은 내용이 있는데,
극히 일부의 특정한 작업에서 GPT-3.5 Turbo의 미세 조정 모델이 GPT-4보다 성능이 좋은 것으로 나타났다고 합니다.

특히 프롬프트를 줄일 수 있어 GPT-4가 수십 배 비싼 걸 감안하면 대안이 될 수 있겠네요.