GN⁺: GPT-3.5 Turbo의 세밀 조정 및 API 업데이트
(openai.com)- OpenAI는 GPT-3.5 Turbo를 위한 세부 조정 및 API 업데이트를 발표하였으며, 개발자들이 특정 사용 사례에 맞게 모델을 맞춤화할 수 있게 하였습니다.
- GPT-4를 위한 세부 조정이 가을에 가능해질 것으로 예상됩니다.
- 초기 테스트에서 세부 조정된 GPT-3.5 Turbo가 특정 작업에서 기본 GPT-4 성능을 능가하거나 동등하게 수행할 수 있음을 보여주었습니다.
- 세부 조정 API를 통해 전송된 데이터는 고객이 소유하며, OpenAI나 다른 조직에서는 다른 모델을 훈련하는 데 사용하지 않습니다.
- 세부 조정은 개선된 조종성, 신뢰할 수 있는 출력 형식, 맞춤형 톤 등 일반적인 사용 사례에서 모델 성능을 향상시키는 데 사용되었습니다.
- 세부 조정은 비즈니스가 프롬프트를 단축하면서도 유사한 성능을 보장하고, 이전에 세부 조정된 모델의 두 배인 4k 토큰을 처리할 수 있게 합니다.
- 세부 조정은 프롬프트 엔지니어링, 정보 검색, 함수 호출 등의 기법과 결합할 때 가장 효과적입니다.
- 세부 조정 비용은 초기 훈련 비용과 사용 비용 두 가지로 나뉩니다.
- OpenAI는 또한 babbage-002와 davinci-002를 원래의 GPT-3 기본 모델 대체품으로 제공하며, 이들은 새로운 API 엔드포인트를 통해 세부 조정할 수 있습니다.
- 기존의 /v1/fine-tunes 엔드포인트는 2024년 1월 4일에 사용 중지될 예정입니다.
- OpenAI는 세부 조정 배포의 안전성을 보장하기 위해 노력하고 있으며, 세부 조정 훈련 데이터는 그들의 Moderation API와 GPT-4 기반의 검열 시스템을 통해 불안전한 훈련 데이터를 감지합니다.
- 가까운 미래에 세부 조정 UI가 출시될 예정이며, 개발자들이 진행 중인 세부 조정 작업 및 완료된 모델 스냅샷에 대한 정보에 더 쉽게 접근할 수 있게 될 것입니다.
Hacker News 의견
- OpenAI, 약속대로 GPT-3.5 세부조정을 출시, 몇 달 전 GPT-4 API 접근 개방 이후.
- 충분히 개방적이지 않다는 비판에도 불구하고, OpenAI는 Llama와 Bard와 같은 다른 오픈소스 AI를 앞서는 빠른 혁신으로 인정받음.
- 세부조정된 GPT-3.5 Turbo로 생성하는 비용은 기본 모델보다 8배 높아, 프롬프트 크기를 크게 줄일 수 있는 사람들에게만 비용 효과적임.
- 세부조정된 GPT-3.5 Turbo와 Llama2 모델 간의 비교가 요구되며, 후자는 임대 인프라가 필요함.
- 일부 사용자들은 GPT-3.5 Turbo가 반복적이고 부정확하여 글쓰기와 코딩에 부적합하다고 느끼는 반면, 다른 사용자들은 GPT-4가 훨씬 더 나아지고 교육이나 문제 해결 보조 도구로 유용하다고 느낌.
- 사용자들 사이에서 원하는 기능은 제3자 도구의 필요성을 제거하기 위한 내장 프롬프트 분할 기능임.
- OpenAI가 "안전하지 않은" 모델을 제공하지 않기로 한 결정이 주목되었으며, davinci-002와 babbage-002 모두 "안전하지 않은" 완성에 대해 무한 루프에 빠짐.
- 세부조정 훈련 데이터는 OpenAI의 Moderation API와 GPT-4 기반의 검열 시스템을 통과하며, 이는 높은 비용 때문에 "안전성"이 모호할 때만 사용되는 것으로 추측됨.
- 세부조정 작업에 필요한 토큰 수를 어떻게 계산하고, 기본 모델의 행동에 효과적으로 영향을 미치기 위해 일반적으로 얼마나 많은 세부조정 데이터가 필요한지에 대한 질문이 제기되었음.
- "Chat" 모델의 세부조정 가능성은 흥미롭게 느껴지며, 세부조정된 모델을 사용하여 현재의 AI 탐지기를 우회할 가능성에 대한 질문이 제기됨.
- 개인정보 보호에 대한 우려가 제기되었으며, OpenAI 또는 Microsoft가 API 호출로부터의 텍스트를 얼마나 오래 저장하는지에 대한 질문이 제기됨.
- 전반적으로, GPT-3.5 Turbo 세부조정의 출시는 긍정적인 발전으로 봐지며, 16k 세부조정에 대한 기대감이 있음.