19P by xguru 2023-08-04 | favorite | 댓글과 토론
  • ML 엔지니어인 Eric Hartford가 2023년 5월에 "Uncensored Models"라는 블로그 글을 작성해서 인기를 끔
    • 언센서드 모델을 운용하는 것에 대한 장점과 생성방법을 정리
  • Llama 2 의 언센서드 모델을 운용하는 방법과 센서드 모델과의 비교
  • 현재 운용 가능한 언센서드 모델
    • Fine-tuned Llama 2 7B model
      • uncensored/unfiltered Wizard-Vicuna conversation dataset 을 이용
    • Nous Hermes Llama 2 13B
      • 30만개의 명령으로 파인튜닝된 Llama 2 13B 모델
      • 장문의 응답, 더 적은 할루시네이션 비율, OpenAI 센서십 메커니즘 없는 것이 특정
    • 에릭 하트포드의 Wizard Vicuna 13B uncensored
      • Llama 1 13B 모델을 alignment를 제거하기 위해 파인튜닝
  • 7B Llama 2 모델과 7B Llama 2 언센서드 모델을 같은 프롬프트로 질문하여 응답을 비교
    • 영화, 요리(위험할 정도로 매운 마요네즈 레시피), 종교, 의학(타이레놀 제조 방법은?), 일반 정보(마크주커버그와 일런머스크가 시합을 하면 누가 이길것 같음?)
  • 언센서드 모델은 종종 더 자세하고 유익한 응답을 제공하지만, 위험 요소를 가지고 있으므로 적절하게 사용되어야 함