xguru 2022-12-15 | parent | ★ favorite | on: ChatGPT의 보호장치를 우회하는 방법들(twitter.com/davisblalock)

물론 이렇게 시도한 것들은 OpenAI에 의해서 빠르게 패치되거나 막히고 있습니다.

막히고 있다는 뜻은, 저런 문장을 처리하는 specific한 코드가 있는게 아니라 이미 저 문장들이 general 한 rule에 의해서 처리되고 있다는 뜻일까요?

AI 멋있네요. 한번 공부해보고 싶은 맘이 드네요... 마음은 굴뚝같지만, 현실은 시스템프로그래머라...ㅠ

이런 질문들을 어떻게 거르는 걸까요?

아마 violence를 감지하는 모델이 붙어있을 거 같습니다.

내부적으로 뭔가 모니터링이 돌아가는게 아닐까? 합니다만.. 확실히 모르겠네요.

아마도 ChatGPT한테 "뭔가 경계를 넘는 질문이 들어오면 알려줘" 라는게 이미 입력되어 있지 않을까요? ㅎㅎ