직접 테스트해주시고 치명적인 오류(Hallucination)를 잡아주셔서 감사합니다. "아무말이나 적었는데 그럴싸한 샴푸 광고가 나오는 현상"저도 보고 등골이 서늘했습니다. 이는 초기 모델이 "어떻게든 답을 내놓으려는(Helpful)" 성향이 강해서 발생한 문제였습니다.> 오늘 패치(v1.1.0)를 통해 '입력 가드레일'을 적용했습니다.
이제 "ㅁㅁㄴㅇㄹ"나 단순 단어 나열 등 무의미한 입력이 들어오면, AI가 생성을 거부하고"구체적인 정보를 입력해주세요"라고 정중히 요청합니다.
직접 테스트해주시고 치명적인 오류(Hallucination)를 잡아주셔서 감사합니다. "아무말이나 적었는데 그럴싸한 샴푸 광고가 나오는 현상"저도 보고 등골이 서늘했습니다. 이는 초기 모델이 "어떻게든 답을 내놓으려는(Helpful)" 성향이 강해서 발생한 문제였습니다.> 오늘 패치(v1.1.0)를 통해 '입력 가드레일'을 적용했습니다.