LLM 이다보니 항상 작동하진 않고 있어요(ㅜㅜ)... 편하게 많이 사용 부탁드려요.
혹시라도 궁금하신 분들이 있을까봐,,,지금까지 발생한 성능 이슈 원인을 작성해 봐요

• 영어로 kw를 추출하라고 프롬프트를 작성하였지만, 간혹 한글로 추출하여 검색에 제한 발생
• 적절한 키워드를 추출하지 못하는 경우가 있음
• kw를 임베딩 한 후 유사도를 측정해 의미론적 검색을 실시하고 있지만 불명확한 성능

ps) PoC 웹보다 delos-lucia의 성능이 더 좋아요. delos-lucia를 쉘기반으로 실행해 보시면 좀더 좋은 결과를 보실 수 있을 거에요.

ps) 막상 서비스를 직접 만들어 보니 QA도 어렵고 eval을 도입하기도 어렵네요. LLM 성능만 좋으면 어떻게든 해결될 거 같지만, 모델 외 다른부분에 생각보다 많은 공수가 필요하다는 걸 느꼈습니다.