더 사용해보니 Ollama에서는 다양한 모델 중에서도 Qwen2.5에서 잘 작동하는 것 같음. Deepseek-r1은 Search 할 때 쿼리를 이상하게 만들어서 근거가 되는 내용을 잘못 가져오고 Gemma류는 예시로 든 프롬프트를 실제 프롬프트로 인식해서 해당 관련 주제 내용을 꼭 집어넣으려고 함.
더 사용해보니 Ollama에서는 다양한 모델 중에서도 Qwen2.5에서 잘 작동하는 것 같음. Deepseek-r1은 Search 할 때 쿼리를 이상하게 만들어서 근거가 되는 내용을 잘못 가져오고 Gemma류는 예시로 든 프롬프트를 실제 프롬프트로 인식해서 해당 관련 주제 내용을 꼭 집어넣으려고 함.
신기술에 초점을 맞춰서 답변하려는 의도가 있음. 특히 AI와 연관 지으려고 함.Config 파일에서 다양한 설정이 가능. 검색할 데이터베이스를 PubMed에만 국한되게 만들어서 자료의 퀄리티를 한층 더 높일 수 있음. 한번에 검색할 텍스트들이나 RAG 사용 시 얼만큼의 청크를 만들지 설정할 수 있음.
현재 0.01V 임을 감안했을 때 Local 머신으로 이 정도까지 보고서를 만들어낼 수 있다는 것이 매우 놀라움. 특히 생명과학 쪽은 Chatbot들이
일반화된 서술을 사용하는 경우가 많은데 해당 프로그램을 통해서 만들어진 보고서는 굉장히 과학적인 서술을 사용함.해당 프로그램은 현재 한글을 지원하지 않음. 질문을 한글로 해도 보고서는 영문으로 출력됨.
또한 PDF 내보내기를 통해서 PDF 파일로 답변을 받을 때 한글은 나오지 않는 문제가 있음.
Ref가 보고서 생성 도중에 사라지는 문제, 환각을 일으키는 문제만 해결된다면 정말 강력한 도구라고 생각함.