liang1008 1 karma 가입일 2025-08-05 최근 활동 최근 작성한 글 전체 보기 Ask GN: 소형 모델(Gemma 3 270M/1B)의 도메인 지식 주입 한계와 파인튜닝 전략에 대한 조언부탁드립니다. 2026-01-04 · 2점 · 댓글 5개 최근 작성한 댓글 전체 보기 잘 읽어볼게요~ 지금도 하고 계시나요? 혹시나 하다가 느끼신점이랑 팁 같은것도 있을까요? 답변 감사드립니다. RAG 라면 도메인 관련해서 어떻게 적절하게 데이터를 가져올지 약간 고민이네요. 임베딩 모델 자체를 학습시켜야할지... 소형모델의 토큰수도 줄이고 싶어서 지식을 내재화하고 싶었는데, LoRA 로는 한계가 있는가보군요. 말씀해주신 것들 고민해보겠습니다. 감사합니다. 전체 배지 스페셜 더 많은 GeekBadge가 있습니다. 활동을 통해 모으거나, GeekGold로 구매해 보세요.
