▲wedding 1달전 | parent | ★ favorite | on: MLC-LLM으로 iOS에서 로컬 LLM(Gemma 3) 실행하기(blog.devstory.co.kr)저는 갤럭시 폴드 4에서 qwen 3 0.6b q5 돌리고 있는데요. 아직까진 좀 아쉬운 느낌입니다. ▲dolsangodkimchi 1달전 [-]어느 부분에서 아쉬운건지 궁금합니다. 모델이 너무 작아 llm 성능이 아쉬운 것인지, 아니면 로컬에서 실행시킬 때 실행퍼포먼스가 아쉬운 것인지 궁금합니다. 답변달기▲wedding 1달전 [-]퍼포먼스가 아쉽습니다. gpu나 특정 npu 지원이 아직 안되서 느려유.. 답변달기
저는 갤럭시 폴드 4에서 qwen 3 0.6b q5 돌리고 있는데요. 아직까진 좀 아쉬운 느낌입니다.