kaboom45 1 karma 가입일 2026-02-23 최근 활동 최근 작성한 댓글 전체 보기 q8 0은 너무 크고 Q4 K XL~Q6 K XL도 큰 품질하락 없이 좋다고 생각합니다. 조금 더 조이면 32GB램 안에서도 잘 돌아가서요 DDR3+i5 내장그래픽PC에서 qwen3.6 27b를 초당 1토큰으로 돌리고 있습니다. 옛날엔 이런식으로 기다려도 엉망인 결과물만 나왔지만, 이젠 그래도 쓸수있는게 나오더라고요. 6개월 전 80~120B급 크기가 필요했던 성능이 30B급이면 충분한 정도로 발전했고 1년쯤 뒤면 opus4.8, gpt5.5급 코드 성능도 30B에서 보게되지 않을까 싶습니다. 그러면 이렇게 하루 i5 4440+RX570 위에 qwen3.6 35B (12t/s) 올려쓰고있는데 좀 튈 때도 있지만 전반적으로 제한된 기능 내에선 무척 만족하고 있습니다. 우선 램값이 떨어지는게 먼저인것같고, 맥/DGXspark/AI max 같은 LPDDR5X 통합메모리 말고 플레이스테이션과 유사한GDDR6/7 32~64GB 통합메모리로 로컬 추론에 적합한 시스템이 나와줬으면 좋겠다는 생각을 합니다. 오픈소스로 모델이 풀리는건 좋다고 생각합니다 인류는 오랜시간동안 80%이상의 인구가 식량생산에 종사해야했는데 질소비료의 등장으로 농업에서 해방될수 있었죠. AI도 어느정도까지는 비슷한 작용이 가능할거라 생각해요 전체 배지 GeekAward 스페셜 더 많은 GeekBadge가 있습니다. 활동을 통해 모으거나, GeekGold로 구매해 보세요.
