kaboom45 1 karma 가입일 2026-02-23 최근 활동 최근 작성한 댓글 전체 보기 DDR3+i5 내장그래픽PC에서 qwen3.6 27b를 초당 1토큰으로 돌리고 있습니다. 옛날엔 이런식으로 기다려도 엉망인 결과물만 나왔지만, 이젠 그래도 쓸수있는게 나오더라고요. 6개월 전 80~120B급 크기가 필요했던 성능이 30B급이면 충분한 정도로 발전했고 1년쯤 뒤면 opus4.8, gpt5.5급 코드 성능도 30B에서 보게되지 않을까 싶습니다. 그러면 이렇게 하루 i5 4440+RX570 위에 qwen3.6 35B (12t/s) 올려쓰고있는데 좀 튈 때도 있지만 전반적으로 제한된 기능 내에선 무척 만족하고 있습니다. 우선 램값이 떨어지는게 먼저인것같고, 맥/DGXspark/AI max 같은 LPDDR5X 통합메모리 말고 플레이스테이션과 유사한GDDR6/7 32~64GB 통합메모리로 로컬 추론에 적합한 시스템이 나와줬으면 좋겠다는 생각을 합니다. 오픈소스로 모델이 풀리는건 좋다고 생각합니다 인류는 오랜시간동안 80%이상의 인구가 식량생산에 종사해야했는데 질소비료의 등장으로 농업에서 해방될수 있었죠. AI도 어느정도까지는 비슷한 작용이 가능할거라 생각해요 GLM5.1같은걸 보면, 오픈모델도 약간 격차를 두더라도 꾸준히 유료 폐쇄모델을 쫒아갈순 있다고 생각이 들었어요 전체 배지 GeekAward 스페셜 더 많은 GeekBadge가 있습니다. 활동을 통해 모으거나, GeekGold로 구매해 보세요.
