▲popopo 6달전 | parent | ★ favorite | on: Ask GN: Home 로컬 LLM 머신 구성 경험 공유4K 예산 내에서 DGX Spark 보다 쿼드 3090 가 성능이 훨씬 뛰어나다는 영상 https://www.youtube.com/watch?v=md6a4ENM9pg Strix Halo 가 Local LLM 실행 머신으로 형편없는 구매라는 주장 https://reddit.com/r/LocalLLaMA/… 전력 소모는 중요 기준이 되기 어렵고, 대역폭 때문에 큰 모델을 메모리에 로딩해도 써먹을 수 없다... 는게 주요 주장인듯 하네요.
4K 예산 내에서 DGX Spark 보다 쿼드 3090 가 성능이 훨씬 뛰어나다는 영상
https://www.youtube.com/watch?v=md6a4ENM9pg
Strix Halo 가 Local LLM 실행 머신으로 형편없는 구매라는 주장
https://reddit.com/r/LocalLLaMA/…
전력 소모는 중요 기준이 되기 어렵고, 대역폭 때문에 큰 모델을 메모리에 로딩해도 써먹을 수 없다... 는게 주요 주장인듯 하네요.