Strix halo 는 아직 구매 전이고, 유사하게 AMD GPU 사용하는 게임용 컴퓨터에서 16GB vRAM 사용하여 대략 6억 건의 경우의 수 계산을 했습니다.
한 번 구성하고, 되는대로 검색해가며 한거라 기억이 정확하지 않습니다.
Bazzite 사용 중이라 그래픽 드라이버는 깔려있으니 특이할 게 없었고요, ROMc 와 관련 모듈을 distrobox 안의 Rocky Linux 에 설치 후에 각종 GPU 사용하는 연산을 하였습니다.
빠른 메모리 대역폭이 높으니 맥 스튜디오도 고려해볼만 하지 않을까요? 128GB 2TB 옵션 넣으면 4000 달러이긴 합니다. 맥 아키텍쳐인 부분은 AMD 로 가는 것과 큰 차이 없을 거 같습니다.
맥스튜디오 큰거 살까 생각중이었는데 Home LLM 관련해서 이렇게 옵션이 많이 늘었는지 몰랐네요.
혹시 Strix쪽 세팅을 어떻게 구성하시는지 여쭐 수 있을까요?