제 개인적 의견은 맥과 엔비디아 DGX 스파크의 경우에는 통합메모리, 그 외에는 RAM과 VRAM을 하는 방식으로 많이 나뉘게 됩니다.
그중 일부 제품의 경우에는 내장 그래픽카드의 VRAM 할당은 시스템 램을 쓰는 방식으로도 나오고 있죠.
비 전문가에게는 맥이나 Nvidia DGX Spark를 추천하고, 본인이 어느 정도 삽질할 수 있다면 AMD 쓰는 것이 더 좋을 수 도 있습니다.
각각 장단점이 나옵니다.
맥, Nvidia DGX Spark 등의 경우에는 본인이 램 업그레이드가 불가능하므로 미리 셋팅해서 사야한다는 단점이 있습니다.
AMD의 경우에는 직접 램 업그레이드 가능하다는 장점이 있지만 VRAM 할당에 한계는 존재함
즉, 128GB 이상을 VRAM으로써 써보고 싶다 라는 관점에서는 맥 스튜디오가 가장 유리한 옵션입니다.
삽질의 여지는 낮지만 맥 스튜디오의 경우에는 인퍼런스에는 괜찮지만 학습에는 불리하다는 단점이 있습니다. (학습에선 AMD보다 느림)
Nvidia DGX Spark의 경우에는 메모리를 128GB 이상 구성하려면 엔비디아의 별도의 케이블까지 사야한다라는 단점이 있음. 그러나 인공지능 학습의 경우에는 CUDA가 기본적으로 쓰이고 있기 때문에 가장 삽질이 덜함. 또한 성능의 경우 VRAM을 제외하면 5070급이라는 소문과 메모리 대역폭의 한계점이 있음...(학습을 고려할 경우는 무난한 선택지)
내장 그래픽을 이용한 VRAM 할당
최근 메모리값 상승으로 인해 아쉬운 선택지지만 그럼에도 불구하고 램 옵션을 고려하면 맥보다 훨씬 쌈. 다만 AMD ROCm이 부족한 것이여서 직접 고생해야한다는 단점이 있어 비전문가에겐 비추천(또한 VRAM을 더 높이는 것은 사실상 불가능...)
이렇게 정리가능할 듯 싶습니다.
가성비만 고려한다면 AMD 가 좋긴 하죠...그러나 맘편하게 쓴다면 맥 스튜디오도 나쁜 옵션은 아닙니다. 인퍼런스만 고려하면 충분히 가성비 영역이 되버려서...
제 개인적 의견은 맥과 엔비디아 DGX 스파크의 경우에는 통합메모리, 그 외에는 RAM과 VRAM을 하는 방식으로 많이 나뉘게 됩니다.
그중 일부 제품의 경우에는 내장 그래픽카드의 VRAM 할당은 시스템 램을 쓰는 방식으로도 나오고 있죠.
비 전문가에게는 맥이나 Nvidia DGX Spark를 추천하고, 본인이 어느 정도 삽질할 수 있다면 AMD 쓰는 것이 더 좋을 수 도 있습니다.
각각 장단점이 나옵니다.
맥, Nvidia DGX Spark 등의 경우에는 본인이 램 업그레이드가 불가능하므로 미리 셋팅해서 사야한다는 단점이 있습니다.
AMD의 경우에는 직접 램 업그레이드 가능하다는 장점이 있지만 VRAM 할당에 한계는 존재함
즉, 128GB 이상을 VRAM으로써 써보고 싶다 라는 관점에서는 맥 스튜디오가 가장 유리한 옵션입니다.
삽질의 여지는 낮지만 맥 스튜디오의 경우에는 인퍼런스에는 괜찮지만 학습에는 불리하다는 단점이 있습니다. (학습에선 AMD보다 느림)
Nvidia DGX Spark의 경우에는 메모리를 128GB 이상 구성하려면 엔비디아의 별도의 케이블까지 사야한다라는 단점이 있음. 그러나 인공지능 학습의 경우에는 CUDA가 기본적으로 쓰이고 있기 때문에 가장 삽질이 덜함. 또한 성능의 경우 VRAM을 제외하면 5070급이라는 소문과 메모리 대역폭의 한계점이 있음...(학습을 고려할 경우는 무난한 선택지)
내장 그래픽을 이용한 VRAM 할당
최근 메모리값 상승으로 인해 아쉬운 선택지지만 그럼에도 불구하고 램 옵션을 고려하면 맥보다 훨씬 쌈. 다만 AMD ROCm이 부족한 것이여서 직접 고생해야한다는 단점이 있어 비전문가에겐 비추천(또한 VRAM을 더 높이는 것은 사실상 불가능...)
이렇게 정리가능할 듯 싶습니다.
가성비만 고려한다면 AMD 가 좋긴 하죠...그러나 맘편하게 쓴다면 맥 스튜디오도 나쁜 옵션은 아닙니다. 인퍼런스만 고려하면 충분히 가성비 영역이 되버려서...