Framework Desktop는 64GB RAM과 2TB NVMe 구성에 $1,876임, 반면 비슷한 사양의 Mac Studio를 구매하려면 두 배 가까운 금액을 지불해야 함, Framework Desktop이 가격적으로 너무 매력적이라는 느낌을 받음, 애플보다 저렴하다고 해서 무조건 좋은 딜이라고는 할 수 없다고 생각함, 요즘 애플이 예전보다 경쟁력 있게 가격 책정하는 줄 알았는데, Framework가 틈새 시장 업체임에도 불구하고 애플보다 훨씬 저렴하게 나옴
Mac Studio가 아니라 Mac Mini와 성능이 비슷하기 때문에 이쪽과 비교하는 게 맞다고 봄, 캐나다 기준 64GB 메모리와 500GB 저장장치 구성으로 보면 거의 같은 가격임, Framework Max+ 64GB: $2,861.16, Apple Mini M4 Pro 64GB: $2,899.00, 애플이 저장장치 가격을 유난히 비싸게 받지만, Mac Mini와 비교하면 2TB로 가정해도 25% 프리미엄 수준임, 데스크탑 조립할 땐 외장 NVMe SSD를 쓰면 됨
애플은 기본 모델에서 멀어질수록 가격 프리미엄이 크게 적용됨, M4 기본 모델보다 나은 딜 찾기는 정말 어려움
순전히 애플의 터무니없는 SSD 가격 정책 때문임, 외장 SSD를 사용하면 돈을 많이 아낄 수 있음
애플의 기본 모델은 경쟁력 있지만, RAM과 SSD 업그레이드시 추가 비용이 업계 최고 수준임, 16GB에서 32GB로 올리려면 $600 CAD, 512GB에서 2TB SSD로 올리려면 $900 CAD 청구함
AMD Ryzen AI Max+ 395 칩이 나오기 전에는 데스크탑/노트북 기준으로 이런 AI 관련 작업을 할 수 있는 선택지는 Apple 뿐이었음, 64~128GB 메모리가 가능한 GPU가 있었던 곳은 애플밖에 없었음
AMD 395+는 애플처럼 통합 메모리 구조라서 거의 모든 메모리를 GPU가 쓸 수 있음, 그래서 “노트북” CPU를 사용한 것임, 전용 메모리보다 약간 느리지만 비교적 빠른 토큰 속도로 큰 모델을 돌리는 것이 가능해짐
통합 메모리가 납땜되어 있음... 성능은 빠르지만 아쉬움 남음, 혹시 내부 PSU(파워서플라이 유닛)를 사용했는지 궁금했는데 내부 PSU 적용했음을 확인하고 놀라움
AMD GPU라서 CUDA가 없어 주의가 필요함, 사용하는 툴에 따라선 이게 치명적일 수 있음
Framework Desktop을 개발용/로컬 LLM 환경/홈서버 용도로 고민 중임, LLM 용도만큼은 Framework Desktop이 이점이 있지만, 지금은 쓰기엔 다소 불안정한 점이 많아 보임, 올해 좀 더 지켜보려고 함
Minisforum, Beelink 등 미니 PC를 고려할 때 UEFI 펌웨어 업데이트가 얼마나 잘 되는지 불확실함, 의도치 않았든 의도했든 백도어 위험도 걱정됨, 실제 중국 관련 단체가 ASUS/Gigabyte 메인보드 타겟의 UEFI 루트킷까지 만든 사례가 있음, 관련 링크 참조, 특정 업체에는 직접적으로 보안 조치를 강제해야 하는 것 아닌가 생각함
홈서버 용도라면 엄청난 연산 성능이 필요하지 않으면 맞지 않을 수 있음, 중고 Lenovo mini PC(m75q 등)를 이베이에서 총 $500에 구매했는데 대부분 작업에 충분히 잘 동작함
Minisforum이 얼마나 조용한지도 궁금함
M4 Max와의 비교가 의아함, 최근 AMD 칩이 동급 성능을 낸다는 의미인지, 이게 온디바이스 LLM에는 어떤 의미가 있는지 잘 이해가 안 됨
AMD의 Strix 시리즈는 Apple M 시리즈와 유사한 아키텍처를 사용하며, 메모리 대역폭과 캐시가 엄청남, 결과적으로 성능 차이가 매우 큼
오마키(omarchy) 웹사이트의 비교도 놀라웠는데, Apple M칩은 GPU를 안 쓰는 데이터 사이언스 작업에 정말 잘 동작함, 이는 정수 vs 실수 연산 성능 차이에서 비롯된 것 일 수 있음, 간단한 numpy 벤치마크: 리눅스(280ms, 1.53Tflops), 내 m2 맥북에어(180ms, 2.4Tflops), LLM에는 실수 연산이 더 중요함
DHH가 두 칩을 비교한 이유는 둘 다 최신 플래그십 칩이고, 벤치마크 결과 서로 성능 특성이 다름을 보여줌, 특히 DHH가 좋아하는 벤치마크는 네이티브 리눅스 및 도커를 잘 지원하는 쪽이 항상 이점 있음, 로컬 LLM 용도로는 M4 Max의 높은 메모리 대역폭이 훨씬 강점임, 더 다양한 벤치마크는 Arstechnica 리뷰에서 확인 가능
전력대비 성능은 아니지만 순수 성능(perf) 기준으론 성능 차이가 크지 않음
TSMC가 모든 칩의 핵심 요소임을 생각하면 M 시리즈가 그리 특별하지 않음, 그래서 대만의 TSMC 생산시설이 미국에게 국가 안보 이슈가 됨
RDNA 3.5 기반이라 Matrix Core는 없음, 해당 기능은 RDNA 4에만 들어가고, RDNA 4는 2025년에야 데스크탑에 적용됨, Nvidia는 2022년 4000 시리즈부터 Tensor Core를 넣었고, Apple도 2020년부터 simdgroup_matrix 지원함, 이젠 이런 하드웨어가 보편화되어가는 단계임, 다만 ML 이외 워크로드엔 어떤 변화가 올지 확실하지 않음
NPU가 동일 메모리에 접근하고, 경우에 따라 더 유연한 FPGA 패브릭도 포함하는 등 Matrix Core 없이도 충분하다고 느껴짐, 결국 비슷한 역할로 보여짐
Framework Desktop과 "GMKtec AI Mini Ryzen AI Max+ 395 128GB" 미니 PC 간의 직접 비교가 궁금함, 하드웨어는 비슷한 듯하며 Framework의 독특함만 포기하면 더 나은 가격인 듯도 함, 실제로 직접 비교해본 사람이 있는지 질문함
동일 CPU지만 아마 TDP 세팅이 다를 듯함, HP G1a 모델로 비교한 자료가 있으니 참고하면 도움이 될 것 같음, Phoronix 리뷰 추천, Framework가 더 높은 전력을 줄 수 있어 지속 성능 면에서 우위라는 인식임
GMKtec은 단순한 중국 브랜드라서 보증, 지원, 수리성에서 아쉬움이 클 것임, Framework를 단순히 "멋져 보이기만 하는" 제품이라고 평가절하하기엔 그 반대 극단임
실제로 두 기기의 가격이 같음, 395 프로세서와 128GB RAM 구성 모두 $1999임
제품명에 "AI"가 두 번 들어가 있으니, 이 트렌드가 얼른 사라지기만을 바람
Framework를 좋아하고 노트북도 소유 중임, 하지만 데스크탑은 마케팅적 요소만 부각되고 실질적 차별성이 부족한 느낌, 가격도 비싸게 책정된 것 같음
충분히 유사한 대체제가 훨씬 저렴하게 없으면 비싼 게 아니라고 봄
주로 모바일/미니 PC 플랫폼을 기반으로 표준 데스크탑에 최대한 가까운 제품을 만든 것임, Framework 정신에서 크게 벗어나지 않는다고 생각함
Framework 고객층을 착각한 듯함, 나는 얼리어답터 혹은 FOSS 지향 환경운동가들이 주요 고객이라 생각했지만, 실제로는 대량 구매하는 학교/기업용 정형화된 시장도 있음을 최근 알게 됨, fw12의 사양이 약한 것도 이런 구매처(예, 학교의 학생들)에 맞춘 것이었음, 데스크탑도 개인 사용자 뿐 아니라 대량 설치시 많이 쓰는 용도인 듯함
Framework Desktop 주문을 취소하고 대신 HP Z2 Mini G1a를 주문함, 목표는 Mac Studio를 대체하는 것이었고, 애플의 아집과 떨어지는 품질에 지침, HP는 훨씬 작고 ECC 램 및 10G 이더넷 지원이 장점임, 가격은 상당히 더 비쌈
몇 주 전 Framework Desktop을 살펴봤음, 주로 노트북의 내장 GPU보다 더 나은 게임 성능을 원했음, 최신 게임보단 고전 게임을 챙기는 성향임, 내 결론은 기기가 매우 괜찮기는 하나 가격이 꽤 높아 경제적으론 별로라는 것임, 직접 조립하면 더 좋은 성능을 더 싸게 맞출 수 있음, 기사에선 9950X가 Max 395보다 낮게 점수나왔다는 얘기가 있는데, 실제로는 55W 노트북 칩과 170W 데스크탑 칩 차이를 생각하면 다르게 봐야 할 것 같음, 리눅스 호환성 이슈도 있음(예, 일부 ASUS 보드의 MediaTek WiFi/Bluetooth 칩은 리눅스 드라이버 미지원), 전체 부품 선택도 시간 소요가 큼, Nirav의 “Framework Desktop 그냥 사면 쉽다”라는 조언에 공감함, 결국 USB4/Thunderbolt eGPU로 게임 성능을 확보했음, 이미 노트북이 성능 충분해 추가 PC까지 필요하지 않았음, LLM 작업엔 관심 없어 별도 조사하지 않았음
AMD GPU가 생성형 AI 워크플로우와 호환성 좋은지 궁금함, 모든 게 CUDA 위주로 돌아간다는 인식임
CUDA 코드가 AMD GPU에서 돌아가게 해주는 SCALE 프로젝트가 있음, Nvidia CUDA의 드롭인 대체제로서 개발 중이며, 개인 및 교육 목적으론 무료임, SCALE 공식 문서에서 확인 가능, 아직 cuDNN과 CUDA Graph API 등 중요한 기능은 구현 중이지만 점점 지원 범위가 넓어지는 중임, 지원 현황 참고, SCALE 개발자인 본인이 직접 소개함
Ollama와 Stable Diffusion 기반 환경은 AMD 카드에서 문제없이 동작함, 학습이 아니라 추론용이라면 점점 더 호환성 좋아지는 걸 체감 중임
llama.cpp와 Mesa의 Vulkan 지원 조합으로 AMD GPU에서도 정말 잘 동작함, 다양한 워크로드를 어려움 없이 돌려봄
실제 LLM 기반 생성형 AI 워크플로우에서 AMD Max+395 통합메모리 칩은 Mac Studio나 MacBook Pro와 견줄 만한 성능과 속도 보임(참고로 Apple 상위 칩은 546GB/s, AMD는 약 256GB/s 대역폭임), 추론에서는 둘 다 충분히 잘 동작함, 그 외 모든 용도는 CUDA 생태계가 좀 더 신뢰감 있음
나 역시 비슷한 인식임, 학습을 하려면 무조건 CUDA GPU 필요하고, 추론용으론 AMD와 Apple M 칩도 점점 좋아지는 추세임
Hacker News 의견