Framework Desktop은 괴물이에요
(world.hey.com)- Framework Desktop은 매우 조용하며, 고성능을 제공함
- AMD Ryzen AI Max 395+ 를 탑재해 작은 크기임에도 데스크톱 이상의 성능을 냄
- 다양한 벤치마크에서 Beelink나 Mac Studio 대비 뛰어난 멀티코어 성능을 보임
- 메모리 확장성과 로컬 LLM 모델 실행 등 다양한 용도에 적합함
- 통합 그래픽 역시 뛰어나면서 게임 성능도 매우 우수함
프레임워크 데스크톱 첫인상
- 필자(DHH)는 몇 달 동안 Framework Desktop을 사용해왔으며, 매우 조용하고 재미있는 디자인을 가짐
- 크기는 4.5L로 매우 작으며, 기존 데스크톱보다 훨씬 빠른 성능을 체감함
- 전면에는 21개의 컬러 타일을 부착할 수 있어, RGB 위주의 경쟁사들과 크게 차별화되는 개성적인 외관을 제공함
- 3D 프린트 등 커스터마이징도 가능해 개성 표현이 자유로움
사용된 프로세서 및 설계적 특징
- AMD Ryzen AI Max 395+ 는 원래 노트북용 칩이지만, Framework는 이를 초소형 데스크톱에 적용
- ASUS ROG Flow Z13, HP ZBook Ultra 등에 사용되던 칩으로, 공간 효율을 극대화하고자 적용한 선택임
- 미니 PC 시장에는 이미 많은 제품이 있지만, Framework Desktop은 거의 유일하게 완전히 무소음 환경을 제공함
- Beelink 등 다른 미니 PC와 비교 시, 소음이 압도적으로 적음
벤치마크 및 성능 비교
- 멀티코어 벤치마크에서 Framework Desktop은 Beelink SER8 보다 2배, SER9보다 1/3 이상 빠름
- Mac Studio(M4 Max, M4 Pro) 대비 40%~50% 더 우수한 성능을 보임
- 이 테스트는 Docker 내의 MySQL/Redis/ElasticSearch와 Ruby 코드 실행으로, 리눅스에서의 Docker 네이티브 실행 이점도 성능 차이에 기여함(약 25% 정도 차이)
- 개발자 워크플로우는 Docker 활용이 필수적이므로, 실사용 기준에서 Framework Desktop의 경쟁력이 더욱 부각됨
CPU와 싱글코어 성능
- AMD 395+ 는 16개의 Zen5 코어(5.1GHz) 탑재, Geekbench 6 멀티코어 점수는 M4 Max와 비슷하거나 우위임
- 싱글코어 성능에서는 M4 계열이 20% 강력함 (예: Speedometer 벤치마크)
- 웹브라우징 등 일상적 자원 사용에서는 이 싱글코어의 차이를 거의 체감하지 못함
가격 경쟁력 및 메모리 확장성
- 64GB RAM + 2TB NVMe 기준, Framework Desktop은 $1,876, 동일 조건의 Mac Studio는 $3,299임
- 128GB로 확장해도 가격 차이는 더 커지며, Docker 기반 개발 작업에서는 여전히 Framework Desktop이 더 빠름
- 리눅스와 Hyprland 윈도우 매니저 환경에서는 메모리 사용 효율이 높기 때문에 대부분 64GB로도 충분함
로컬 LLM 모델 구동 및 메모리 활용
- 128GB 메모리는 로컬 LLM 모델 운영에 적합하며, AMD 395+의 통합 메모리 구조로 GPU가 거의 모든 메모리를 활용 가능함
- OpenAI의 120b gpt-oss와 같은 대형 모델도 구동 가능하고, 초당 40 토큰 생성 등의 퍼포먼스(유튜브 링크 참고)
- 다만, 64GB로는 gpt-oss-20b 실행 시 정확도에 한계가 존재함. SaaS 기반 최신 LLM 모델이 더 뛰어난 결과를 보임
대안 제품과 추가 정보
- Beelink SER9은 절반 가격에 2/3 멀티코어 성능, 싱글코어는 거의 차이 없음
- 대부분의 개발자는 SER9도 충분히 만족할 수 있음. 하지만 특정 상황에서 더 나은 성능을 원한다면 Framework Desktop이 매력적임
게임 성능 및 듀얼 부팅
- Framework Desktop의 통합 그래픽(iGPU) 은 RTX 4060 급에 근접하는 게임 성능 제공
- 1440p High 설정에서 주요 게임들도 원활히 구동함(유튜브 참고)
- 듀얼 NVMe 슬롯으로 리눅스/윈도우 듀얼 부팅에도 최적임
결론
- Framework Desktop과 AMD 395+ 는 리눅스 기반 개발자에게 매우 강력한 선택지임
- 조용함, 작은 크기, 강력한 멀티코어, 특이한 디자인, 그리고 가격 경쟁력까지 모두 갖춤
- 오픈소스 소프트웨어와 개발 친화적 하드웨어를 즐기는 최적의 시기임
저는 We haven’t opened ordering in your region yet, but we’re looking forward to getting there! We can notify you when ordering opens 이렇게 뜹니다
Hacker News 의견
- Framework Desktop는 64GB RAM과 2TB NVMe 구성에 $1,876임, 반면 비슷한 사양의 Mac Studio를 구매하려면 두 배 가까운 금액을 지불해야 함, Framework Desktop이 가격적으로 너무 매력적이라는 느낌을 받음, 애플보다 저렴하다고 해서 무조건 좋은 딜이라고는 할 수 없다고 생각함, 요즘 애플이 예전보다 경쟁력 있게 가격 책정하는 줄 알았는데, Framework가 틈새 시장 업체임에도 불구하고 애플보다 훨씬 저렴하게 나옴
- Mac Studio가 아니라 Mac Mini와 성능이 비슷하기 때문에 이쪽과 비교하는 게 맞다고 봄, 캐나다 기준 64GB 메모리와 500GB 저장장치 구성으로 보면 거의 같은 가격임, Framework Max+ 64GB: $2,861.16, Apple Mini M4 Pro 64GB: $2,899.00, 애플이 저장장치 가격을 유난히 비싸게 받지만, Mac Mini와 비교하면 2TB로 가정해도 25% 프리미엄 수준임, 데스크탑 조립할 땐 외장 NVMe SSD를 쓰면 됨
- 애플은 기본 모델에서 멀어질수록 가격 프리미엄이 크게 적용됨, M4 기본 모델보다 나은 딜 찾기는 정말 어려움
- 순전히 애플의 터무니없는 SSD 가격 정책 때문임, 외장 SSD를 사용하면 돈을 많이 아낄 수 있음
- 애플의 기본 모델은 경쟁력 있지만, RAM과 SSD 업그레이드시 추가 비용이 업계 최고 수준임, 16GB에서 32GB로 올리려면 $600 CAD, 512GB에서 2TB SSD로 올리려면 $900 CAD 청구함
- AMD Ryzen AI Max+ 395 칩이 나오기 전에는 데스크탑/노트북 기준으로 이런 AI 관련 작업을 할 수 있는 선택지는 Apple 뿐이었음, 64~128GB 메모리가 가능한 GPU가 있었던 곳은 애플밖에 없었음
- AMD 395+는 애플처럼 통합 메모리 구조라서 거의 모든 메모리를 GPU가 쓸 수 있음, 그래서 “노트북” CPU를 사용한 것임, 전용 메모리보다 약간 느리지만 비교적 빠른 토큰 속도로 큰 모델을 돌리는 것이 가능해짐
- 통합 메모리가 납땜되어 있음... 성능은 빠르지만 아쉬움 남음, 혹시 내부 PSU(파워서플라이 유닛)를 사용했는지 궁금했는데 내부 PSU 적용했음을 확인하고 놀라움
- AMD GPU라서 CUDA가 없어 주의가 필요함, 사용하는 툴에 따라선 이게 치명적일 수 있음
- Framework Desktop을 개발용/로컬 LLM 환경/홈서버 용도로 고민 중임, LLM 용도만큼은 Framework Desktop이 이점이 있지만, 지금은 쓰기엔 다소 불안정한 점이 많아 보임, 올해 좀 더 지켜보려고 함
- Minisforum, Beelink 등 미니 PC를 고려할 때 UEFI 펌웨어 업데이트가 얼마나 잘 되는지 불확실함, 의도치 않았든 의도했든 백도어 위험도 걱정됨, 실제 중국 관련 단체가 ASUS/Gigabyte 메인보드 타겟의 UEFI 루트킷까지 만든 사례가 있음, 관련 링크 참조, 특정 업체에는 직접적으로 보안 조치를 강제해야 하는 것 아닌가 생각함
- 홈서버 용도라면 엄청난 연산 성능이 필요하지 않으면 맞지 않을 수 있음, 중고 Lenovo mini PC(m75q 등)를 이베이에서 총 $500에 구매했는데 대부분 작업에 충분히 잘 동작함
- Minisforum이 얼마나 조용한지도 궁금함
- M4 Max와의 비교가 의아함, 최근 AMD 칩이 동급 성능을 낸다는 의미인지, 이게 온디바이스 LLM에는 어떤 의미가 있는지 잘 이해가 안 됨
- AMD의 Strix 시리즈는 Apple M 시리즈와 유사한 아키텍처를 사용하며, 메모리 대역폭과 캐시가 엄청남, 결과적으로 성능 차이가 매우 큼
- 오마키(omarchy) 웹사이트의 비교도 놀라웠는데, Apple M칩은 GPU를 안 쓰는 데이터 사이언스 작업에 정말 잘 동작함, 이는 정수 vs 실수 연산 성능 차이에서 비롯된 것 일 수 있음, 간단한 numpy 벤치마크: 리눅스(280ms, 1.53Tflops), 내 m2 맥북에어(180ms, 2.4Tflops), LLM에는 실수 연산이 더 중요함
- DHH가 두 칩을 비교한 이유는 둘 다 최신 플래그십 칩이고, 벤치마크 결과 서로 성능 특성이 다름을 보여줌, 특히 DHH가 좋아하는 벤치마크는 네이티브 리눅스 및 도커를 잘 지원하는 쪽이 항상 이점 있음, 로컬 LLM 용도로는 M4 Max의 높은 메모리 대역폭이 훨씬 강점임, 더 다양한 벤치마크는 Arstechnica 리뷰에서 확인 가능
- 전력대비 성능은 아니지만 순수 성능(perf) 기준으론 성능 차이가 크지 않음
- TSMC가 모든 칩의 핵심 요소임을 생각하면 M 시리즈가 그리 특별하지 않음, 그래서 대만의 TSMC 생산시설이 미국에게 국가 안보 이슈가 됨
- RDNA 3.5 기반이라 Matrix Core는 없음, 해당 기능은 RDNA 4에만 들어가고, RDNA 4는 2025년에야 데스크탑에 적용됨, Nvidia는 2022년 4000 시리즈부터 Tensor Core를 넣었고, Apple도 2020년부터 simdgroup_matrix 지원함, 이젠 이런 하드웨어가 보편화되어가는 단계임, 다만 ML 이외 워크로드엔 어떤 변화가 올지 확실하지 않음
- NPU가 동일 메모리에 접근하고, 경우에 따라 더 유연한 FPGA 패브릭도 포함하는 등 Matrix Core 없이도 충분하다고 느껴짐, 결국 비슷한 역할로 보여짐
- Framework Desktop과 "GMKtec AI Mini Ryzen AI Max+ 395 128GB" 미니 PC 간의 직접 비교가 궁금함, 하드웨어는 비슷한 듯하며 Framework의 독특함만 포기하면 더 나은 가격인 듯도 함, 실제로 직접 비교해본 사람이 있는지 질문함
- 동일 CPU지만 아마 TDP 세팅이 다를 듯함, HP G1a 모델로 비교한 자료가 있으니 참고하면 도움이 될 것 같음, Phoronix 리뷰 추천, Framework가 더 높은 전력을 줄 수 있어 지속 성능 면에서 우위라는 인식임
- GMKtec은 단순한 중국 브랜드라서 보증, 지원, 수리성에서 아쉬움이 클 것임, Framework를 단순히 "멋져 보이기만 하는" 제품이라고 평가절하하기엔 그 반대 극단임
- 실제로 두 기기의 가격이 같음, 395 프로세서와 128GB RAM 구성 모두 $1999임
- 제품명에 "AI"가 두 번 들어가 있으니, 이 트렌드가 얼른 사라지기만을 바람
- Framework를 좋아하고 노트북도 소유 중임, 하지만 데스크탑은 마케팅적 요소만 부각되고 실질적 차별성이 부족한 느낌, 가격도 비싸게 책정된 것 같음
- 충분히 유사한 대체제가 훨씬 저렴하게 없으면 비싼 게 아니라고 봄
- 주로 모바일/미니 PC 플랫폼을 기반으로 표준 데스크탑에 최대한 가까운 제품을 만든 것임, Framework 정신에서 크게 벗어나지 않는다고 생각함
- Framework 고객층을 착각한 듯함, 나는 얼리어답터 혹은 FOSS 지향 환경운동가들이 주요 고객이라 생각했지만, 실제로는 대량 구매하는 학교/기업용 정형화된 시장도 있음을 최근 알게 됨, fw12의 사양이 약한 것도 이런 구매처(예, 학교의 학생들)에 맞춘 것이었음, 데스크탑도 개인 사용자 뿐 아니라 대량 설치시 많이 쓰는 용도인 듯함
- Framework Desktop 주문을 취소하고 대신 HP Z2 Mini G1a를 주문함, 목표는 Mac Studio를 대체하는 것이었고, 애플의 아집과 떨어지는 품질에 지침, HP는 훨씬 작고 ECC 램 및 10G 이더넷 지원이 장점임, 가격은 상당히 더 비쌈
- 애플 신뢰도가 예전만 못한 건 동의하지만, 반대편이 더 나아 보인다고 확신할 수는 없음, 앞으로 어떻게 되는지 궁금함, 이제 MLX 프로젝트를 CUDA에서 바로 돌릴 수 있음
- ECC 램에 혹해서 HP를 다시 봄, 외형도 괜찮아 보임
- 해당 기기에서 리눅스 동작 여부 및 호환성이 궁금함
- 몇 주 전 Framework Desktop을 살펴봤음, 주로 노트북의 내장 GPU보다 더 나은 게임 성능을 원했음, 최신 게임보단 고전 게임을 챙기는 성향임, 내 결론은 기기가 매우 괜찮기는 하나 가격이 꽤 높아 경제적으론 별로라는 것임, 직접 조립하면 더 좋은 성능을 더 싸게 맞출 수 있음, 기사에선 9950X가 Max 395보다 낮게 점수나왔다는 얘기가 있는데, 실제로는 55W 노트북 칩과 170W 데스크탑 칩 차이를 생각하면 다르게 봐야 할 것 같음, 리눅스 호환성 이슈도 있음(예, 일부 ASUS 보드의 MediaTek WiFi/Bluetooth 칩은 리눅스 드라이버 미지원), 전체 부품 선택도 시간 소요가 큼, Nirav의 “Framework Desktop 그냥 사면 쉽다”라는 조언에 공감함, 결국 USB4/Thunderbolt eGPU로 게임 성능을 확보했음, 이미 노트북이 성능 충분해 추가 PC까지 필요하지 않았음, LLM 작업엔 관심 없어 별도 조사하지 않았음
- AMD GPU가 생성형 AI 워크플로우와 호환성 좋은지 궁금함, 모든 게 CUDA 위주로 돌아간다는 인식임
- CUDA 코드가 AMD GPU에서 돌아가게 해주는 SCALE 프로젝트가 있음, Nvidia CUDA의 드롭인 대체제로서 개발 중이며, 개인 및 교육 목적으론 무료임, SCALE 공식 문서에서 확인 가능, 아직 cuDNN과 CUDA Graph API 등 중요한 기능은 구현 중이지만 점점 지원 범위가 넓어지는 중임, 지원 현황 참고, SCALE 개발자인 본인이 직접 소개함
- Ollama와 Stable Diffusion 기반 환경은 AMD 카드에서 문제없이 동작함, 학습이 아니라 추론용이라면 점점 더 호환성 좋아지는 걸 체감 중임
- llama.cpp와 Mesa의 Vulkan 지원 조합으로 AMD GPU에서도 정말 잘 동작함, 다양한 워크로드를 어려움 없이 돌려봄
- 실제 LLM 기반 생성형 AI 워크플로우에서 AMD Max+395 통합메모리 칩은 Mac Studio나 MacBook Pro와 견줄 만한 성능과 속도 보임(참고로 Apple 상위 칩은 546GB/s, AMD는 약 256GB/s 대역폭임), 추론에서는 둘 다 충분히 잘 동작함, 그 외 모든 용도는 CUDA 생태계가 좀 더 신뢰감 있음
- 나 역시 비슷한 인식임, 학습을 하려면 무조건 CUDA GPU 필요하고, 추론용으론 AMD와 Apple M 칩도 점점 좋아지는 추세임