Apple M3 Ultra 출시

 (apple.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Apple이 Mac용 최상위 칩 M3 Ultra를 공개하며 Mac Studio를 대형 AI·그래픽·영상 작업용 워크스테이션으로 더 밀어 올림
  • 핵심 사양은 32코어 CPU, 최대 80코어 GPU, 32코어 Neural Engine, Thunderbolt 5, 최대 512GB 통합 메모리로 구성됨
  • 이전 세대 Mac Studio 기준으로 CPU는 M2 Ultra 대비 최대 1.5배, GPU는 M2 Ultra 대비 최대 2배 빠르다고 제시됨
  • UltraFusion은 두 개의 M3 Max 다이를 10,000개 이상의 고속 연결로 묶어 소프트웨어에는 단일 칩처럼 보이게 함
  • 800GB/s 초과 메모리 대역폭과 최대 512GB 메모리 덕분에 3D 렌더링, 시각 효과, AI, 6000억 개 초과 파라미터 LLM 온디바이스 실행을 겨냥함

M3 Ultra의 역할과 기본 사양

  • Apple은 M3 Ultra를 지금까지 만든 칩 중 최고 성능 칩으로 공개함
  • Mac에서 가장 강력한 CPU와 GPU, 32코어 Neural Engine, 개인용 컴퓨터에서 가장 많은 통합 메모리를 제공하는 칩으로 배치됨
  • 주요 구성은 다음과 같음
    • 최대 32코어 CPU
    • 최대 80코어 GPU

    • 32코어 Neural Engine

    • Thunderbolt 5

      • 최대 512GB 통합 메모리
      • M3 Ultra는 새 Mac Studio의 성능을 끌어올리는 칩으로 사용됨

성능과 AI 워크로드

  • CPU는 24개 성능 코어와 8개 효율 코어로 구성되며, M2 Ultra 대비 최대 1.5배, M1 Ultra 대비 최대 1.8배 성능을 제공함
  • GPU는 Apple 칩 중 가장 큰 구성으로, 최대 80개 그래픽 코어를 갖고 M2 Ultra 대비 최대 2배, M1 Ultra 대비 최대 2.6배 빠름
  • 성능 비교 기준은 이전 세대 Mac Studio 시스템임
    • M1 Ultra: 20코어 CPU, 64코어 GPU, 128GB RAM
    • M2 Ultra: 24코어 CPU, 76코어 GPU, 192GB RAM
  • 그래픽 아키텍처에는 동적 캐싱, 하드웨어 가속 메시 셰이딩, 레이 트레이싱이 포함됨
  • AI와 머신러닝 작업에는 CPU의 ML 가속기, GPU, Neural Engine, 800GB/s 초과 메모리 대역폭이 함께 활용됨
  • M3 Ultra 탑재 Mac Studio는 6000억 개 초과 파라미터의 대형 언어 모델을 기기에서 직접 실행할 수 있음

통합 메모리와 대용량 작업

  • M3 Ultra의 통합 메모리 아키텍처는 높은 대역폭과 낮은 지연시간을 앞세움
  • 메모리는 96GB부터 시작해 최대 512GB까지 구성 가능함
  • Apple은 이 용량이 현재의 고급 워크스테이션 그래픽 카드에서 제공되는 메모리를 넘어선다고 밝힘
  • 대량의 그래픽 메모리를 요구하는 3D 렌더링, 시각 효과, AI 같은 프로 작업에서 병목을 줄이는 구성을 목표로 함

Thunderbolt 5와 확장성

  • M3 Ultra는 Mac Studio에 Thunderbolt 5를 도입해 최대 120Gb/s 데이터 전송 속도를 제공함
  • 대역폭은 Thunderbolt 4보다 두 배 이상 높음
  • 각 Thunderbolt 5 포트는 칩에 직접 위치한 자체 설계 컨트롤러의 지원을 받음
  • 포트별 전용 대역폭은 외장 스토리지, 도킹, 허브, 차세대 확장 섀시를 쓰는 프로 사용자를 겨냥함
  • Thunderbolt 5를 통해 여러 Mac Studio 시스템을 연결하는 구성도 가능함

칩 내부 기술

  • UltraFusion은 내장 실리콘 인터포저를 사용해 두 개의 M3 Max 다이를 10,000개 이상의 신호로 연결함
    • 저지연 다이 간 대역폭은 2.5TB/s 초과
    • 소프트웨어에는 M3 Ultra가 단일 칩처럼 보임
  • 미디어 엔진은 M3 Max의 2배 리소스를 갖고 더 많은 동시 비디오 처리를 지원함
    • 하드웨어 기반 H.264, HEVC, 네 개의 ProRes 인코드·디코드 엔진 제공
    • 최대 24개 8K ProRes 422 스트림 재생 가능
  • 디스플레이 엔진은 최대 8대의 Pro Display XDR을 지원하며, 1억6000만 픽셀 초과를 구동함
  • Secure Enclave는 하드웨어 검증 보안 부팅, 런타임 악용 방지 기술과 함께 동작함

전력 효율과 환경 목표

  • M3 Ultra의 전력 효율은 새 Mac Studio가 Apple의 에너지 효율 기준을 충족하는 데 기여함
  • 제품 수명 동안 소비되는 총 에너지량을 줄이는 데도 영향을 줌
  • Apple은 현재 전 세계 기업 운영에서 탄소 중립 상태이며, Apple 2030 목표에 따라 2030년 말까지 전체 탄소 발자국에서 탄소 중립을 달성할 계획임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 512GB 통합 메모리는 정말 새로운 영역을 여는 수준임
    Apple이 언제 메모리 제약을 넘을지 궁금했는데, 이제 통합 메모리가 0.5TB까지 올라옴. 대형 AI 모델을 로컬에서 돌리는 데 매우 실용적이고, NVIDIA식 해법과 비교해 이렇게 많은 고효율 메모리를 단일 칩에 통합한 접근이 흥미로움. 다만 M3 Max 두 개를 “붙인” 설계가 발열과 전력 소모에서 어떤 성능을 낼지는 궁금함

    • 메모리 대역폭은 늘지 않았고, M2 Studio에서도 가능한 수준의 대역폭임. 물론 1만 달러를 내면 512GB 통합 메모리를 얻을 수는 있음
      문제는 그 규모에서 대형 언어 모델이 쓸 만한 성능으로 도는지임. 충분한 통합 메모리가 있어도 메모리 대역폭이 같다면, 새 칩의 AI 처리 성능이 올라가도 수확 체감이 생김. 결국 처리 성능 대비 메모리 대역폭과 메모리 풀 크기 사이에 어떤 최적 비율이 있을 것 같음
    • 통합 메모리가 여기에 특별히 관련 있는지는 잘 모르겠음. 예를 들어 zen4/zen5 Epyc에서는 산술 성능이 충분해서 LLM 추론은 순전히 메모리 대역폭 병목이 됨
      듀얼 SP5 Epyc 쪽이 이 Apple 제품보다 메모리 대역폭도 더 클 것으로 보이고, Apple 가격대라면 RAM도 두 배쯤 넣을 수 있음. 아마 Apple 해법은 전력 효율이 더 좋을 것임
    • 이게 온칩 메모리인지 궁금함. 800GB/s라면 DDR5 모듈로 가는 512비트 버스, 즉 8채널에 더 가까워 보임. 쿼드 채널로도 거의 가능하긴 하겠지만 한계까지 밀어붙이는 셈이고, 그래도 괜찮은 구성임
      실용성 면에서는 이 정도 메모리와 괜찮지만 상대적으로 중간급 연산 성능의 조합으로 이득을 볼 주류 앱이 무엇인지 궁금함. 풀옵션 시스템이 14K달러인 가격대라면, 예컨대 NVIDIA Project DIGITS 두 대 정도를 더 선호할 수도 있지 않을까 함
    • RAM을 처리 칩과 같은 칩에 올리는 게 경제적인지 궁금함
      처리용으로는 가장 좋은 공정 노드를 아끼고, RAM에는 더 저렴한 공정을 쓰고 싶을 것 같았음

  • M4가 아니라 M3라니 놀라움. 기본적으로 선별 수율 활용일지 궁금하지만, M1 칩에서 이걸 가능하게 했던 인터포저가 더 이상 없다는 글을 어디선가 본 것 같음
    그래도 NPU가 접근 가능한 512GB 통합 RAM은 완전히 게임 체인저임. Apple이 내부 AI 작업을 위해 이 칩을 개발했고, 이제 다른 사람들도 쓰게 공개할 단계에 온 것 같음. 다만 이 하드웨어에는 정말 2U 랙 폼팩터가 필요함. 지금은 운영체제가 이 하드웨어의 발목을 잡고 있음

    • Apple이 Linux를 네이티브로, 특히 헤드리스로 지원하고 M4 Pro를 랙에 넣을 수 있다면 코로케이션 센터에서 바로 쓸 것임
      CPU는 속도와 메모리 대역폭 면에서 경쟁자가 거의 없음. 아직도 다른 회사가 경쟁 가능한 Arm 서버 칩을 못 만든 게 놀라움
    • 정말 운영체제가 발목을 잡고 있음. Apple이 예전 XServe OS 변종을 되살리지 않더라도, 최소한 Linux나 BSD 개발자와 협력해 이 하드웨어 스택에 맞는 서버 운영체제를 가져오면 좋겠음
      소비자용 운영체제는 개인 취향상 Windows보다 낫지만, 점점 불필요한 요소와 낡은 찌꺼기가 많아져 프로덕션 서버 워크로드에는 견디기 어려워지고 있음. 하위 하드웨어를 하이퍼바이저처럼 다뤄 여러 구성요소를 VM과 컨테이너에 붙이거나 공유할 수 있는 서버 OS가 있다면, 소규모 데이터센터나 엣지 환경에서 엄청난 가치가 있을 것임. 이 정도 RAM을 갖춘 온프레미스 NPU는 LAN의 여러 사용자가 공유하는 로컬 AI 가속에 큰 도움이 됨
    • “Apple 루머” 글을 쓰는 사람들을 좋아하고 존중하지만, 이건 늘 “CPU 설계 블로그 다섯 개 읽고 전문가가 됐다” 쪽에 가까웠음
      추측의 근거는 M3 Max 다이 사진에서 인터포저가 보이지 않는다는 것이었는데, 그건 M3 Ultra 구성에서 지원 가능했는지에 대해 사실상 아무것도 의미하지 않음. 오늘 발표가 그 증거임
    • Apple은 2U 랙 하드웨어를 만들고 Linux를 지원할 수도 있고, 헤드리스로 도는 Darwin 빌드를 제공할 수도 있음. 다만 후자의 경우 쓸 수 있는 소프트웨어가 많지 않을 것임
      그래도 사람들은 결국 포팅을 시작할 테고, 이미 MacPorts와 Homebrew가 있으니 해당 플랫폼에서도 돌도록 적응될 수 있음. 하지만 Apple은 그 시장에 관심이 없어 보이므로 아마 실현되지는 않을 듯함
    • 선별 수율이 궁금해서 Apple Max 칩들이 출하 구성에서 얼마나 많이 컷다운됐는지 정리해 봄
      M1 Max는 GPU 코어 24~32개, M2 Max는 30~38개, M3 Max는 30~40개, M4 Max는 32~40개였음. 발표일을 보면 M1 Max는 2021년 10월 18일, M1 Ultra는 2022년 3월 8일, M2 Max는 2023년 1월 17일, M2 Ultra는 2023년 6월 5일, M3 Max는 2023년 10월 30일, M3 Ultra는 2025년 3월 12일, M4 Max는 2024년 10월 30일임. M3 Max와 Ultra 공개 사이의 추가 지연을 보면, Apple이 내부 AI 작업을 위해 이 칩을 개발했다는 추측도 꽤 그럴듯함

  • 이전 M2 Ultra 모델의 최대 메모리는 192GB였고, Pro나 일부 M3 모델은 128GB였음. 그 정도도 전문 작업의 99.9%에는 충분하다고 봄
    그런데 이제 512GB로 올렸고, 512GB Mac Studio 가격도 9499달러라는 미친 수준임. 이건 거의 확실히 AI 골드러시 영향임

    • 전 세계 모든 AI 업체가 이게 합리적인 AI 경로가 될 만큼 연산 성능이 충분한지 따져보고 있을 것임. 답이 그렇다면 1만 달러는 절대적으로 싸다
    • LLM은 RAM을 쉽게 많이 쓰고, 이 시스템들은 같은 RAM 용량의 GPU 구성보다 훨씬, 훨씬 저렴함. 물론 더 느림
      예를 들어 Llama-3.1 405B의 4비트 양자화 모델은 잘 들어갈 것임
    • 관건은 성능임. DeepSeek와 Llama 405B가 더 큰 메모리의 필요성을 보여준 것 같음
      지금도 사람들은 이 정도 또는 더 많은 RAM을 넣은 Epyc 시스템을 훨씬 싼 비용으로 만들어 DeepSeek를 초당 약 6토큰으로 돌릴 수 있음. 다만 모두가 조립과 튜닝을 즐기는 것은 아니니, 귀찮은 일을 피하고 싶은 사람들에게는 시장이 있음. “AI 골드러시”를 나쁜 것처럼 말하지만, 꼭 그렇지는 않음
    • 그 RAM은 동시에 VRAM이기도 하므로, 0.5TB VRAM은 결코 싸지 않음. 비교하면 Apple이 오히려 꽤 저렴한 편임
    • 큰 질문은 1만 달러 가격에 이미 Trump의 중국 관세가 반영됐는지, 아니면 가격이 더 오를지임

  • 현재 Docker는 Metal GPU를 지원하지 않음
    Apple M3나 M4 칩에서 Docker로 LLM을 실행하면, Docker가 Nvidia와 Radeon GPU만 지원하기 때문에 칩 등급과 관계없이 CPU 모드로 동작함. Docker에서 LLM을 개발한다면 Nvidia나 Radeon GPU가 있는 Framework 노트북을 고려하는 편이 나음. 출처로, M3 Max에서 Docker 내부 LLM을 실행하는 AI 에이전트 프레임워크를 개발 중임: https://kdeps.com

  • 지금 Studio를 M3 Ultra로 업데이트했다면, M4 Ultra는 WWDC에서 바로 Mac Pro로 갈 수도 있겠음. 타이밍이 흥미롭고, Mac Pro 폼팩터도 바꿀지 모름
    또한 이건 매우 저수량 제품일 테니 N3B 공정이라는 점이 치명적이지는 않을 듯함. 동시에 이 칩들은 제조비가 매우 비쌀 테니, 고가 RAM 구성과 묶는 것도 어느 정도 말이 됨

    • 흥미롭게도 Apple이 프랑스 웹사이트에 M4에는 “Ultra”를 만들기 위한 인터커넥트가 없다고 확인해 준 듯함 [0][1]. 원래 생각과 달리 M4 Ultra는 안 나올 수도 있겠음
      이 보도는 조심해서 봐야겠지만, Apple에서 직접 나온 이야기라고 함. 그러면 M2 Mac Pro를 두고 무엇을 하려는지 더 수수께끼가 됨
      [0] https://www.numerama.com/tech/1919213-m4-max-et-m3-ultra-let...
      [1] Macrumors의 추가 맥락: https://www.macrumors.com/2025/03/05/apple-confirms-m4-max-l...
    • Apple은 모든 세대에 “Ultra” 변형이 나오지는 않을 것이라고 말함: https://arstechnica.com/apple/2025/03/apple-announces-m3-ult...
    • Apple은 Ultra 칩을 대체하기 위해 다중 SoC 시스템을 만드는 방법을 찾고 싶어 했던 것으로 이해함
      현재 방식은 Max 칩을 인터커넥트 중심으로 설계해야 함. 이론적으로 다중 SoC 구성은 두 칩을 넘어 더 넓은 제품군으로 확장될 수도 있음
    • 솔직히 올해 M4 Ultra는 아예 못 볼 것 같음. Studio에 M3 Ultra를 넣었다는 건 M4 Ultra가 너무 비싸거나 생산 역량이 부족하다는 뜻으로 보임
      어쨌든 M2 Mac Pro는 Apple이 고객에게 “이 PCIe 슬롯들로 뭔가 흥미로운 걸 할 수 있나요? 우리는 연결 확장 말고는 생각나는 게 없어서요”라고 묻는 제품 같았음. 업그레이드 가능한 GPU를 지원하도록 Apple Silicon을 재설계하지 않는 한 Mac Pro는 끝난 듯함
    • Mac Pro 폼팩터를 바꾸거나, 아니면 아예 없앨 것 같음. 현재 모델은 너무 반쪽짜리 설계고 Studio와 비교해 노골적으로 가성비가 나쁨
      PCIe 사용자들이 모든 것을 Thunderbolt로 옮길 때까지 버티게 하려는 막바지 제품처럼 느껴짐. 여러 대형 GPU를 수용하려던 설계를 재활용했지만 이제 GPU를 지원하지 않으니 냉각과 전원 공급의 대부분이 흔적으로만 남았음. 게다가 PCIe 확장도 조용히 하향됐고, Apple Silicon은 PCIe 레인이 많지 않아 슬롯들이 PCIe 스위치로 심하게 초과 구독되어 있음

  • AI 작업에서 512GB 통합 메모리는 정말 엄청남. 필요한 NVIDIA GPU 수와 비교하면 가격도 거의 합리적으로 보임

    • 서버에서 512GB의 고대역폭 GPU 주소 지정 가능 RAM을 얻으려면 아마 6자리 달러 비용이 들 것임. 메모리가 제약이라면 이건 확실히 맞는 서버임
      NPU와 GPU 코어가 그 RAM에 접근해야 하고 성능도 합리적이어야 한다는 뜻이었음
    • 어차피 다른 API를 쓰려고 AI 워크플로 전체를 바꿀 거라면 AMD Instinct 가속 카드가 더 말이 될 것 같음
      비싸긴 하지만 훨씬 빠르고, 코드를 macOS에서 돌아가게 맞추는 일을 겪지 않아도 됨
    • 풀옵션 Mac Studio는 14K달러임

  • AI 모델을 돌리려고 최대 메모리인 512GB가 필요하고, 모델 가중치를 보관할 외장 드라이브를 꽂아도 괜찮다면 1만 달러 조금 안 되는 가격에 살 수 있음. 꿈의 머신임
    NVIDIA Project DIGITS는 3천 달러에 “곧” 나온다고 되어 있는데, 같은 128GB와 4TB 사양의 Mac은 약 4700달러에 살 수 있고 실제로 일주일 안에 받을 수 있으며 macOS가 돈다는 차이가 있음. 성능 차이는 모르겠음. 누군가 이걸로 전체 DeepSeek 모델을 테스트하는 모습을 빨리 보고 싶고, 어쩌면 완전히 소유하고 마음대로 쓸 수 있는 첫 작은 개인 AI 장치가 될 수도 있겠음

    • 이 가격대라면 교체 가능한 PC 부품을 원한다는 논리도 있음. 하지만 Apple은 보통 PC에 대해 다년간의 내구성을 제공함
      Apple AI 벽돌이라면 꽤 오래 갈 것임
    • 전체 DeepSeek R1 모델은 512GB보다 더 많은 메모리가 필요함. 모델만 720GB임
      이 장치에서는 양자화 버전은 돌릴 수 있지만 전체 모델은 불가능함
    • 819GB/s 대역폭으로는 전체 DeepSeek 모델 경험이 끔찍할 것임

  • Thunderbolt 5는 꽤 유용함. 아주 얇고 가벼운 노트북을 쓰다가 필요하면 TB 5로 외장 GPU나 eGPU에 접근할 수 있음 [1]
    이제 가벼운 노트북이라는 장점과 강력한 GPU라는 장점을 동시에 얻을 수 있음
    [1] Asus가 세계 최초 Thunderbolt 5 eGPU를 발표함:
    https://www.theverge.com/24336135/asus-thunderbolt-5-externa...

    • 문제는 macOS에 묶여 있어서 NVIDIA, AMD, Intel GPU용 드라이버가 없다는 것임
    • Apple Silicon은 eGPU와 동작하지 않음
    • eGPU는 macOS에서 문제가 아주 많았음. 몇 년 써봤고, Silicon에서는 아마 더 나쁠 것임
      대신 Sonoma에 추가된 꽤 새로운 고성능 화면 공유 모드는 정말 훌륭함. MacBook으로 Mac Studio에 연결하면 그 모드를 선택하고 디스플레이 설정을 동적 해상도로 바꿀 수 있음. 그러면 “씬 클라이언트”가 16:10 MacBook 화면 전체를 전체화면으로 쓰고, 실제 게임에서도 60fps 저지연 성능을 얻고, 오디오도 전송되어 회의 참석도 가능하며, 호스트 Mac Studio 화면은 꺼짐. VNC로는 불가능했던 것들이고, RDP도 훨씬 낫지만 이 새 고성능 화면 공유는 더 강력함. 강력한 머신에 원격 접속하는 얇고 가벼운 노트북이야말로, 노트북에서 모든 걸 로컬로 돌리며 고생하는 것보다 더 나은 고이동성이라고 늘 생각해 왔음. 방화벽 설정만 조금 하면 LTE에서도 동작함

  • Apple이 Xserve를 다시 검토해야 할지도 모르겠음
    Apple에도 어떤 형태의 서버 인프라 팀은 있겠지만, 자체 하드웨어와 소프트웨어로 자체 서버 인프라를 만드는 일은 탐색해 볼 만함. 앱 생태계와 Apple 서버를 묶어 클라우드로 제공하거나 직접 구매 가능하게 하면 매우 흥미로운 서비스 사업이 될 수 있음. 특히 iPad에도 M 칩이 들어가는 지금, 하드웨어 성능을 감안하면 App Store에는 더 나은 앱이 필요함. 앱 생태계에 맞게 설계된 클라우드 기반 하드웨어·소프트웨어 서비스는 꽤 매력적임
    Apple에서는 하드웨어가 소프트웨어보다 빠르게 발전했음. 대부분의 기술 회사에서는 보통 소프트웨어를 하드웨어가 따라가지 못하는데, Apple은 반대인 셈임

  • Apple Silicon이 Linux 같은 운영체제를 네이티브 지원하는 날이 언제 올지 궁금함
    Apple은 M 시리즈 SoC에 대한 상세 기술 참조 문서를 공개하는 데 소극적인 듯하고, 그래서 Apple Silicon에서 Linux를 네이티브로 실행하기가 어렵게 됨

    • 아마 절대 안 될 것임. iPhone이나 iPad도 공식 Linux 지원이 없으니, Apple이 태도를 바꿀 거라고 기대하기는 어려움
    • https://asahilinux.org/
    • 그 점이 나도 이상함. macOS는 하드웨어와 함께 제공되므로 Apple이 macOS 판매를 잃는 것도 아님
      누군가 Linux를 돌리려고 Apple 하드웨어를 산다면 AAPL에 부정적 영향이 없을 텐데도 그렇음
    • Darwin을 실행하는 건 선택지가 아닌가? Linux가 Darwin에 비해 무엇을 더 제공하는지 궁금함
답변달기