3P by neo 2달전 | ★ favorite | 댓글 2개
  • Nvidia의 Project Digits 소개

    • CES 2025에서 Nvidia는 '개인 AI 슈퍼컴퓨터'인 Project Digits를 공개함
    • Grace Blackwell 하드웨어 플랫폼을 소형 폼 팩터로 제공함
    • Nvidia의 AI 소프트웨어 스택 전체를 실행할 수 있는 클라우드 컴퓨팅 플랫폼임
  • Project Digits의 기술적 특징

    • AI 연구자, 데이터 과학자, 학생을 위해 설계됨
    • GB10 Grace Blackwell Superchip을 탑재하여 최대 1페타플롭의 컴퓨팅 성능을 제공함
    • 최대 2000억 개의 파라미터를 가진 모델을 실행할 수 있음
    • MediaTek과 협력하여 개발된 Nvidia Blackwell GPU와 20코어 Nvidia Grace CPU로 구성됨
    • 128GB 메모리와 최대 4TB의 플래시 스토리지를 제공함
  • 확장성과 가격

    • 두 대의 Project Digits를 연결하여 최대 4050억 개의 파라미터 모델을 실행할 수 있음
    • 독립적인 경험을 제공하거나 Windows 또는 Mac PC에 연결 가능함
    • 가격은 $3,000부터 시작하며, 5월부터 '주요 파트너'를 통해 구매 가능함
  • 시장과 비전

    • Nvidia CEO Jensen Huang은 Project Digits가 수백만 명의 개발자에게 AI 슈퍼컴퓨터를 제공할 것이라고 언급함
    • 데이터 과학자, AI 연구자, 학생들이 AI 시대를 형성하는 데 기여할 수 있도록 지원함
  • 기타 정보

    • CES 2025에서 Nvidia의 발표와 관련된 추가 업데이트가 예정되어 있음
    • TechCrunch의 Kyle Wiggers가 이 기사를 작성함

주장하는 데로 성능도 잘나오고 유지보수도 잘해주면 좋겠네요

Hacker News 의견
  • Nvidia Jetson Nano는 출시 후 4년 만에 지원이 중단되어 무용지물이 되었음. Ubuntu 18.04 기반으로 출시되었으나, 이후 업데이트가 없어 Machine Learning 스택이 무용지물이 되었음. Nvidia의 SBC는 소프트웨어 지원이 Linux 커널에 통합되지 않는 한 구매하지 않을 것임

  • AI 및 LLM에 대한 관심이 높아지면서 Nvidia가 Apple의 AI 개발자 시장을 잠식할 가능성이 있음. Nvidia 주식을 보유하고 싶었음

  • DGX OS 6는 Ubuntu 22.04 기반으로 최신 하드웨어 및 보안 업데이트를 포함하고 있음. GPU Direct Storage를 지원하며, 모든 Nvidia GPU 드라이버와 CUDA 툴킷 버전에 접근 가능함

  • Nvidia의 가치는 클라우드 솔루션과 비교할 수 없으며, 특히 개인 데이터나 회사 기밀을 다루는 경우 데이터가 외부로 나가지 않는 것이 중요함

  • Nvidia는 Wintel보다 가격 대비 성능이 뛰어난 Linux 데스크톱 슈퍼컴퓨터를 출시했으며, 새로운 소프트웨어 스택은 WSL2에서만 실행됨

  • IBM Roadrunner는 최초로 1 페타플롭 성능을 달성한 슈퍼컴퓨터였으며, Nvidia의 Project Digits는 AI 모델 실행을 위한 1 페타플롭 성능을 제공함

  • 생물정보학 시장에서는 Illumina가 DRAGEN 하드웨어 칩을 사용하여 유전체 분석을 가속화하고 있으며, Oxford Nanopore는 GPU를 사용하지만 크기와 전력 제약으로 인해 성능이 제한적임

  • Nvidia는 Intel/AMD가 해야 할 일을 수행하여 CUDA 생태계를 위협할 수 있는 저렴한 128GB 로컬 추론 장치를 출시했음

  • 이 이미지는 AI로 생성된 것으로 보임

  • Nvidia의 새로운 제품은 단순한 주변기기가 아닌 Linux를 실행하는 완전한 컴퓨터임. 미래에는 모든 사람이 이러한 장치를 소유하게 될 가능성이 있음