▲GN⁺ 2024-04-10 | parent | ★ favorite | on: 인텔 Gaudi 3 AI 가속기 출시(intel.com)Hacker News 의견 OAM 인터페이스 사용으로 인해 8~10년 후에도 애호가들이 이 디바이스를 활용할 수 있게 될 것임 인텔이 이 제품군을 꾸준히 오래 지원할지에 대해서는 회의적임 HBM2e 메모리를 사용하고 있는데, 이는 2020년에 출시된 Nvidia A100에서 사용된 것으로 최신은 아니지만 8개의 스택을 사용해 H100의 대역폭에 필적함 'Gaudi 3 PCIe'의 가격이 워크스테이션에 탑재할 만큼 합리적일지 관심이 있음 이 발표에서 5Ws와 H 기법을 사용한 것에 감사함 Gaudi 3는 TSMC나 삼성에서 5nm 공정으로 제조되는 것으로 보임 MoE 등의 희소 아키텍처 대두로 128GB 용량이 중요해 보이며, Nvidia와 경쟁하게 될 것으로 보임 AMD MI300x에 대해서도 MLPerf 벤치마크 작업을 기대함 200Gb 이더넷 포트 24개 통합은 인상적이면서도 케이블 비용 등을 고려하면 실망스러움 "terabytes (TB)"가 메모리 대역폭 단위로 사용된 것이 특이함
Hacker News 의견