- Tenstorrent가 RISC-V 아키텍처와 확장성을 갖춘 최첨단 Wormhole 고성능 AI 칩을 출시
- CEO이자 칩 전문가인 Jim Keller는 NVIDIA가 AI 열풍에 편승하는 방식을 비판해왔기에, 이번에 출시된 AI 솔루션은 최고 수준일 것으로 기대됨
Wormhole AI 칩의 특징
- 강력하면서도 비용 효율적이고 확장 가능한 솔루션을 제공하는 것이 목표
- PCIe 카드 형태로 제공되며, Wormhole n150과 Wormhole n300의 두 가지 구성으로 출시됨
- Wormhole n150은 72개의 Tensix 코어를 가진 단일 프로세서로 구성
- 각 Tensix 코어는 "다섯 개의 RISC-V 베이비 코어"를 포함하여 멀티 칩 개발과 확장성을 효과적으로 지원함
- 160W TDP에서 262 TFLOPS의 FP8 성능을 제공하며, 12GB GDDR6 메모리와 288GB/s 대역폭을 갖춤
- Wormhole n300은 프로세서 2개와 24GB GDDR6 메모리를 탑재하여 n150의 두 배 성능을 제공함
- Wormhole 프로세서는 필요에 따라 단일 유닛으로 작동하거나 개별적으로 활용될 수 있는 뛰어난 확장성을 제공함
- 이는 Jim Keller가 높이 평가하는 이더넷 상호 연결 방식 덕분에 가능함
Tenstorrent 워크스테이션
- Tenstorrent는 Wormhole 플랫폼 전용 워크스테이션인 TT-QuietBox와 TT-LoudBox도 공개함
- TT-QuietBox는 AMD EPYC 프로세서, 수랭식 냉각, 4개의 Wormhole n300 AI 카드(총 8개 프로세서)를 탑재함
- TT-LoudBox는 Intel Xeon 아키텍처와 고성능 사양을 제공하지만 수랭식 냉각은 지원하지 않음
가격 경쟁력
- Wormhole n150과 n300의 가격은 각각 $999와 $1,399로 경쟁사 제품 대비 매우 저렴함
- NVIDIA H100 AI GPU 등과 성능 차이는 크지만, 거의 10배 저렴한 가격을 고려하면 가성비가 뛰어남
- TT-LoudBox는 $6,000, TT-QuietBox는 $1,500에 판매됨
총평
- Tenstorrent의 새로운 제품들은 견고하며, 저예산으로 중저성능 AI 컴퓨팅 성능을 원하는 AI 스타트업이나 개인에게 유용할 것으로 보임