# NVIDIA, Hopper 아키텍처의 H100 GPU 발표

> Clean Markdown view of GeekNews topic #6215. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=6215](https://news.hada.io/topic?id=6215)
- GeekNews Markdown: [https://news.hada.io/topic/6215.md](https://news.hada.io/topic/6215.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2022-03-23T12:03:16+09:00
- Updated: 2022-03-23T12:03:16+09:00
- Original source: [nvidianews.nvidia.com](https://nvidianews.nvidia.com/news/nvidia-announces-hopper-architecture-the-next-generation-of-accelerated-computing)
- Points: 2
- Comments: 1

## Topic Body

- GTC 2022에서 차세대 Hopper™ 아키텍처 와 그 기반의 H100을 발표.  
→ Grace Hopper의 이름을 따서 명명. Ampere 아키텍처를 계승  
- 대규모 AI와 HPC를 가속하는 6개의 기술 혁신   
  - TSMC 4나노 공정으로 800억개의 트랜지스터를 집적. PCIe Gen5 지원 및 HBM3 메모리를 활용한 최초의 GPU(3TB/s 메모리 대역폭)  
  - 새로운 Transformer 엔진으로 이전 세대보다 6배 가속   
  - 2세대 보안 Multi-Instance GPU - MIG 기술로 한개의 GPU를 더 작은 조각으로 파티셔닝해서 격리된 작업 수행 가능. 호퍼 아키텍처로 기존세대보다 MIG를 7배 더 향상   
  - 최초의 Confidential Computing 가속기로 처리중 AI 모델과 고객 데이터를 보호   
  - 4세대 NVIDIA NVLink - 최대 256개까지의 H100 GPU를 9배 더 높은 대역폭으로 연결(기존 NVIDIA HDR Quantum InfiniBand 대비)  
  - 새로운 DPX 명령어로 알고리듬/경로최적화/유전체학에 사용되는 "동적 프로그래밍"을 가속. 이전 세대 GPU보다 7배, CPU보다는 40배 빠르게.  
- 언어 모델인 Megatron 530B를 이전 세대보다 최대 30배 많은 처리량으로 지원

## Comments



### Comment 9363

- Author: xguru
- Created: 2022-03-23T12:03:21+09:00
- Points: 1

[MS와 Nvidia가 세계 최대규모 언어 모델 MT-NLG 530B를 발표](https://news.hada.io/topic?id=5187)