2P by xguru 2달전 | favorite | 댓글 1개
  • GTC 2022에서 차세대 Hopper™ 아키텍처 와 그 기반의 H100을 발표.
    → Grace Hopper의 이름을 따서 명명. Ampere 아키텍처를 계승
  • 대규모 AI와 HPC를 가속하는 6개의 기술 혁신
    • TSMC 4나노 공정으로 800억개의 트랜지스터를 집적. PCIe Gen5 지원 및 HBM3 메모리를 활용한 최초의 GPU(3TB/s 메모리 대역폭)
    • 새로운 Transformer 엔진으로 이전 세대보다 6배 가속
    • 2세대 보안 Multi-Instance GPU - MIG 기술로 한개의 GPU를 더 작은 조각으로 파티셔닝해서 격리된 작업 수행 가능. 호퍼 아키텍처로 기존세대보다 MIG를 7배 더 향상
    • 최초의 Confidential Computing 가속기로 처리중 AI 모델과 고객 데이터를 보호
    • 4세대 NVIDIA NVLink - 최대 256개까지의 H100 GPU를 9배 더 높은 대역폭으로 연결(기존 NVIDIA HDR Quantum InfiniBand 대비)
    • 새로운 DPX 명령어로 알고리듬/경로최적화/유전체학에 사용되는 "동적 프로그래밍"을 가속. 이전 세대 GPU보다 7배, CPU보다는 40배 빠르게.
  • 언어 모델인 Megatron 530B를 이전 세대보다 최대 30배 많은 처리량으로 지원
xguru 2달전  [-]

MS와 Nvidia가 세계 최대규모 언어 모델 MT-NLG 530B를 발표

답변달기