# 딥러닝을 위해 어떤 GPU를 골라야 할까?

> Clean Markdown view of GeekNews topic #8303. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=8303](https://news.hada.io/topic?id=8303)
- GeekNews Markdown: [https://news.hada.io/topic/8303.md](https://news.hada.io/topic/8303.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-01-23T10:23:02+09:00
- Updated: 2023-01-23T10:23:02+09:00
- Original source: [timdettmers.com](https://timdettmers.com/2023/01/16/which-gpu-for-deep-learning/)
- Points: 10
- Comments: 3

## Topic Body

- GPU는 어떻게 동작하는가 ?  
- 딥러닝 처리속도를 위해 가장 중요한 GPU스펙   
  - 텐서 코어   
  - 메모리 대역폭   
  - L2 캐시 / 공유 메모리 / L1 캐시 / 레지스터   
- Ada / Hopper 딥러닝 성능 추정   
- RTX40 / RTX30 시리즈의 장점 및 문제점   
- GPU들의 Raw한 성능 순위   
- GPU 딥러닝 퍼포먼스 per 달러   
- GPU 추천 (추천 차트로 보기)  
  - 현재것을 스킵하고 차세대를 구매한다면? GPU의 미래   
- Q&A   
  - PCIe 4.0 / PCIe 5.0이 필요한가 ?  
  - 8x/16x PCIe 레인이 필요한가 ?  
  - RTX 4090 / 3090이 3개의 PCIe 슬롯을 차지한다면 어떻게 4개를 꼽을수 있을까 ?  
  - 4개의 RTX 4090 / 3090 를 어떻게 냉각할까 ?  
  - 서로 다른 GPU 타입들 여러개를 사용가능한가 ?  
  - NVLink는 뭐고, 유용한가 ?  
  - 추천하는 가장 싼 GPU만큼도 돈이 없다면 뭘 추천할 것인가 ?  
  - GPU의 탄소배출량은 얼마인가? 환경을 해치지 않고 GPU를 사용하려면 ?  
  - 두대의 머신을 병렬화 하려면 뭐가 필요한가?  
  - 멀티 GPU 셋업을 위해서 인텔 CPU가 필요한가 ?  
  - 냉각하는데 케이스 디자인이 상관있나 ?  
  - AMD GPU + ROCm 이 NVIDIA GPUs + CUDA를 따라 잡을수 있을까 ?  
  - 어떨때 클라우드 또는 전용 데스크탑/서버를 사용하는 것이 좋은가

## Comments



### Comment 14467

- Author: wedding
- Created: 2023-01-28T22:54:01+09:00
- Points: 1

sd로 벤치마크 하고 결과 수집해주는 사이트인데 3090과 4090의 차이가 좀 있네요.  
  
  
https://seesaawiki.jp/nai_ch/d/%a5%ed%a1%bc%a5%ab%a5%eb%c9%f4%a1%a1PC%a5%b9%a5%da%a5%c3%a5%af%c1%ea%c3%cc%bc%bc

### Comment 14403

- Author: hilft
- Created: 2023-01-24T01:14:15+09:00
- Points: 1

poorman's 4090

### Comment 14392

- Author: hellotohello
- Created: 2023-01-23T12:51:14+09:00
- Points: 1

4090 사서... 게임하자~