딥러닝을 위해 어떤 GPU를 골라야 할까?
(timdettmers.com)- GPU는 어떻게 동작하는가 ?
- 딥러닝 처리속도를 위해 가장 중요한 GPU스펙
- 텐서 코어
- 메모리 대역폭
- L2 캐시 / 공유 메모리 / L1 캐시 / 레지스터
- Ada / Hopper 딥러닝 성능 추정
- RTX40 / RTX30 시리즈의 장점 및 문제점
- GPU들의 Raw한 성능 순위
- GPU 딥러닝 퍼포먼스 per 달러
- GPU 추천 (추천 차트로 보기)
- 현재것을 스킵하고 차세대를 구매한다면? GPU의 미래
- Q&A
- PCIe 4.0 / PCIe 5.0이 필요한가 ?
- 8x/16x PCIe 레인이 필요한가 ?
- RTX 4090 / 3090이 3개의 PCIe 슬롯을 차지한다면 어떻게 4개를 꼽을수 있을까 ?
- 4개의 RTX 4090 / 3090 를 어떻게 냉각할까 ?
- 서로 다른 GPU 타입들 여러개를 사용가능한가 ?
- NVLink는 뭐고, 유용한가 ?
- 추천하는 가장 싼 GPU만큼도 돈이 없다면 뭘 추천할 것인가 ?
- GPU의 탄소배출량은 얼마인가? 환경을 해치지 않고 GPU를 사용하려면 ?
- 두대의 머신을 병렬화 하려면 뭐가 필요한가?
- 멀티 GPU 셋업을 위해서 인텔 CPU가 필요한가 ?
- 냉각하는데 케이스 디자인이 상관있나 ?
- AMD GPU + ROCm 이 NVIDIA GPUs + CUDA를 따라 잡을수 있을까 ?
- 어떨때 클라우드 또는 전용 데스크탑/서버를 사용하는 것이 좋은가
sd로 벤치마크 하고 결과 수집해주는 사이트인데 3090과 4090의 차이가 좀 있네요.