# AMD는 어떻게 CUDA 해자를 넘을 수 있을까

> Clean Markdown view of GeekNews topic #11220. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=11220](https://news.hada.io/topic?id=11220)
- GeekNews Markdown: [https://news.hada.io/topic/11220.md](https://news.hada.io/topic/11220.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2023-10-07T11:34:57+09:00
- Updated: 2023-10-07T11:34:57+09:00
- Original source: [hpcwire.com](https://www.hpcwire.com/2023/10/05/how-amd-may-get-across-the-cuda-moat/)
- Points: 6
- Comments: 8

## Topic Body

- Nvidia는 CUDA와 cuDNN 같은 소프트웨어 도구와 최적화된 라이브러리 덕분에 GenAI 분야에서의 우위를 가지고 있음  
  - 하드웨어 주변에 강력한 소프트웨어 "해자(Moat)"를 구축해 HPC와 GenAI 시장에서 다른 회사들이 경쟁하는 것을 어렵게 만듦  
- GenAI 컴퓨팅 자원에 대한 수요 증가로 인해 GPU가 더 필요해지고 있음. 이로 인해 공급-수요 격차가 발생하고, AMD와 같은 회사들이 이를 채우려고 함  
- Nvidia와 경쟁하기 위해, 다른 제조사의 GPU와 가속기는 CUDA를 지원해야 함. AMD는 이를 HIP CUDA 변환 도구를 통해 가능하게 함  
- PyTorch 오픈소스 머신러닝 라이브러리는 GPU를 이용한 AI 애플리케이션을 만드는데 TensorFlow의 대안으로 인기를 얻고 있음.  
- PyTorch는 사용자를 기본 GPU 아키텍처로부터 격리시켜 AMD GPU가 CUDA 해자를 넘기는 것을 용이하게 함  
- Nvidia의 다가오는 72코어 ARM 기반 Grace-Hopper 슈퍼칩은 HPC와 GenAI에서의 잠재적 성능으로 많은 기대를 받고 있음  
- AMD는 다가오는 Instinct MI300A 프로세서로 Nvidia의 Grace-Hopper 슈퍼칩과 경쟁할 예정이며, 이 프로세서는 Lawrence Livermore National Laboratory의 다가오는 El Capitan을 구동할 것임  
- AMD CEO Lisa Su는 그들의 아키텍처 선택으로 인해 추론 솔루션의 산업 리더가 되려는 목표를 밝혔음  
- AMD 와 다른 하드웨어 벤더들에게 PyTorch는 CUDA 해자에 도개교(Drawbridge)를 놔줬음  
- GenAI 시장에서의 하드웨어 전투는 성능, 이식성, 그리고 가용성(performance, portability, and availability)에 의해 결정될 것

## Comments



### Comment 19747

- Author: slemma999
- Created: 2023-10-08T20:41:13+09:00
- Points: 1

좋은 기사 항상 잘 보고 있고 감사합니다 근데, 한가지 좀  개인적의견을 드리자면 , 한글화도 아니고 무슨 한자어로 변환하여 말이 어색하고 어렵습니다. 도개교라든지 해자라든지 이런 말은 영어 그대로 쓰거나 쉬운 한국말로 풀어주시면 좋겠어요

### Comment 19750

- Author: monovision
- Created: 2023-10-09T09:14:04+09:00
- Points: 1
- Parent comment: 19747
- Depth: 1

해자는 많이 쓰이는 말이고, 도개교가 흔하게 쓰는 말은 아니지만 사전등을 찾아보면 딱 알맞게 번역된 용어인 것 같습니다.  
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90

### Comment 19763

- Author: slemma999
- Created: 2023-10-09T19:09:45+09:00
- Points: 1
- Parent comment: 19750
- Depth: 2

경제쪽에서도 쓴다고는 알고있고 ai기술이 복잡해 짐에 따라 이걸 쓰는 건 알겠는데 용법이 틀리게 쓰는 거 같아요. 예를들어 기본 cpu아키텍처로부터 격리시켜 amd의 gpu가 cuda 해자를 넘기는 것을 용이하게한다는 건 뭔가 기술적으로 간단하게 해결되는 것 처럼 잘못 썼어요. 국문으로 해자를 넘어설 기술력이 있다는 표현이 더 어울리며 이 문장은 마치 무슨 라이브러리 하나가 뭘 해결할 수 있는 것처럼 써놔서 상당히 어색합니다. 해자가 그런 단어였나 싶을 정도로요

### Comment 19796

- Author: newtype
- Created: 2023-10-11T03:43:30+09:00
- Points: 2
- Parent comment: 19763
- Depth: 3

해자는 대체가 딱히 안 되기도 하고 굳이 대체를 할 필요도 없는 너무도 적절한 단어인데요... 본인은 방금 사전으로 처음 접해서 낯설겠지만 다른 독자들이 모두 본인과 비슷한 어휘 수준을 가지고 있지는 않아요. 무지를 무기로 휘두르지 맙시다.

### Comment 19797

- Author: botplaysdice
- Created: 2023-10-11T06:49:58+09:00
- Points: 1
- Parent comment: 19796
- Depth: 4

뜨끔하네요. 하지만, 무지가 부끄러움이 되는 커뮤니티가 되지 않았으면 좋겠군요.

### Comment 19748

- Author: fortune
- Created: 2023-10-09T03:19:01+09:00
- Points: 1
- Parent comment: 19747
- Depth: 1

맞습니다 저도 종종 자동 번역에서 어색한 부분을 느낄 때가 있어요.  
  
다만 ’해자‘는 이런 경우에 우리나라에서도 잘 쓰이는 표현입니다. 뉴스 검색에 ‘해자’ 검색해보시면 많은 결과를 확인할 수 있어요.

### Comment 19746

- Author: cosine20
- Created: 2023-10-08T20:17:36+09:00
- Points: 1

AMD가 CUDA의 대항마로서 참여했던게 OpenCL이었던걸로 아는데 여기서 언급이 없는걸보니 그간 그렇게 인공지능 쪽 라이브러리와의 연계가 있진 않았나보네요.

### Comment 19725

- Author: neo
- Created: 2023-10-07T11:34:57+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=37793635) 
- 사용자는 ROCm을 Pytorch와 함께 사용하여 CPU에 비해 200배 성능 향상을 보았다.
- AMD 설정의 복잡성 때문에 사용자는 공식 ROCm Pytorch 기본 도커 이미지 사용을 권장한다.
- 사용자는 Nvidia 카드를 가진 유일한 이유가 CUDA이지만, 더 많은 프로젝트가 중립적인 환경으로 이동하면 감사할 것이라고 말했다.
- 사용자는 Linux에서 Nvidia를 실행하는 것이 Windows Vista에서의 커널 충돌에 비해 즐겁지 않다고 느낀다.
- 사용자는 AMD와 다른 경쟁사들의 경쟁을 환영하며, 대형 내부 RAM을 가진 Apple Silicon SOC에도 관심이 있다.
- Pytorch는 다른 하드웨어를 허용하며, 사용자는 컴퓨팅 파워에 대한 실제 벤치마크를 보고 싶어한다.
- AMD가 Nvidia와의 과학 또는 ML 소프트웨어에서 격차를 줄이는 것에 대한 실증적 증거는 제한적이다.
- CUDA는 Nvidia가 생태계를 지원하는 노력의 결과물이며, Nvidia를 구매할 때, 그들이 생태계에 투자한 노력도 함께 구매하는 것이다.
- AMD는 하드웨어를 가지고 있지만, bliss와 AOCL 외의 HPC에 대한 지원이 부족하다.
- 사용자는 AMD가 Nvidia의 PTX처럼 전방 장치 호환성에 대한 해결책을 가지고 있는지 의문을 제기한다.
- Nvidia의 우위는 오픈소스 커뮤니티, 대기업, 연구소들이 노력한 수년간의 작업이다.
- 사용자는 AMD가 따라잡으면 취미용이나 부트스트랩 스타트업을 위한 가격이 낮아질지, 아니면 AMD도 Nvidia처럼 가격을 올릴지 의문을 제기한다.
- AMD의 소프트웨어 솔루션은 어떤 하드웨어에서도 실행되도록 설계되었으며, hip이 cuda와 줄 단위로 호환되므로 이식이 매우 쉽다.