GN⁺: AMD는 어떻게 CUDA 해자를 넘을 수 있을까
(hpcwire.com)- Nvidia는 CUDA와 cuDNN 같은 소프트웨어 도구와 최적화된 라이브러리 덕분에 GenAI 분야에서의 우위를 가지고 있음
- 하드웨어 주변에 강력한 소프트웨어 "해자(Moat)"를 구축해 HPC와 GenAI 시장에서 다른 회사들이 경쟁하는 것을 어렵게 만듦
- GenAI 컴퓨팅 자원에 대한 수요 증가로 인해 GPU가 더 필요해지고 있음. 이로 인해 공급-수요 격차가 발생하고, AMD와 같은 회사들이 이를 채우려고 함
- Nvidia와 경쟁하기 위해, 다른 제조사의 GPU와 가속기는 CUDA를 지원해야 함. AMD는 이를 HIP CUDA 변환 도구를 통해 가능하게 함
- PyTorch 오픈소스 머신러닝 라이브러리는 GPU를 이용한 AI 애플리케이션을 만드는데 TensorFlow의 대안으로 인기를 얻고 있음.
- PyTorch는 사용자를 기본 GPU 아키텍처로부터 격리시켜 AMD GPU가 CUDA 해자를 넘기는 것을 용이하게 함
- Nvidia의 다가오는 72코어 ARM 기반 Grace-Hopper 슈퍼칩은 HPC와 GenAI에서의 잠재적 성능으로 많은 기대를 받고 있음
- AMD는 다가오는 Instinct MI300A 프로세서로 Nvidia의 Grace-Hopper 슈퍼칩과 경쟁할 예정이며, 이 프로세서는 Lawrence Livermore National Laboratory의 다가오는 El Capitan을 구동할 것임
- AMD CEO Lisa Su는 그들의 아키텍처 선택으로 인해 추론 솔루션의 산업 리더가 되려는 목표를 밝혔음
- AMD 와 다른 하드웨어 벤더들에게 PyTorch는 CUDA 해자에 도개교(Drawbridge)를 놔줬음
- GenAI 시장에서의 하드웨어 전투는 성능, 이식성, 그리고 가용성(performance, portability, and availability)에 의해 결정될 것
좋은 기사 항상 잘 보고 있고 감사합니다 근데, 한가지 좀 개인적의견을 드리자면 , 한글화도 아니고 무슨 한자어로 변환하여 말이 어색하고 어렵습니다. 도개교라든지 해자라든지 이런 말은 영어 그대로 쓰거나 쉬운 한국말로 풀어주시면 좋겠어요
해자는 많이 쓰이는 말이고, 도개교가 흔하게 쓰는 말은 아니지만 사전등을 찾아보면 딱 알맞게 번역된 용어인 것 같습니다.
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90
경제쪽에서도 쓴다고는 알고있고 ai기술이 복잡해 짐에 따라 이걸 쓰는 건 알겠는데 용법이 틀리게 쓰는 거 같아요. 예를들어 기본 cpu아키텍처로부터 격리시켜 amd의 gpu가 cuda 해자를 넘기는 것을 용이하게한다는 건 뭔가 기술적으로 간단하게 해결되는 것 처럼 잘못 썼어요. 국문으로 해자를 넘어설 기술력이 있다는 표현이 더 어울리며 이 문장은 마치 무슨 라이브러리 하나가 뭘 해결할 수 있는 것처럼 써놔서 상당히 어색합니다. 해자가 그런 단어였나 싶을 정도로요
해자는 대체가 딱히 안 되기도 하고 굳이 대체를 할 필요도 없는 너무도 적절한 단어인데요... 본인은 방금 사전으로 처음 접해서 낯설겠지만 다른 독자들이 모두 본인과 비슷한 어휘 수준을 가지고 있지는 않아요. 무지를 무기로 휘두르지 맙시다.
맞습니다 저도 종종 자동 번역에서 어색한 부분을 느낄 때가 있어요.
다만 ’해자‘는 이런 경우에 우리나라에서도 잘 쓰이는 표현입니다. 뉴스 검색에 ‘해자’ 검색해보시면 많은 결과를 확인할 수 있어요.
AMD가 CUDA의 대항마로서 참여했던게 OpenCL이었던걸로 아는데 여기서 언급이 없는걸보니 그간 그렇게 인공지능 쪽 라이브러리와의 연계가 있진 않았나보네요.
Hacker News 의견
- 사용자는 ROCm을 Pytorch와 함께 사용하여 CPU에 비해 200배 성능 향상을 보았다.
- AMD 설정의 복잡성 때문에 사용자는 공식 ROCm Pytorch 기본 도커 이미지 사용을 권장한다.
- 사용자는 Nvidia 카드를 가진 유일한 이유가 CUDA이지만, 더 많은 프로젝트가 중립적인 환경으로 이동하면 감사할 것이라고 말했다.
- 사용자는 Linux에서 Nvidia를 실행하는 것이 Windows Vista에서의 커널 충돌에 비해 즐겁지 않다고 느낀다.
- 사용자는 AMD와 다른 경쟁사들의 경쟁을 환영하며, 대형 내부 RAM을 가진 Apple Silicon SOC에도 관심이 있다.
- Pytorch는 다른 하드웨어를 허용하며, 사용자는 컴퓨팅 파워에 대한 실제 벤치마크를 보고 싶어한다.
- AMD가 Nvidia와의 과학 또는 ML 소프트웨어에서 격차를 줄이는 것에 대한 실증적 증거는 제한적이다.
- CUDA는 Nvidia가 생태계를 지원하는 노력의 결과물이며, Nvidia를 구매할 때, 그들이 생태계에 투자한 노력도 함께 구매하는 것이다.
- AMD는 하드웨어를 가지고 있지만, bliss와 AOCL 외의 HPC에 대한 지원이 부족하다.
- 사용자는 AMD가 Nvidia의 PTX처럼 전방 장치 호환성에 대한 해결책을 가지고 있는지 의문을 제기한다.
- Nvidia의 우위는 오픈소스 커뮤니티, 대기업, 연구소들이 노력한 수년간의 작업이다.
- 사용자는 AMD가 따라잡으면 취미용이나 부트스트랩 스타트업을 위한 가격이 낮아질지, 아니면 AMD도 Nvidia처럼 가격을 올릴지 의문을 제기한다.
- AMD의 소프트웨어 솔루션은 어떤 하드웨어에서도 실행되도록 설계되었으며, hip이 cuda와 줄 단위로 호환되므로 이식이 매우 쉽다.