GPU Marketplace
- GPU Deploy는 머신러닝과 AI를 위한 저렴한 온디맨드 GPU 서비스를 제공
- 머신러닝 작업을 위해 미리 구성되어 있어 즉시 GPU 인스턴스를 시작할 수 있음
제공되는 GPU 사양 및 가격
- Nvidia H100, A100, GeForce RTX 4090/3060, Quadro RTX 6000 등 다양한 GPU 모델 지원
- GPU RAM은 11GB에서 640GB까지 다양하게 제공됨
- CUDA 코어 수는 3584개에서 116736개까지 다양함
- vCPU는 16개에서 242개까지 선택 가능함
- 시간당 가격은 $0.06에서 $26.55까지 다양함 (판매세 제외, 실제 가격은 보통 더 저렴함)
유휴 GPU 활용 제안
- 유휴 GPU가 있다면 GPU Deploy를 통해 컴퓨팅 자원을 제공할 수 있음
- GPU 클러스터 운영자라면 유휴 컴퓨팅 자원 임대 가능
- AI 회사라면 유휴 컴퓨팅 자원 임대 가능
- 개인이 GPU를 보유하고 있어도 참여 가능
GN⁺의 의견
- 온디맨드 GPU 사용료는 매우 비싸기 때문에, 이 서비스를 활용하면 GPU가 필요할 때 저렴한 비용으로 사용할 수 있어 매력적임
- 하지만 장기적인 사용시에는 직접 GPU 서버를 구축하는 것이 훨씬 경제적일 수 있음
- 개인이나 중소기업이 GPU 자원을 활용할 수 있는 방안으로는 괜찮은 선택지가 될 수 있음
- 기업의 입장에서는 GPU 서버 구축 비용과 운영 비용 등을 고려하여 장단기적인 측면에서 도입을 검토해 볼만함
- 유사한 GPU 제공 서비스로는 AWS, GCP, MS Azure 등이 있으며, 각 서비스별로 제공되는 GPU 사양과 가격 정책 등을 면밀히 비교해 볼 필요가 있음
- 유휴 GPU 활용은 흥미로운 제안이지만, 보안이나 자원 관리 측면에서 우려되는 부분이 있을 수 있음