# AI 인프라 비용 딜레마의 현재와 미래

> Clean Markdown view of GeekNews topic #9136. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=9136](https://news.hada.io/topic?id=9136)
- GeekNews Markdown: [https://news.hada.io/topic/9136.md](https://news.hada.io/topic/9136.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-05-09T10:46:02+09:00
- Updated: 2023-05-09T10:46:02+09:00
- Original source: [brunch.co.kr/@delight412](https://brunch.co.kr/@delight412/570)
- Points: 7
- Comments: 0

## Topic Body

- AI 모델 계산 비용이 비싼 이유는 무엇인가?  
- GPU에 대한 시간 및 비용 논쟁  
- AI 인프라에 대한 고려 사항들  
  - 외부 인프라 대 자체 인프라  
  - 클라우드 대 데이터 센터 구축  
  - 클라우드 서비스 제공업체들 비교 : 가격, 가용성, 컴퓨팅 딜리버리 모델, 네트워크 상호 연결, 고객 지원   
  - GPU들 비교: 훈련 vs. 추론, 메모리 요구사항, 하드웨어 지원, 지연시간 요구사항, 급격한 변화(Spikiness)  
  - 모델 최적화 및 스케줄링   
- AI 인프라 비용은 어떻게 진화할까?  
- a16z의 "Navigating the High Cost of AI Compute" 글의 번역 & 요약 입니다.

## Comments



_No public comments on this page._