7P by xguru 2023-04-08 | favorite | 댓글 3개
  • 새로 공개한 논문에서 Nvidia 보다 더 빠르고 효율적이라고 밝혀
  • 현재 Nvidia가 AI 시장의 90%를 차지하고 있으나, 구글은 TPU를 2016년부터 자체 개발
  • 2020년부터 4000개 이상의 TPU를 사용해왔으며, 지난 50일간 PaLM 모델을 위해 사용
  • TPU v4는 NVidia A100 보다 1.21.7배 빠르고 전력은 1.31.9배 적게 사용
  • 하지만 NVidia의 최신 H100 과 비교한 것은 아님(MLPerf 3.0 벤치상 H100이 A100에 비해 4배의 성능)

공개한 것 아닙니다.

TPU v4 는 2021년에 이미 공개했고, 심지어 클라우드에서 퍼블릭 이용가능했어요. 1

이번 뉴스는 몇년 동안 운영하면서 종합한 회고논문으루공갸한거에요 ㅎ

H100비교에 대해서도 연내에 대응하는 걸 Deploy하겠다고 했고요.

아 약간 헷갈리는 뉴스였네요. ㅠ

ㅎㅎ 다른 뉴스 검색해보니 기사들이 새로 공개한 것 마냥 써놨네요 헷갈릴 먼합니다.

논문에는 거듭 retrospective 논문 이라고 (자기네 문화라네요) 언급하는데 말이죠.