# Whisper로 비교한 Nvidia 4090과 M1/M2/M3 with MLX

> Clean Markdown view of GeekNews topic #12331. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=12331](https://news.hada.io/topic?id=12331)
- GeekNews Markdown: [https://news.hada.io/topic/12331.md](https://news.hada.io/topic/12331.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-12-14T10:56:01+09:00
- Updated: 2023-12-14T10:56:01+09:00
- Original source: [owehrens.com](https://owehrens.com/whisper-nvidia-rtx-4090-vs-m1pro-with-mlx/)
- Points: 14
- Comments: 1

## Topic Body

- 애플이 공개한 머신러닝 프레임워크 MLX의 성능 벤치마크  
- 10분짜리 오디오를 Whisper로 Transcribe   
  - M1 Pro(2021모델) + MLX + 32GB 램 : 216초   
  - I7 + 4090 + 64GB 램  : 186초   
    - 2000€ 짜리 GPU가 M1에 비해 30초(16%) 빠름   
  - M2 Ultra(76 GPU) : 95초  
  - M3 Max (40 GPU) : 100초   
- Nvidia에 최적화된 insanely-fast-whisper 를 사용하면 4090으로 8초만에 끝남   
  - 이 모델을 M1에서 돌리면 359초로 더 오래 걸림

## Comments



### Comment 21400

- Author: xguru
- Created: 2023-12-14T10:57:02+09:00
- Points: 2

[MLX - 애플 실리콘을 위한 Numpy와 비슷한 어레이 프레임워크](https://news.hada.io/topic?id=12217)