Whisper.cpp - OpenAI Whisper의 고성능 C/C++ 구현체
(github.com/ggerganov)- OpenAI Whisper ASR 모델을 일반 C/C++로 의존성 없이 구현
- 애플 실리콘 : Arm Neon 과 Accelerate 프레임워크로 최적화
- x86용 AVX, POWER용 VSX 명령셋 지원
- F16/F32 혼합 정밀도
- 적은 메모리 사용량
- 런타임시에 메모리 할당 없음
- CPU에서 실행
- 지원 플랫폼 : MacOS(인텔&ARM), iOS, Android, Linux/FreeBSD, WebAssembly, Windows(MSVC & MinGW), Raspberry Pi