Kompute - Vulkan 기반의 CUDA 대체제
(github.com/KomputeProject)- 다양한 그래픽 카드를 지원하는 Vulkan 기반의 범용 GPU 계산 프레임워크
- 초고속, 모바일 지원, 비동기식, 고급 GPU 데이터 처리 사용 사례에 최적화
- Linux 재단이 후원
- 최적화를 위한 C++ SDK가 포함된 유연한 Python 모듈 제공
- GPU 패밀리 대기열을 통한 비동기 및 병렬 처리 지원
- 여러 아키텍처에서 Android NDK를 통해 모바일 지원
- BYOV(Bring-your-own-Vulkan) 설계로 기존 Vulkan 어플리케이션과 잘 동작
- 90%의 단위 테스트 코드 커버리지를 갖춘 강력한 코드베이스
- Kompute 를 사용하는 프로젝트들
- GPT4ALL
- llama.cpp
- how-to-optimized-gemm
- vkJAX
아직까지 극고효율을 위한 하드웨어 디펜던시가 너무 강해서 범용이 가능할지 모르겠네요.
이미 파운드리 산업모델이 범용성을 제공하는거 아닌가 싶기도 하고..