Show GN: Hodu: Rust로 개발된 사용자 친화적 ML 툴킷

프로토타이핑부터 배포까지, 메모리 안전성과 제로코스트 추상화를 갖춘 사용하기 쉬운 머신러닝 툴킷입니다.

현재 1인 개발로 진행 중인 프로젝트입니다. 아직 개발 초기 단계이지만, 핵심 기능들이 어느 정도 안정화되어 공유드리게 되었습니다. 피드백이나 의견 주시면 감사하겠습니다.

Hodu가 제공하는 것:

• hodu-lib: Rust의 소유권 시스템과 제로코스트 추상화를 통해 메모리 안전한 텐서 연산과 모델 구축을 제공하는 핵심 ML 라이브러리. CPU, CUDA, Metal 등 다양한 백엔드 지원
• hodu-cli: 모델 추론, 포맷 변환, 네이티브 라이브러리로의 AOT 컴파일을 지원하는 커맨드라인 도구. 플러그인 관리 기능 내장
• hodu-plugin-sdk: JSON-RPC를 통해 커스텀 플러그인을 만들 수 있는 SDK. 새로운 모델 포맷(ONNX, TensorFlow), 텐서 포맷(NumPy, SafeTensors), 실행 백엔드 추가 가능