14P by xguru 10달전 | favorite | 댓글과 토론
  • 모든 프레임워크를 위한 오픈소스 API
  • 모델을 메타데이터와 함께 하나의 Zip 파일로 압축한 뒤, 해당 파일을 로딩
  • 추론 코드는 프레임워크와 무관하게 동작 가능. Carton API를 호출하면 Carton이 프레임워크 내부를 호출
  • Rust 로 구현되고, 각 언어용 바인딩을 제공
  • x86_64 Linux 와 macOS, aarch64 Linux 와 macOS, WebAssembly 지원
  • 모델을 변환하는 ONNX와 달리 Carton 은 변환하지 않고 Wrapping 만 함