Tanuki - LLM 기반의 앱을 쉽게 개발하기
(github.com/Tanuki)- 파이썬에서 함수 대신 LLM을 쉽게 호출하여, 손으로 구현한 함수에서 기대할 수 있는 것과 동일한 매개변수와 출력을 제공
- LLM기반 함수는 Well-Typed, Reliable, Stateless 하며 프로덕션 앱에 바로 추가 가능
- 함수를 많이 사용할 수록 자동 모델 증류(Distillation)을 통해서 최대 9~10배까지 저렴해짐
- RAG 및 Output Align 지원