9P by xguru 6달전 | favorite | 댓글과 토론
  • LLM 함수는 몇 가지 정의된 입력 변수와 클래스, 열거형, 공용체, 선택적 문자열 등의 특정 출력 유형이 있는 프롬프트 템플릿임
  • BAML은 이 LLM 함수를 더 좋게/깔끔하게 작성하게 도와줌
    • 지저분한 프롬프트 템플릿을 실행 및 테스트하기 쉬운 Typed 함수로 작성 (정규식이나 Try-catch 루프, 타입 에러 없는)
  • Python 및 TypeScript 지원
  • 다양한 모델 지원 : Ollama, OpenAI, Anthropic
  • 실시간 프롬프트 프리뷰 : 루프/조건식이 있는 경우에도 전체 프롬프트 확인 가능
  • 원클릭으로 플레이그라운드에서 테스트 가능
  • Resilience & Fallback : LLM 호출에 재시도, 이중화 기능 추가
  • Type Validation 으로 Pydantic/Zod보다 일반적인 LLM 실수에 대해 Resilient 하게 만듦
  • Observability Platform : Boundary Studio로 함수 시각화 및 리퀘스트 리플레이 지원