# guidance - LLM 제어를 위한 안내 언어

> Clean Markdown view of GeekNews topic #9201. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=9201](https://news.hada.io/topic?id=9201)
- GeekNews Markdown: [https://news.hada.io/topic/9201.md](https://news.hada.io/topic/9201.md)
- Type: news
- Author: [kuroneko](https://news.hada.io/@kuroneko)
- Published: 2023-05-17T15:37:56+09:00
- Updated: 2023-05-17T15:37:56+09:00
- Original source: [github.com/microsoft](https://github.com/microsoft/guidance)
- Points: 22
- Comments: 3

## Topic Body

- 기존 프롬프트보다 더 효과적으로 언어 모델을 제어할 수 있는 언어.  
- Handlebars 템플릿 기반으로 출력 구조와 방법을 지정하고, 논리적 흐름을 제어할 수 있음.  
- 프롬프트 내부에서 키/값 캐시를 사용하고, 원하는 부분만 추론하도록 하여 추론 성능 향상.  
- 단순한 출력 구조 제어를 넘어 JSON  등 유효한 구문 보장까지 가능.  
- HuggingFace 모델과 손쉬운 통합을 지원.

## Comments



### Comment 16125

- Author: kunggom
- Created: 2023-05-18T10:02:39+09:00
- Points: 1

얼핏 봐서는 [LMQL](https://news.hada.io/topic?id=9185)보다 더 유연하고 쓰기 쉬워 보이는 것 같은데, 실제로 써본 후기가 궁금하군요.

### Comment 16120

- Author: dnjstmxhs
- Created: 2023-05-17T16:33:22+09:00
- Points: 1

무척 유용하네요. nodejs 포팅버전 있으면 참 좋겠습니다.

### Comment 16117

- Author: kuroneko
- Created: 2023-05-17T15:41:20+09:00
- Points: 1

- [HN 스레드](https://news.ycombinator.com/item?id=35963936)  
  
저장소에 가면 예시들이 많은데, 예시만 봐도 상당히 흥미롭습니다.  
  
특히 구조화된 출력이 필요한 경우 LLM이 전체가 아니라 딱 내용 부분만 생성하게 해서  
추론 시간을 반으로 줄였다는 부분이 좋아 보이네요.