# Ollama, Tool 호출 지원

> Clean Markdown view of GeekNews topic #16393. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=16393](https://news.hada.io/topic?id=16393)
- GeekNews Markdown: [https://news.hada.io/topic/16393.md](https://news.hada.io/topic/16393.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2024-08-21T09:44:01+09:00
- Updated: 2024-08-21T09:44:01+09:00
- Original source: [ollama.com](https://ollama.com/blog/tool-support)
- Points: 6
- Comments: 1

## Summary

Ollama는 Llama 3.1과 같은 모델에서 툴 호출을 지원하여 더 복잡한 작업 수행과 외부 세계와의 상호작용이 가능해졌습니다. 다양한 툴을 사용하여 함수 및 API 호출, 웹브라우징, 코드 인터프리터 등의 기능을 제공하며, OpenAI 호환 엔드포인트도 지원합니다. 향후 스트리밍 툴 호출과 툴 선택 기능이 추가될 예정으로, 더욱 효율적인 작업 처리가 기대됩니다.

## Topic Body

- Ollama는 이제 Llama 3.1과 같은 모델에서 툴 호출을 지원함  
- 모델이 자신이 알고 있는 툴을 사용해 주어진 프롬프트에 답할 수 있게 하여 더 복잡한 작업을 수행하거나 외부 세계와 상호작용할 수 있음   
  - Tool 들 : 함수 및 API, 웹브라우징, 코드 인터프리터   
- 툴 호출을 활성화하려면 Ollama API의 `tools` 필드를 통해 사용 가능한 툴 목록을 제공해야 하며,   
  지원되는 모델은 이제 `tool_calls` 응답으로 답변함. 툴 응답은 `tool` 역할의 메시지를 통해 제공될 수 있음  
- 지원되는 모델 : Llama 3.1, Mistral Nemo, Firefunction v2, Command-R +  
- Ollama의 OpenAI 호환 엔드포인트도 이제 툴을 지원하며, Llama 3.1 및 다른 모델로 전환하여 사용할 수 있음  
- 향후 개선 사항  
  - 스트리밍 툴 호출: 여러 툴이 반환될 때 더 빠르게 작업을 시작할 수 있도록 툴 호출 스트리밍 지원  
  - 툴 선택: 모델이 특정 툴을 사용하도록 강제 가능

## Comments



### Comment 28174

- Author: edunga1
- Created: 2024-08-21T10:12:36+09:00
- Points: 1

https://news.hada.io/topic?id=13436  
phidata와 같은 기능이군요? 이쪽은 docstring 잘 명세하면 됐는데, gpt가 아니면 tool 사용을 못하더라구요.