Ollama

Llama, Mistral, Gemma 등 오픈소스 LLM을 로컬에서 간편하게 실행할 수 있게 해주는 도구입니다. docker run처럼 ollama run 한 줄이면 모델이 돌아가고, API 서버까지 바로 뜨니 로컬 AI 개발의 진입 장벽을 확 낮춰줬죠. 클라우드에 보내지 않고 내 GPU 위에서 돌리는 AI에는 묘하게 다른 만족감이 있습니다.