11P by xguru 4달전 | favorite | 댓글 4개
  • Ollama 는 Llama 2, Mistral 등의 LLM을 로컬에서 실행하기 쉽게 만들어주는 오픈소스
  • 이제 윈도우 환경에서도 LLM을 가져와서 실행하고 생성할 수 있음
  • OpenAPI 호환되는 Ollama API와 하드웨어 가속도 되며, 전체 모델 라이브러리 접근 가능
    • NVIDIA GPU와 AVX/AVX2 등의 최신 CPU 명령셋을 이용

디펜더에서 바이러스로 인식하네요...

바이러스가 아니라 알수없는 실행 파일이라 그냥 경고를 띄우내요.