Mistral, 온프레미스에서 실행 가능한 엔터프라이즈 AI 어시스턴트 ‘Le Chat’ 출시

 (mistral.ai)
1P by GN⁺ | ★ favorite | 댓글 1개
  • Mistral AI가 Mistral Medium 3 기반 Le Chat Enterprise를 공개하며, 기업 업무 전반에서 흩어진 도구와 지식 통합 문제를 단일 AI 플랫폼으로 묶으려 함
  • 새 엔터프라이즈 플랜은 엔터프라이즈 검색, 에이전트 빌더, 맞춤 커넥터, 문서 라이브러리, 맞춤 모델, 하이브리드 배포를 포함하며 기능은 향후 2주 동안 순차 제공됨
  • Google Drive, SharePoint, OneDrive, Google Calendar, Gmail 연결로 시작하고, 이후 자체 템플릿과 MCP 지원을 통해 더 많은 기업 시스템으로 확장할 예정임
  • 배포는 자체 호스팅, 퍼블릭·프라이빗 클라우드, Mistral 클라우드 호스팅 중 선택할 수 있으며, 엔터프라이즈 도구 연결에는 ACL 준수와 데이터 보호를 강조함
  • 현재 Google Cloud Marketplace에서 이용 가능하고 Azure AI와 AWS Marketplace에도 곧 제공될 예정이며, Le Chat Pro와 Team 플랜에도 개선이 추가됨

Le Chat Enterprise가 해결하려는 기업 AI 과제

  • Le Chat Enterprise는 새 Mistral Medium 3 모델로 구동되는 기업용 AI 어시스턴트임
  • Mistral AI는 기업 AI 도입의 장애물로 도구 분산, 안전하지 않은 지식 통합, 경직된 모델, 느린 ROI를 짚고, Le Chat Enterprise를 조직 업무용 통합 AI 플랫폼으로 내세움
  • 기술 사용자와 비기술 사용자 모두가 데이터 분석, 코드 작성, 콘텐츠 생성 같은 업무에서 여러 분야의 전문성을 활용할 수 있도록 설계됨

기능 구성과 출시 일정

  • Le Chat Enterprise는 기존 Le Chat 생산성 도구 기반 위에 다음 기능을 더함

    • 엔터프라이즈 검색

      • 에이전트 빌더
      • 맞춤 데이터 및 도구 커넥터
      • 문서 라이브러리
      • 맞춤 모델
      • 하이브리드 배포
      • 모든 기능은 향후 2주에 걸쳐 순차 출시됨
      • 개인과 성장 중인 팀을 위한 Le Chat Pro 및 Team 플랜에도 여러 개선이 추가됨

데이터 연결과 업무 자동화

  • 엔터프라이즈 검색은 Google Drive, SharePoint, OneDrive, Google Calendar, Gmail에서 시작해 기업 데이터를 Le Chat에 연결함
    • 더 많은 커넥터가 곧 추가될 예정이며, 자체 커넥터를 만들기 위한 템플릿도 포함됨
    • 외부 데이터 소스, 문서, 웹 콘텐츠를 지식 베이스로 구성해 더 관련성 높은 답변을 얻을 수 있음
    • Auto Summary로 파일을 빠르게 미리 보고 내용을 더 빨리 소비할 수 있음
  • 사용자는 업로드 파일과 Drive / SharePoint 문서를 포함해 자주 쓰는 문서를 개인 라이브러리로 유지하고, 중요한 정보를 인용·추출·분석할 수 있음
  • Le Chat은 곧 MCP 지원을 추가해 더 많은 엔터프라이즈 시스템과 연결할 수 있게 할 예정임
  • 맞춤 AI 에이전트는 앱과 라이브러리에 연결되어 반복 업무를 자동화하고, 팀 요구사항에 맞는 맞춤 어시스턴트를 노코드로 만들 수 있게 함

배포, 보안, 운영 제어

  • 배포 옵션은 자체 호스팅, 퍼블릭 또는 프라이빗 클라우드, Mistral 클라우드 호스팅 서비스로 제공됨
    • 엔터프라이즈 도구 연결은 엄격한 ACL 준수를 포함함
    • 인프라 선택의 독립성과 락인 없는 구성을 내세움
  • 모델, 플랫폼, 인터페이스 전반을 맞춤 설정할 수 있으며, 저장된 메모리로 어시스턴트를 개인화하거나 사용자 피드백 루프를 통해 지속적인 모델 자기 개선을 활성화할 수 있음
  • 구현은 조직의 보안 도메인 안에서 제어하며, 종합적인 감사 로그와 저장 기능을 제공함
  • Mistral AI는 배포, 솔루션 구성, 안전성 등에서 AI 엔지니어와 과학자의 실무 지원을 제공함

이용 가능 채널

  • Le Chat Enterprise는 현재 Google Cloud Marketplace에서 이용 가능하며, Azure AI와 AWS Marketplace에도 곧 제공될 예정임
  • Le Chat은 chat.mistral.ai, App Store, Play Store에서 신용카드 없이 시작할 수 있음

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 데이터 프라이버시가 많은 기업 사용자에게 실제로 중요한 문제라서, 이건 판도를 바꿀 만하다고 봄
    참고로 Mac의 Docker model runner 안에서도 Mistral을 로컬로 실행할 수 있음

    • Mac에서 Mistral 모델을 돌리는 방법은 이미 꽤 많고, 개인적으로는 Mistral Small 3.1을 아주 좋아함
      Ollama가 가장 쉽고, MLX로도 돌려봤음. Ollama 모델은 https://ollama.com/library/mistral-small3.1/tags에 있고 15GB짜리도 잘 동작함
      MLX는 https://huggingface.co/mlx-community/Mistral-Small-3.1-24B-I...와 https://huggingface.co/mlx-community/Mistral-Small-3.1-24B-I...가 될 것이고, 나는 8bit 모델을 이렇게 씀: llm install llm-mlx, llm mlx download-model mlx-community/Mistral-Small-3.1-Text-24B-Instruct-2503-8bit -a mistral-small-3.1, llm chat -m mistral-small-3.1
      Ollama 쪽은 이미지 입력도 지원함: llm install llm-ollama, ollama pull mistral-small3.1, llm -m mistral-small3.1 'describe this image' \ -a https://static.simonwillison.net/static/2025/Mpaboundrycdfw-1.png
      출력 예시는 https://gist.github.com/simonw/89005e8aa2daef82c53c2c2c62207...에 있음
    • 맞음. 회사에서도 이걸 실험 중이고, 데이터 기밀성 때문에 클라우드 플랫폼은 애초에 선택지가 아님
      온프레미스가 맞는 방향이고, Mistral이 미국 회사가 아니라는 점도 도움이 됨
      다만 Mac의 Docker model runner에서 돌릴 수 있는 건 오픈 가중치 모델뿐인 것 아닌가 싶음. 유용하고 잘 동작하긴 하지만, 상용 모델은 더 크고 아마 더 나을 것임. 무료 모델은 매일 쓰지만 상용 모델은 아직 안 써봄
    • 판도 변화라고 하기엔 조금 과한 표현 같음. 이미 시간과 의지만 있으면 누구나 엮어 쓸 수 있는 오픈소스 도구가 붐비는 영역에 새로 들어온 것에 가까움
      물론 커뮤니티 프로젝트보다 더 잘 실행하고, 접근하기 쉽고 기업 친화적으로 만들 가능성은 있음. 참고로 집 데스크톱에도 Ollama, Open WebUI, 그리고 직접 만든 작은 앱 몇 개로 여기 나열된 기능 대부분을 이미 구성해뒀음. 큰 모델은 당연히 못 돌리지만, 기업이라면 가능할 것임
      기존 도구보다 나아지려면 핵심은 통합을 제대로 잡는 것임. 주요 서드파티 기업 시스템들과 매끄럽게 붙일 수 있다면 강한 제품이 되겠지만, 그렇지 않으면 Open WebUI, LibreChat, 이미 있는 셀프호스팅 AI 에이전트 도구들보다 무엇을 더하는지 명확하지 않음
    • Mac의 Docker에서 LLM을 돌리는 건 사실 피해야 함. GPU 지원이 없어서 큰 모델은 토큰 하나를 내놓기라도 하면 다행일 정도로 매우 느릴 수 있음
    • RAM 24GB짜리 M4 Mac Mini에 이틀 전 Studio.LM을 설치했고, 10분 만에 Mistral NeMo를 띄웠음
      훌륭한 모델이고, 내 글을 어떻게 추가할지 알아봐야 함. 시작용 편지를 생성하게 만들고 싶음. 인상적인 모델임

  • Mistral은 과하게 기대받던 다른 EU AI 스타트업이나 집단들, 예를 들어 Stability, Eleuther, Aleph Alpha, Nyonic, 어쩌면 Black Forest Labs나 정부 지원 협업체들이 이루지 못한 것을 실제로 해낸 듯함
    그들 중 상당수는 Mistral보다 훨씬 먼저 존재했는데도 그랬음. 축하할 만하고, 훌륭한 작업임

    • Mistral은 범용 AI 컨설팅·솔루션 회사가 된 것처럼 느껴짐. 나쁜 사업이라는 뜻은 아니고, 특히 정부 계약이나 규제 등에서 “EU에서 만든” 포지셔닝이 도움이 될 수 있음
      이미 더 좋고 비용 효율적인 오픈소스 모델과 인프라로 비슷한 온프레미스 솔루션을 배포할 수 있음
      여기서 Mistral이 제공하는 건 그 배포를 대신 관리해주는 것이지만, 완전 오픈 스택으로 같은 일을 하는 다른 회사가 나오는 걸 막을 요소는 없음. 그런 회사들은 연구개발비를 낭비하지 않는 이점도 가질 수 있음
    • 왜 그렇게 됐는지 궁금함. 자금, 더 좋은 인재, 전략, 아니면 다른 요인일까?
    • 여기서 Mistral이 실제로 뭘 하고 있는지 모르겠음. Llama 모델은 오픈소스이고, Cohere도 온프레미스로 돌아감
    • 정확히 무엇을 달성했다는 건지 모르겠음

  • 이 발표는 새 비공개 모델 Mistral Medium 3와 함께 나온 것이고, 해당 모델은 https://news.ycombinator.com/item?id=43915995에서 논의 중임

  • 잘 이해가 안 됨. 로컬 서버와 흔히 연관되는 기능들을 말하다가 마지막에는 GCP에서 제공된다고 끝나는 것처럼 보임
    API 엔드포인트인지, 기업이 로컬에 배포하는 모델인지, 소프트웨어와 로컬 모델의 묶음인지 모르겠음
    기업식 시너지 표현이 너무 많아서 뭘 파는지 파악하기 어려움

    • Google Cloud Platform이 아니라 Google Cloud Marketplace를 말하는 것 같고, 목록은 아마 이것으로 보임: https://console.cloud.google.com/marketplace/product/mistral...
      거기에는 “Managed Services are fully hosted, managed and supported by the service providers. Although you register with the service provider to use the service, Google handles all billing.”라고 되어 있음
      추측하자면 Google Marketplace는 발견과 결제에 쓰고, Mistral은 호스팅 옵션이나 온프레미스 옵션을 제공하는 듯함. 그래도 명확하지 않다는 데는 동의함

  • Mistral을 응원하긴 하지만, 개인적으로는 다양한 모델 접근성이 핵심 앱이라고 봄
    어떤 때는 코딩을 하고 싶고, 어떤 때는 글을 쓰고 싶음. 모든 모델이 같지는 않음

    • 솔직히 하나의 범용 모델 접근이 이기고 있다고 봄. 아주 특정한 작업이 아니라면, 사람들은 어떤 모델이 무엇에 더 나은지 따지고 싶어 하지 않음
    • 나도 비슷함. LLM을 조금 더 쓰기 시작한 뒤 가장 큰 전환점은 Mistral, Anthropic, Gemini, OpenAI 등 여러 제공자에 대한 API 접근을 설정하고, 통합 클라이언트로 쓰는 것이었음
      보통 명령줄에서 코딩하므로 GitHub의 aichat를 설치했는데 아주 잘 동작함. 모델을 즉석에서 바꾸고, 단발 질의와 세션 모드를 전환하고, 모든 기록을 로컬에 저장해 나중에 볼 수 있으며, 간단한 명령 하나로 가벼운 질문도 할 수 있음
      모든 제공자가 API 입력을 학습에 쓰지 않는다고 보장하는 것으로 알고 있음. 애초에 전문가용 버전이니까
      게다가 매우 저렴함. 하루에도 여러 번 고급 추론 모델에 질의하지만 한 달에 몇 유로만 냄
    • 내가 만든 www.labophase.com이 바로 그런 용도에 잘 맞을 듯함

  • Le Chat 쓰는 걸 정말 좋아함. OpenAI보다 이쪽에 정보를 주는 편이 훨씬 안전하게 느껴짐

  • 오픈소스 모델 대신 이걸 써야 하는 이유가 뭘까?

    • “우리의 세계적 수준 AI 엔지니어링 팀이 가치 실현까지 전 과정에 걸쳐 지원합니다”라는 부분 때문일 듯함

  • 온프레미스에 필요한 하드웨어 요구사항이 보이지 않음. 어떤 GPU가 몇 개 필요한지, 디스크 공간은 얼마나 필요한지 궁금함

    • 아마 유연할 것 같음. Mistral은 소비자용 하드웨어에서도 돌릴 수 있는 작은 모델을 만들기 때문에, 필요와 호스트에서 제공 가능한 자원에 맞춰 위아래로 확장할 수 있을 듯함

  • 이메일 파싱이 궁금함
    소개 영상에서는 다른 도구들과 함께 이메일 검색을 강조함
    어떤 이메일 클라이언트를 지원할까? 이와 관련된 다른 도구도 있을까?

  • 흥미로움. 이번에는 유럽이 제대로 맞서 싸우는 것 같고, 마음에 듦

    • Mistral은 엄밀히 말하면 유럽이라기보다 프랑스임. 유럽에도 계획은 있지만, 내가 보기엔 실제로 경쟁할 수 있는 무언가를 만드는 게 목표는 아닌 듯함
      목표는 기업 데이터가 EU 안에 머물게 하는 것이고, 회사가 강제하지 않는 사용자들은 계속 미국이나 중국으로 데이터를 보냄
    • Mistral은 꾸준히 최하위였거나, 적어도 ChatGPT, Claude, Llama, Gemini/Gemma 사이에서는 최하위였음
      사이드 프로젝트에 허용적인 라이선스가 필요해서 써봐야 했는데, Mistral이 얼마나 형편없고 다른 LLM들이 얼마나 더 나은지 때문에 고통스러웠음
      최고 성능이 필요하면 ChatGPT, 로컬이 필요하면 Llama나 어쩌면 Gemma, 대부분 회사의 이용약관을 깨는 아슬아슬한 일을 하려면 Mistral이라는 느낌임. 다만 2025년에는 DeepSeek이 그쪽도 이길 가능성이 있음
      유럽 밖에서는 LLM에 애국심을 갖지 않고 그냥 가장 좋은 모델을 씀. Mistral은 쓸 만한 경우가 거의 없음
답변달기