- Mistral Large는 최첨단 텍스트 생성 모델로, 최고 수준의 추론 능력을 갖춤
- 다양한 언어로 복잡한 추론 작업을 수행할 수 있으며, 텍스트 이해, 변환, 코드 생성에 사용 가능
- MMLU 벤치마크에서 강력한 성능을 보여주며, API를 통해 일반적으로 사용 가능한 세계에서 두 번째로 순위가 높은 모델임
- GPT-4 86.4% 다음인 81.2%, Claude 2가 78.5%, Gemini Pro가 71.8%
Mistral Large의 새로운 기능과 강점
- 영어, 프랑스어, 스페인어, 독일어, 이탈리아어에 원어민 수준으로 능통하며, 문법과 문화적 맥락에 대한 미묘한 이해를 제공
- 32K 토큰 컨텍스트 윈도우를 통해 대규모 문서에서 정확한 정보 회상이 가능
- 정확한 지시사항을 따르는 기능을 통해 개발자들이 자신의 모더레이션 정책을 설계할 수 있으며, 이를 통해 le Chat의 시스템 수준 모더레이션 설정에 사용됨
- 함수 호출 기능이 내재되어 있어, la Plateforme에서 구현된 제한된 출력 모드와 함께 애플리케이션 개발 및 기술 스택 현대화를 대규모로 가능하게 함
Microsoft와의 파트너십을 통해 Azure에서 모델 제공
- Mistral의 목표는 선도적인 AI를 보편화하는 것이며, 이를 위해 Azure에 오픈 및 상업 모델을 제공함
- Mistral의 모델은 La Plateforme과 Azure를 통해 사용할 수 있으며, 사용자 환경에 직접 배포할 수도 있음
- La Plateforme은 Mistral의 유럽 인프라에서 안전하게 호스팅되며, Azure는 Azure AI Studio와 Azure Machine Learning을 통해 제공됨
- 자체 배포는 가장 민감한 사용 사례에 대해 모델 가중치에 접근할 수 있게 하며, 성공 사례를 읽고 팀에 연락하여 자세한 정보를 얻을 수 있음
Mistral Large의 능력
- Mistral Large는 표준 벤치마크에서 선도적인 LLM 모델들과 비교하여 강력한 추론 능력을 보임
- 다국어 능력에서도 Mistral Large는 프랑스어, 독일어, 스페인어, 이탈리아어에서 LLaMA 2 70B를 크게 앞지름
- 코딩 및 수학 작업에서도 최고의 성능을 보여줌
새로운 Mistral Small, 저지연 워크로드에 최적화
- Mistral Large와 함께, 지연 시간과 비용에 최적화된 새로운 모델인 Mistral Small을 출시
- Mistral Small은 Mixtral 8x7B보다 성능이 우수하며 지연 시간이 낮아, 오픈-웨이트 제공과 플래그십 모델 사이의 정제된 중간 솔루션임
- Mistral Small은 Mistral Large와 동일한 RAG 활성화 및 함수 호출 혁신을 활용함
- 경쟁력 있는 가격의 오픈-웨이트 엔드포인트와 새로운 최적화된 모델 엔드포인트를 제공하며, 성능/비용 트레이드오프에 대한 포괄적인 시야를 제공함
JSON 형식과 함수 호출
- JSON 형식 모드는 언어 모델 출력이 유효한 JSON이 되도록 강제함
- 함수 호출을 통해 개발자들은 자체 도구 세트와 Mistral 엔드포인트를 연결하여 내부 코드, API 또는 데이터베이스와 더 복잡한 상호 작용을 가능하게 함
- 함수 호출과 JSON 형식은 mistral-small과 mistral-large에서만 사용 가능하며, 모든 엔드포인트에 대한 형식 지정을 곧 추가할 예정임
GN⁺의 의견
- Mistral Large는 다국어 지원과 고급 추론 능력을 갖춘 인공지능 언어 모델로, 다양한 언어로 복잡한 작업을 수행할 수 있는 능력이 특히 주목할 만함.
- 이 모델은 기존의 GPT-4와 같은 모델들과 경쟁할 수 있는 잠재력을 가지고 있으며, 특히 다양한 언어에 대한 지원은 글로벌 시장에서의 적용 가능성을 높임.
- Azure와의 파트너십은 Mistral AI의 모델이 더 넓은 사용자 기반에 도달할 수 있는 기회를 제공하며, 클라우드 기반 AI 서비스의 확장성과 접근성을 강화함.
- Mistral Small과 같은 최적화된 모델의 출시는 비용 효율적이고 지연 시간이 낮은 AI 솔루션을 필요로 하는 기업들에게 매력적인 옵션이 될 수 있음.
- JSON 형식과 함수 호출 기능은 개발자들이 AI 모델을 자신들의 애플리케이션과 더욱 쉽게 통합할 수 있게 하여, AI 기술의 실용성과 유연성을 높임.