LM Studio Bionic: 오픈 모델을 위한 AI 에이전트

 (lmstudio.ai)
1P by GN⁺ | ★ favorite | 댓글 1개
  • LM Studio Bionic은 코딩·조사·문서 작업을 로컬 또는 클라우드의 오픈 모델로 처리해, 개인정보와 AI 사용 비용을 직접 통제할 수 있는 별도 앱임
  • 모델은 기기에서 직접 실행하거나 LM Link로 연결할 수 있으며, 복잡한 작업에는 LM Studio Secure Cloud의 대형 오픈소스 모델을 선택할 수 있음
  • 음성 키보드는 Mistral AI의 다국어 실시간 전사 모델 Voxtral을 이용해 어느 앱에서든 음성을 기기 내부에서 텍스트로 변환함
  • 코딩에는 코드베이스 조사·편집·디버깅과 인라인 diff를, 문서 작업에는 샌드박스 처리·웹 검색·자동 체크포인트·앱 내 미리보기를 제공함
  • 모든 사용자에게 Zero Data Retention과 사용자 데이터로 학습하지 않는 정책을 적용하며, 클라우드 요청도 처리 완료 후 보관하지 않음

코딩·음성·문서 작업

  • Bionic 에이전트는 코딩과 문서 작업에 초점을 맞추며, 작업별로 적합한 모델과 컴퓨팅 환경을 선택해 비용을 조절할 수 있음

  • 기기 내부에서 작동하는 음성 키보드

    • 로컬 오디오 모델로 아이디어, 프롬프트, 수정 내용을 기기 내부에서 전사함
    • 출시 시점에는 Mistral AI의 고성능 다국어 실시간 전사 모델 Voxtral을 제공함
    • 어느 앱에서든 음성 키보드를 시작하면 현재 커서 위치에 전사 결과가 입력됨

  • 로컬 코드베이스를 다루는 Code 프로젝트

    • 로컬 폴더를 연결하면 코드베이스를 조사하고, 익숙하지 않은 코드를 설명하거나 변경·디버깅할 수 있음
    • 인라인 diff를 통해 코드 변경 사항을 검토할 수 있음
    • 에이전트형 코드 검색으로 관련 파일을 찾고 동작을 추적함
    • 지원 모델에는 GLM 5.2와 Kimi K2.7 Code가 포함됨

  • 문서·프레젠테이션·스프레드시트를 위한 Work 프로젝트

    • 문서, PDF, 프레젠테이션, 스프레드시트 등을 다루거나 새 자료를 처음부터 생성함
    • 문서를 샌드박스 환경에서 처리해 나머지 컴퓨터와 파일로부터 격리함
    • 로컬 디렉터리 정리, 파일 편집, 자료 요약과 내장 웹 검색을 통한 외부 정보 활용을 지원함
    • 자동 체크포인트로 변경 사항을 검토하거나 되돌릴 수 있으며, 앱 내 미리보기에서 자료와 작업 흐름을 함께 관리할 수 있음
    • 더 많은 파일 형식을 미리 볼 수 있도록 지원 범위를 계속 확대할 예정임

로컬·연결·클라우드 모델 실행

  • Bionic 앱에서 최신 로컬 LLM을 내려받아 간단한 채팅부터 고급 에이전트 작업까지 수행할 수 있으며, 로컬 실행은 LM Studio 런타임을 기반으로 함
  • 작업에 따라 세 가지 실행 방식을 선택할 수 있음
    • 기기에서 로컬 모델 실행
    • LM Link를 통한 모델 연결
    • LM Studio Secure Cloud에서 대형 최전선 오픈소스 모델 사용
  • Secure Cloud는 코딩, 추론, 도구 호출, 긴 컨텍스트 작업에 강한 최신 오픈 모델을 제공함
    • 클라우드 요청은 일시적으로 처리되고 완료 후 보관되지 않음
    • 모든 Bionic 사용자 데이터에 Zero Data Retention을 적용하며 학습에도 사용하지 않음

설치와 사용 조건

  • LM Studio Bionic은 기존 LM Studio와 분리된 새 앱임
    • 저수준 고급 설정이 필요하면 기존 LM Studio를 Bionic과 함께 계속 사용할 수 있음
    • 클라우드 모델을 사용하려면 LM Studio 계정을 만들고 결제를 설정해야 함
    • 프로젝트를 연결하고 모델을 선택하면 Bionic 에이전트로 작업을 시작할 수 있음
  • 오픈 모델의 성능 향상과 실제 프로젝트 사용 사례를 반영해 Bionic 경험을 계속 개선할 계획임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • LM Studio 창업자 Yagil임. Bionic에서 GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7을 시험하려면 lmstudio.ai 사용자 이름을 hn-jul16@lmstudio.ai로 보내면 크레딧을 지급하겠음
    코딩은 “Code” 프로젝트에서, 문서 생성·편집은 “Work” 프로젝트에서 사용하면 됨. Work 프로젝트는 에이전트가 변경할 때마다 자동 체크포인트를 만들며, 사용 후 피드백을 듣고 싶음

    • 추론 과정을 살펴보기 좋은 에이전트 실행 프레임워크 중 하나임. 때로는 최종 응답보다 추론을 읽는 편이 더 유용하며, Claude Code나 Codex보다 투명하게 공개하는 점이 마음에 듦
      “제공업체”와 데이터 무보존(ZDR) 을 협상했다고 했는데, 모델을 LM Studio가 직접 호스팅하는지 아니면 다른 업체가 호스팅하는지 궁금함. 외부 업체라면 어디인지도 알고 싶음
    • LM Studio를 좋아하고 Bionic도 오늘 밤 시험해 볼 예정임. Android 연동 앱을 간절히 기다리고 있어 iPhone 사용자가 부러울 정도임
    • z.ai coding plan API 키를 사용할 수 있는지 궁금함
    • LM Studio는 정말 좋아하지만, 클라우드와 신뢰 중심으로 향하는 이번 방향은 많은 사람의 신뢰를 잃을 수 있음. 기업들이 “데이터 무보존”과 “사용자 데이터로 학습하지 않는다”는 약속을 반복해 온 탓에 또 믿어 달라는 말처럼 들림
      사이트에서 회사 소재지도 찾지 못했으며, 20년간 지겹게 봐 온 미국식 “그냥 믿어 달라”는 접근이 또 수출되는 듯한 인상을 받음

  • 로컬 모델용 에이전트 실행 프레임워크는 처음이지만 LM Studio를 좋아해서 Bionic을 바로 시험해 봤고, 첫인상은 훌륭함. 주로 쓰는 Codex와 UI가 비슷해 익숙하고 시작하기 쉬웠으며, 기존 LM Studio 모델 라이브러리를 지정해 Qwen3.6 35B를 실행하니 기대한 결과가 나왔음
    다만 개선할 부분도 보임. 기본 화면에는 프로젝트 이름만 있고 Codex처럼 현재 작업 디렉터리가 선명하게 표시되지 않음. Enter를 누르면 모델을 불러오면서 “Loading model” 대신 “Working”이 표시되며, 요청을 보내기 전에 미리 불러오거나 앱을 종료하지 않고 LM Studio의 꺼내기 버튼처럼 모델을 내리는 방법도 찾지 못했음. “GitHub & Projects” 디렉터리를 지정했더니 같은 이름의 새 폴더까지 생성하는 문제도 있었음

  • Apple이 충분히 좋은 로컬 모델과 실행 프레임워크를 갖추면 일반 사용자는 대부분 그것을 쓰게 될 듯함. 결국 LLM이 컴퓨팅의 또 다른 인터페이스가 되는 것인지 궁금함

    • Apple의 System Model은 꽤 좋지만 컨텍스트 길이가 4K로 제한됨. 적은 데이터를 처리하는 작은 Python 유틸리티에는 괜찮지만 전반적으로는 아쉬운 제약임
      별개로 최신 iOS 베타의 Siri는 놀라울 정도로 좋아졌음. 어떤 모델을 쓰는지 물으니 어려운 문제에는 Gemini, 그다음에는 클라우드의 보안 Apple 모델, 마지막으로 로컬 Apple 모델을 사용한다고 답했음
    • 일반 사용자의 대부분 작업에는 ChatGPT 3.5 시대 수준의 LLM이면 충분하다고 봄. 여기에 도구 호출 등을 더하고 그 정도 모델을 기기에 내장해 우선 활용하면, AI 사용자는 비용을 내지 않으려는 층과 최전선 모델 성능에 큰돈을 낼 층으로 나뉠 수 있음
    • 답은 모델 발전이 충분히 정체되어 기기 규모 모델이 최전선 모델 성능과 견줄 수 있느냐에 달려 있음. 가능하면 LLM이 새로운 컴퓨팅 인터페이스가 되겠지만, 그렇지 않으면 어려움
    • 신경망 기계는 애초부터 폰 노이만 기계의 대안적 컴퓨팅 패러다임이 될 운명이었음. Minsky가 아니었다면 유용한 수준에 더 일찍 도달했을 수도 있는데, 이를 왜 작은 변화처럼 말하는지 의문임
    • 컴퓨팅 1.0에서는 컴퓨터와 온전히 상호작용하려고 인간이 컴퓨터의 언어를 배워야 했지만, 컴퓨팅 2.0에서는 컴퓨터가 인간의 언어를 배운 셈임

  • 다른 에이전트 실행 프레임워크 대신 이것을 선택할 이유가 궁금함. 특히 비용과 데이터 보안 때문에 클라우드 최전선 모델의 사용을 통제하려는 기업용 패키지에 강점이 있어 보임

    • Python이나 JavaScript 코드를 대충 엮지 않았으면서 모델에 종속되지 않는 실행 프레임워크는 의외로 많지 않음. 컨텍스트를 부풀리거나 지나치게 압축하는 어처구니없는 동작을 피하는 제품은 더 드묾
      바이브 코딩으로 만들어졌을 가능성이 있는 Python·JavaScript 에이전트를 실행하는 것은 보안과 공급망 위험이 너무 커서 꺼려짐

  • 어떤 로컬 모델이 더 좋은 에이전트가 되는지 시험하는 재미가 있었지만 몇 가지 제약이 있음
    하나의 디렉터리에 고정되어 시스템 전체에 접근할 수 없고, 로컬 웹 검색도 없지만 ddg나 로컬 MCP로 보완할 수 있음. SSH가 없어 서버에 접속해 작업시키지 못하며, 모델을 불러오는 과정도 표시되지 않아 진행 막대나 백분율이 필요함. Work 디렉터리에 문서를 넣을 때 “+”로 추가하는 방식 외에 끌어다 놓기도 가능한지 궁금함. 평소 로컬 환경에서는 opencode와 LM Studio를 함께 쓰고 있어 앞으로의 발전이 기대됨

  • 일반 LM Studio와 별도 앱이라고 되어 있지만 다운로드 방법을 찾지 못하겠음

  • LM Studio가 에이전트 작업 흐름으로 확장되는 것은 반가움. 로컬 모델 도구가 계속 좋아지는 가운데, 데이터를 비공개로 유지하려는 개발자에게 오픈 소스 선택지는 가치가 큼

  • LM Studio가 AMD 하드웨어를 더 잘 지원하면 좋겠음. Radeon에서도 별도 설정 없이 바로 작동하는 완제품형 해결책이 절실함

  • Ollama에서 LM Studio로 옮긴 이유 중 하나가 사업 모델이었는데, 이제 “LM Studio Secure Cloud를 통해 가장 큰 최전선 오픈 소스 모델을 사용한다”는 방향으로 바뀌는 것이 우려됨

    • Unsloth Studio는 실제 오픈 소스이며, 양자화 모델을 봐도 LM Studio보다 Unsloth를 더 신뢰하므로 이를 권하고 싶음
    • 공정하게 말하면 Ollama도 자체 클라우드 서비스를 그만큼 적극적으로 밀어 왔음
      Minimax, GLM, Kimi 등의 최신 대형 모델은 수개월이 지나도 공식 다운로드 버전을 제공하지 않고 클라우드 버전만 내놓는 경우가 있음
    • Ollama는 처음부터 논란이 있었지만 LM Studio는 아는 한 그런 일이 없었음. 따라서 LM Studio가 이번 전환을 대체로 매끄럽게 해낼 것이라는 믿음은 조금 더 큼

  • LM Studio 앱과 새 LM Studio Bionic 앱은 모두 비공개 소스임. 이 사실을 모르는 사람이 많아 상기할 필요가 있음

    • Unsloth Studio는 오픈 소스이며 업계 최고 수준의 양자화 모델을 만드는 Unsloth가 운영하므로 전환을 권함
    • 비공개 소스라는 점이 LM Studio를 자주 쓰지 않는 가장 큰 이유임. 새 모델이나 양자화 버전만 시험한 뒤에는 llama.cpp로 직접 호스팅함
      LM Studio는 오디오 입력 같은 기능을 지원하지 않고 순수 llama.cpp에는 없는 버그도 종종 있어, 일부 용도에서는 오히려 손해가 될 수 있음
    • 이미 오픈 소스 에이전트 시스템이 많고, UI를 선호한다면 OpenCode에도 베타 데스크톱 앱이 있음
      특히 나중에 유료화하면서 접근을 제한할 수 있는 비공개 소스 개발 도구는 필요하지 않다고 봄
    • 어떤 기술 스택을 사용했는지, 네이티브 앱인지 궁금함. 데스크톱 앱으로서는 용도에 맞게 꽤 잘 설계됐음
    • 비공개 소스라는 사실 자체가 논란거리인지 의문임
답변달기
GeekNews BeeBS 게시판 오픈! 자유로운 이야기와 소소한 일상을 함께 나눠보세요.