MemoryCache: 브라우저 기반 로컬 AI를 강화하려는 Mozilla 프로젝트

 (future.mozilla.org)
3P by GN⁺ | ★ favorite | 댓글 2개
  • 제공된 본문은 Mozilla New Products 홈 내용이며, Hacker News 제목의 MemoryCache 소개 본문은 포함되어 있지 않음
  • Mozilla New Products는 새 제품을 발견·테스트·탐색하고, 사용자가 다음 세대 기술 형성에 참여하도록 초대하는 공간임
  • 현재 확인되는 제품은 웹사이트 제작용 Solo, AI 보안 버그 바운티 0din, AI 시스템용 웹 실행·데이터 변환 API Tabstack임
  • 뉴스레터는 Mozilla의 최신 제품과 기능에 대한 조기 접근, 업데이트 탐색, 피드백 공유 경로를 제공함
  • 이 본문만으로는 MemoryCache의 구조, 브라우저 기반 로컬 AI 강화 방식, 사용 방법, 제약 조건을 확인할 수 없음

제공된 본문은 Mozilla New Products 홈

  • Mozilla New Products는 생산성 향상, 비즈니스 성장, 제품 구축에 도움이 되는 혁신 제품을 발견·테스트·탐색하는 공간으로 안내됨
  • Mozilla는 사람을 우선하는 솔루션을 만들고, 사용자가 새 제품 테스트에 참여해 다음 세대 기술을 함께 형성하도록 초대함
  • 인터넷의 미래는 개방적이고 접근 가능하며 프라이버시 우선이어야 한다는 방향을 내세움

확인 가능한 제품과 참여 경로

  • Solo: 무료 웹사이트를 만들고 커스텀 도메인을 연결할 수 있는 제품임
  • 0din: LLM 모델 취약점을 찾아 보상을 받는 AI 보안 버그 바운티 프로그램임
  • Tabstack: AI 시스템이 웹을 안정적으로 읽고 작업할 수 있게 돕는 웹 실행·데이터 변환 API임
    • AI 에이전트, 리서치 도구, 데이터 파이프라인, 자율 워크플로를 만드는 개발자를 대상으로 함
  • Mozilla New Products 뉴스레터는 최신 제품과 기능의 조기 접근, 업데이트 탐색, 피드백 공유를 제공함
  • 제공된 본문에는 MemoryCache 관련 설명이 없어 기능이나 구현 세부사항은 확인할 수 없음

함께 보면 좋은 글 β

ndrgrd   [-]

다 좋은데 자꾸 브라우저를 잡다한 고물상으로 만드려고 하지는 않았으면 좋겠네요.
과거의 internet suite에서 얻은 교훈이 있을텐데 말이죠.

브라우저는 브라우저. AI는 AI. 필요할 때 따로 실행시키면 그만.

답변달기
GN⁺   [-]
Hacker News 의견들

  • 데이터가 모델로 가는 대신, 모델이 로컬 데이터로 와야 하고 데이터는 로컬에 남아 있어야 함
    개인 데이터를 불러오는 오픈소스는 많지만 이미지나 동영상까지 잘 다루지는 못함. 앞으로는 각자 자기 모델을 갖게 될 수 있겠지만, 지금은 기술은 있어도 모두가 자기 QLORA, RAG, 요약기를 쉽게 갖게 해줄 제품이나 오픈소스가 부족함
    메시지나 문서뿐 아니라 우리가 읽고 쓰는 것, 생각도 개인을 이루는 요소임. 브라우징 기록은 무엇을 읽는지 많이 말해주지만 Google이 광고에 쓰는 것 말고는 거의 활용되지 않음. 매일 보는 뉴스 사이트, 소셜 네트워크, YouTube 영상들을 묶어 “오늘 이 3곳의 요약은 이렇다”라고 해줄 수 있어야 함
    어제 https://www.youtube.com/watch?v=zHLCKpmBeKA를 보면서, 30년 가까이 지났는데도 왜 아직 우리보다 한발 앞서 움직이는 컴퓨터 비서가 없는지 생각했음

    • “개인 데이터를 불러오는 오픈소스는 많지만 이미지나 동영상은 안 한다”는 부분에 대해, 이미지용 로컬 모델은 꽤 좋아지고 있음
      LLaVA는 멀티모달 이미지 기능이 있는 대규모 언어 모델이고 내 노트북에서도 꽤 잘 돌아감: https://simonwillison.net/2023/Nov/29/llamafile/
      Salesforce BLIP 같은 모델은 이미지 캡션 생성에도 쓸 수 있고, 그걸 위한 작은 CLI 도구도 만들었음: https://github.com/simonw/blip-caption
    • 바로 그런 걸 https://software.inc에서 만들고 있음
      사용자에 대한 데이터, 즉 컴퓨터와 인터넷에서 온 정보를 로컬 데이터베이스에 모으고 모델이 그걸 쓰는 법을 배우게 함. 모델은 로컬일 수도 있고 클라우드 기반일 수도 있으며, 데이터 민감도나 필요한 기능에 따라 요청을 라우팅할 수 있음
      흥미롭게 들린다면 채용도 하고 있음
    • AI를 빼고도, 방문했던 모든 웹페이지를 전통적인 검색으로 찾게 해주는 아카이버만 있어도 큰 진전임
      내 검색의 상당수는 예전에 본 걸 다시 찾는 것인데, 페이지가 사라졌거나 검색엔진에서 낮게 랭크되거나, HTTP만 쓰는 오래된 문서처럼 검색 최적화에 묻혀서 자주 막힘
    • GitHub Copilot이 정확히 그런 식으로 동작한다고 봄. 먼저 전체 코드베이스와 의존성까지 스캔하고 색인한 뒤, 자동완성할 때 코드 맥락을 강하게 사용하기 때문에 Copilot이 유용해짐
      모델이 우리 데이터 쪽으로 와야 한다는 말에 동의함. Copilot 같은 지능이 완전히 기기 안에서 동작하면서 메시지, 브라우징 기록, 웹페이지 내용 같은 개인 흔적을 훑을 수 있다면 게임 체인저가 될 것임
    • 단순히 오늘 본 사이트를 요약하는 것보다 더 야심찬 걸 떠올렸음. 검색 기록과 행동을 이용해 검색 질의 작성법을 끌어내는 모델이 필요함
      Bing Chat의 검색 질의는 검색엔진이 뭔지 막 설명을 들은 삼촌이 입력할 법한 수준으로 보임. site:나 filetype: 같은 고급 연산자, 최소한 괄호와 AND/OR도 써야 함
      뛰어난 연구자, 법률 보조원, 그리고 할아버지의 Ellis Island 이야기를 즉시 팩트체크해 도착 기록과 Chicago 귀화 증거를 찾아내는 자폐 스펙트럼 청소년들의 검색 과정을 흉내 내도록 미세조정할 수 있을 것임

  • 좋은 아이디어임. Mozilla는 Firefox 운영 미숙과 정치적 설교 때문에 정당하게 욕을 많이 먹지만, 그래도 프라이버시를 지키면서 사용자 친화적인 기술을 만들 능력은 아직 있다고 봄
    Firefox에 내장된 오프라인 번역기를 자주 쓰는데 마법 같음. 서버 팜급 하드웨어 없이 로컬에서 그런 게 돌아갈 수 있으리라고는 생각 못 했음
    이번 실험도 그렇게 되길 바람

  • 내 브라우징 사용 방식에는 이게 잘 맞지 않음. 브라우징 기록과 “채팅”하고 싶지는 않고, 그저 브라우저가 운영체제에서 북마크 내용을 색인해서 실제 페이지 내용을 검색할 수 있으면 좋겠음
    ChatGPT에서 얻는 피드백 루프는 로컬 GPT 상당품보다 항상 훨씬 나을 것이라고 봄
    하지만 중요한 정보라 나중에 두 번 이상 다시 볼 페이지를 자주 북마크함. 그래서 로컬 브라우저 저장소의 북마크를 크롤링하고, 해당 페이지를 내려받아 운영체제 검색 색인에 추가하는 솔루션을 만들기 시작했음
    몇 년째 긁고 있던 가려운 부분임

    • 작은 데이터셋은 전체 텍스트 검색에서 재현율이 나빠지기 쉬움. AI가 약간의 똑똑한 퍼지 검색을 더해주면 로컬 색인된 북마크 경험이 꽤 좋아질 수 있음
    • Chrome이 처음 나왔을 때 이런 걸 하지 않았나? 기능으로 있었던 것 같은 희미한 기억이 있음
      개인적으로는 브라우저들이 기록을 자꾸 잊지 않기만 해도 만족하겠음. Firefox와 Safari 모두 기록 보존 기간이 너무 짧음
    • 이건 그냥 Safari 아닌가? 최신 칩을 쓴다는 전제에서

  • 브라우징 기록과 페이지 내용에 “채팅”할 수 있는 방법이 정말 있으면 좋겠음. 나중에 처리할 수 있도록 방문한 페이지를 자동 저장하는 방법이 있는지 궁금함
    10년도 더 전에 찾아봤지만 괜찮은 해법을 못 찾았음

    • WorldBrain의 Memex(https://github.com/WorldBrain/Memex)가 이걸 약속하는 것 같음. 아이디어는 기대됐지만, 결국 쓰지 않게 된 이유가 있었던 것 같음
    • Recoll과 Recoll-WE를 확인해볼 만함: https://addons.mozilla.org/en-US/firefox/addon/recoll-we/
    • Zotero도 가능할 수 있지만 연구 중심이라 매우 불완전한 해법에 가까움
    • Rewind.ai가 거의 이 용도임. 방금 설치했고 지금까지는 꽤 만족함

  • 전통적인 북마크는 기억에 의존한 조직화가 확장되지 않아서 실패했음. 이런 인터페이스는 확장 가능하고, 제대로 만들면 북마크를 완전히 대체할 수 있음
    생각해보면 로컬 파일 전체에도 쓸 수 있어서, 예전의 “파일시스템을 데이터베이스처럼” 쓰자는 아이디어의 더 나은 버전처럼 동작할 수 있음. 특정 지식 베이스에도 맞고, 예를 들면 대규모 언어 모델 기반 Zotero 같은 형태임

    • 방금 Windows Longhorn의 현대판을 발명한 것처럼 들림
    • “Networked Environment for Personal, Ontology-based Management of Unified Knowledge”, 즉 Nepomuk 시맨틱 데스크톱의 아이디어가 이거 아니었나?
      대규모 언어 모델이 RDF를 제대로 채우게 만들 수 있고, 지금처럼 메모리와 저장장치가 훨씬 많고 빠르다면 작동할지도 모름
    • Orbit 같은 게 딱 맞을 것 같음
      https://withorbit.com/

  • Mozilla가 뭔가 잡아낸 것 같음
    거대 기업들과 프롬프트를 주고받으며 매번 그들을 더 부유하게 만드는 대신, 더 작은 로컬 모델을 쓰고 프라이버시를 훨씬 더 존중하는 방식임
    이런 운영 모델이라면 오픈소스 기여를 하거나 심지어 자금을 댈 의향도 있음
    솔직히 Mozilla 조직의 큰 팬은 아니지만, 언더독은 좋아할 수밖에 없음

    • 미래에는 그들의 AI가 우리의 AI와 대화하게 될 것임. 우리에게는 보호막이 필요하기 때문임
    • Apple이 몇 년 전부터 해오던 일과 비슷함. 다만 그중 얼마나 많은 부분이 “AI”인지는 여전히 불분명함. 그래서 다른 누군가가 그 틈새에 들어오는 건 자연스러움

  • 관심 있는 사람을 위해 PrivateGPT 저장소는 여기 있음: https://github.com/imartinez/privateGPT
    공식 웹사이트에서는 링크가 걸려 있지 않은 것 같음

  • 예전 인턴으로 Firefox OS 시대를 겪어서 그런지, 이건 Mozilla가 앞으로 다시 자체 운영체제를 내놓기 위한 재진입처럼 느껴짐
    인터넷은 사람들을 연결하기 위해 태어났다고 했지만, 이런 화려한 기능들을 전부 브라우저에 넣는 방식이 최적은 아님
    Firefox OS는 기본적으로 작은 Linux 커널, Gecko, 렌더링용 HTML5로 구성되어 있었음. iOS와 iPadOS처럼 Mozilla도 기기나 플랫폼용 비슷한 운영체제를 제공할 수 있음
    지난 5년 동안 AR과 VR에도 투자해왔으니, 결국 또 다른 Firefox OS에 베팅해도 놀랍지 않음

  • 혹시 포크된 저장소에 링크하려던 건가?
    https://memorycache.ai/developer-blog/2023/11/30/we-have-a-w...는 https://github.com/misslivirose/Memory-Cache로 연결됨
    의도한 것은 https://github.com/Mozilla-Ocho/Memory-Cache였나?

  • 공유된 링크만으로는 이게 무슨 뜻인지 거의 감이 안 왔음
    공식 사이트 쪽으로 조금 더 거슬러 올라가 보니 “MemoryCache는 로컬 데스크톱 환경을 기기 내 AI 에이전트로 바꾸기 위한 실험적 개발 프로젝트”라고 되어 있음
    11월 글도 있음: Introducing Memory Cache
    https://memorycache.ai/developer-blog/2023/11/06/introducing...

답변달기