▲

GN⁺: MemoryCache - 브라우저기반 Local AI를 강화하기 위한 Mozilla의 프로젝트

(future.mozilla.org)
3P by neo 7달전 | favorite | 댓글 2개
  • 로컬 데스크톱 환경을 온디바이스 AI 에이전트로 전환하기 위한 실험적인 개발 프로젝트
  • 브라우저에 저장된 로컬 파일로 온디바이스 모델을 강화하여 보다 개인화된 맞춤형 경험을 제공
  • 현재 MemoryCache는 privateGPT의 로컬 복사본을 보강하기 위한 스크립트 및 간단한 도구 세트
    • Firefox 확장: 페이지를 /Downloads/ 폴더의 하위 디렉터리에 저장하는 간단한 '프린터' 역할과, 브라우저에서 로컬 컴퓨터로 메모와 정보를 빠르게 저장하는 기능을 포함
    • 쉘 스크립트 : /Downloads/MemoryCache/ 디렉터리의 변경 사항을 인식하고 privateGPT의 ingest.py 스크립트를 실행
    • 사람이 더 쉽게 읽을 수 있도록, 웹페이지를 PDF로 자동 저장 가능하게 수정한 Firefox SaveAsPDF API 코드
▲
ndrgrd 7달전  [-]

다 좋은데 자꾸 브라우저를 잡다한 고물상으로 만드려고 하지는 않았으면 좋겠네요.
과거의 internet suite에서 얻은 교훈이 있을텐데 말이죠.

브라우저는 브라우저. AI는 AI. 필요할 때 따로 실행시키면 그만.

답변달기
▲
neo 7달전  [-]
Hacker News 의견

  • Reddit에서 이 주제에 대해 이야기했었음. 데이터를 모델로 보내는 대신, 모델이 우리의 데이터가 저장된 로컬로 오고 로컬에 머물게 해야 함. 많은 오픈소스 소프트웨어가 개인 데이터를 로드하지만 이미지나 비디오는 처리하지 못함. 미래에는 모두가 자신만의 모델을 가질 수 있겠지만, 현재는 기술은 있지만 모두가 자신만의 QLORA, RAG, 요약기를 가질 수 있는 제품/오픈소스 소프트웨어가 부족함. 메시지/문서뿐만 아니라 우리가 읽고 쓰는 것, 생각하는 것도 개인의 독특함을 만듦. 우리의 브라우징 기록은 우리가 읽는 것에 대해 많은 것을 말해주지만 구글이 광고를 위해 사용하는 것 외에는 이를 활용하는 사람이 거의 없음. 거의 모든 사람이 특정 뉴스 사이트, 소셜 네트워크, 유튜브 비디오 등을 읽는 습관이 있음. 오늘 이 세 가지로부터 요약을 해줌.*

    • 데이터를 모델로 보내는 것이 아니라, 모델이 사용자의 로컬 데이터에 접근하도록 해야 한다는 의견.
    • 현재 많은 오픈소스 소프트웨어가 있지만 이미지와 비디오 처리는 부족함.
    • 개인의 독특함은 읽고 쓰는 것, 생각하는 것에도 반영되며, 브라우징 기록을 활용하는 사례가 부족함.

  • Mozilla는 Firefox와 정치적 설교로 많은 비판을 받지만, 개인 정보 보호와 사용자 친화적인 기술 개발 능력이 여전히 있다고 믿음. FF 내장 오프라인 번역기를 자주 사용하고, 서버 파크 없이 로컬에서 실행될 수 있다는 것이 마법 같음. 이 실험이 성공하기를 바람.*

    • Mozilla가 개인 정보 보호와 사용자 친화적인 기술 개발에 여전히 능력이 있다는 긍정적인 의견.
    • Firefox 내장 오프라인 번역기의 로컬 실행 능력에 대한 감탄.

  • 브라우징 사용과 관련하여 이것은 나에게 적합하지 않음. 브라우징 기록과 '대화'하는 것을 원하지 않음. 브라우저가 OS에서 북마크의 실제 내용을 검색할 수 있도록 인덱싱해주길 바람. chatGPT에서 얻는 피드백 루프가 로컬 GPT 대응보다 항상 더 나을 것으로 가정함. 하지만 중요한 정보가 담긴 페이지를 북마크하고 여러 번 돌아가 볼 가치가 있음. 이를 위해 해결책을 만들기 시작함. 로컬 브라우저 저장소의 북마크를 크롤링하고, 해당 페이지를 다운로드하여 OS의 검색 인덱스에 추가함. 이것은 몇 년 동안 나의 고민거리였음.*

    • 브라우저가 OS에서 북마크 내용을 인덱싱하는 기능을 원하는 사용자의 의견.
    • 중요한 정보가 담긴 페이지를 북마크하고 쉽게 검색할 수 있는 해결책을 개발 중임.

  • 브라우징 기록과 페이지 내용과 '대화'할 수 있는 방법을 정말로 원함. 방문한 페이지를 나중에 처리하기 위해 자동으로 저장할 수 있는 방법이 있나요? 10년 이상 전에 찾아봤지만 좋은 해결책을 찾지 못함.*

    • 브라우징 기록과 페이지 내용을 나중에 처리할 수 있는 방법에 대한 관심.

  • 여기에 무언가 있을 수 있음. 거대 기업과의 왕복을 줄이고, 각 프롬프트로 그들을 풍요롭게 하는 대신, 개인 정보를 훨씬 더 존중하는 작은 로컬 모델을 사용함. 이러한 운영 모델에는 오픈소스 기여를 하거나 심지어 자금을 지원할 의향이 있음. 비록 Mozilla 조직의 큰 팬은 아니지만, 열외자를 응원하는 것을 좋아함.*

    • 개인 정보를 존중하는 작은 로컬 모델의 사용에 대한 지지.
    • 해당 운영 모델에 기여하거나 자금을 지원할 의향이 있음.

  • 기존의 북마크는 기억에 의존하는 조직 방식이 확장성이 없어 실패함. 이러한 인터페이스는 확장 가능하며, 올바르게 수행되면 전체적으로 대체할 수 있음. 생각해보면, 이것은 모든 로컬 파일에도 사용될 수 있으며, 파일 시스템-데이터베이스 개념의 더 나은 버전으로 작용할 수 있음. 또는 특정 지식 기반(예: LLM 기반 Zotero)에 대해서도 사용될 수 있음.*

    • 북마크의 확장성 문제와 새로운 인터페이스의 잠재적 대체 가능성에 대한 의견.
    • 이 인터페이스가 로컬 파일이나 특정 지식 기반에도 적용될 수 있음.

  • 관심 있는 사람을 위한 PrivateGPT 저장소 링크: https://github.com/imartinez/privateGPT. 공식 웹사이트에서 링크되지 않은 것 같음.*

    • PrivateGPT 저장소에 대한 정보 공유.

  • Firefox OS 시대를 경험한 전 인턴으로서, 이것은 미래에 Mozilla가 제공하는 OS로의 재진입 가능성을 느낌. 인터넷은 사람들을 연결하기 위해 태어났지만, 모든 멋진 기능을 브라우저에 통합하는 것이 최적의 방법은 아님. Firefox OS는 기본적으로 작은 리눅스 커널에 Gecko와 HTML5 렌더링이었음. iOS와 iPadOS처럼 Mozilla가 장치/플랫폼에 대해 비슷한 OS를 제공할 수 있음. 지난 5년 동안 AR과 VR에 투자해왔기 때문에 결국 다른 Firefox OS에 베팅할 수도 있음을 놀라지 않을 것임.*

    • Mozilla가 미래에 자체 OS를 다시 제공할 수 있는 가능성에 대한 추측.

  • 포크된 저장소로 링크하려고 했나요? https://memorycache.ai/developer-blog/2023/… 링크는 https://github.com/misslivirose/Memory-Cache로 연결되지만, https://github.com/Mozilla-Ocho/Memory-Cache를 의미한 것인가요?*

    • 특정 GitHub 저장소 링크에 대한 질문.

  • 오랫동안 이것을 하고 있음. FF 솔루션은 단지 더 자동화된 것일 뿐임.

    • Firefox 솔루션에 대한 개인적인 경험 공유.
답변달기