MemGPT - 무한한 맥락을 위한 자체 편집 메모리를 갖춘 LLMs

(github.com/cpacker)

MemGPT는 언어 학습 모델(LLMs)의 메모리 계층을 관리하는 새로운 시스템으로, LLM의 제한된 컨텍스트 창 내에서 확장된 컨텍스트를 제공합니다.
벡터 데이터베이스에서 중요한 정보를 저장하고 검색할 시기를 알아내어 끊임없는 대화를 가능하게 합니다.
MemGPT는 자체 편집 메모리를 가진 챗봇을 만드는 데 사용할 수 있습니다.
MemGPT 시스템은 Discord에서 #memgpt 채널에서 MemGPT 봇에게 메시지를 보내 테스트할 수 있습니다.
MemGPT를 로컬에서 실행하려면 사용자는 의존성을 설치하고, OpenAI API 키를 환경에 추가하고, main.py를 실행해야 합니다.
사용자는 /memgpt/humans/examples 또는 /memgpt/personas/examples에 새로운 .txt 파일을 생성하여 MemGPT에 대한 새로운 시작 사용자 또는 페르소나를 만들 수 있습니다.
MemGPT는 /exit, /save, /load, /dump, /memory, /pop, /heartbeat, /memorywarning 등 다양한 CLI 명령을 지원합니다.
기본적으로 MemGPT는 gpt-4를 사용하므로, gpt-4 API 접근 권한이 있는 API 키가 필요합니다.
문제 또는 기능 요청에 대해서는 사용자가 GitHub 이슈를 열도록 권장됩니다.
MemGPT 논문에서 사용된 데이터셋은 HuggingFace에서 다운로드 받을 수 있습니다.

MemGPT의 저자들, 구현에 대한 질문에 대답할 의향 있음
MemGPT는 메모리 편집을 실시간으로 보여주는 Discord 봇을 가지고 있음
MemGPT 코드는 오픈 소스로 GitHub에서 이용 가능
한 댓글 작성자는 전처리와 후처리 단계에서 다른 에이전트에게 여러 요청을 병렬화하는 과정을 제안함
다른 댓글 작성자는 함수 호출이 문법적으로 올바르게 이루어지도록 문법 기반 샘플링을 사용하는 것을 제안함
일부 댓글 작성자들은 프로젝트에 대한 흥분을 표현하며, 이를 미래의 챗봇에 대한 기본적인 특징으로 보고 있음
저자들은 MemGPT 위에 구현된 Discord 영구 챗봇을 공개함
일부 댓글 작성자들은 컨텍스트 창이 LLMs의 가장 큰 제한이라고 생각함
저자들의 제목 선택에 대한 토론이 있음
한 댓글 작성자는 접근 방식을 비판하며, 이는 기존 컨텍스트가 낮은 엔트로피 요약 가능한 컨텍스트로 구성되어 있고, 모든 쿼리가 이력의 일부분에만 의존한다는 가정에 의존한다고 주장함. 그들은 이것이 항상 사실이 아니라고 믿음, 특히 코드 생성의 컨텍스트에서는 그렇지 않다고 믿음.