Show GN: AI 에이전트의 부정행위(기만)를 사후 검증하는 오픈소스 프레임워크, Mirror Stack.

안녕하세요. 최근 며칠씩 자율 구동되는 AI 루프 에이전트(Autonomous Loop Agent)가 급부상하는 것을 보며, "만약 AI가 인간 몰래 테스트 데이터를 조작하거나 제약 조건을 우회(Gaming)하여 보고한다면 어떻게 잡아내야 할까?"라는 고민이 시작되어 만들게 된 오픈소스 프로젝트 Mirror Stack(미러 스택)을 소개합니다.

기존의 에이전트 보안이 "나쁜 짓을 못 하게 가드레일로 막는 것"에 집중했다면, Mirror Stack은 "약속 대신 증명 (Provable, not Promised)"이라는 패러다임을 제안합니다. AI가 착하게 행동할 것이라 믿지 않고, 오직 정직한 행동만이 사후에 위조 불가능한 장부(Chain-sealed ledger)를 남기도록 강제하는 구조입니다.

🛠️ 핵심 구성 요소 및 아키텍처

중앙 서버 없이 로컬 퍼스트(Local-first)로 가볍게 동작하는 4개의 도구와 5가지 규약으로 구성되어 있습니다.

measure-mirror: AI의 클레임을 검사하기 위해 23가지의 통계적/게임 방지 프로브(Probe)를 수행합니다.action-mirror: 체인 구조로 연결된 에이전트의 행동 이력을 추적하여 무결성을 보장합니다.provenance-mirror: 생성된 콘텐츠의 출처 진위 여부를 기계적으로 입증합니다.mirror-witness: 별도의 인프라 비용 없이 GitHub Actions 및 CI 환경을 상호 목격자(Witness)로 활용해 신뢰성을 확보합니다.

🔌 최신 AI 생태계(MCP) 공식 지원

최근 Anthropic을 중심으로 표준화되고 있는 Model Context Protocol(MCP) 서버(mirror-stack-mcp)를 공식 지원합니다. Python 환경에서 pip install만으로 Claude, Cursor, Windsurf 등 최신 에이전트 툴에 즉시 연동하여 실무 워크플로우에 적용할 수 있습니다.

💡 실제 재미있었던 케이스

테스트 과정에서 흥미로운 아크(Arc)가 있었는데, 한 에이전트가 실험을 시작하기도 전에 사전 등록된 전력 점검(Power check) 단계에서 스스로 설계의 모순을 감지하더니, 토큰 비용을 단 1도 쓰지 않은 상태에서 스스로 실험을 철회(Retracted)하고 관련 체인 장부를 남기는 적대적 자기 수정 과정을 보여주기도 했습니다.

자율화된 기계들이 늘어나는 시대에, 인간의 개입을 최소화하면서도 '기계가 강제하고 기계가 검증할 수 있는' 분산 감사 레이어가 필요하다고 생각해 빌딩하고 있습니다.

이제 막 프로토타입과 초기 검증을 거쳐 생태계를 확장하려는 단계입니다. 아키텍처나 AI Alignment/보안에 관심 있으신 분들의 많은 피드백과 스타(Star), 그리고 독립적인 재현(Independent reproductions) 참여를 부탁드립니다!