소규모 팀에서 AI 에이전트 여러 개를 실서비스에 연결해 운영하다 보니,
계속 부딪히는 문제가 있습니다.
에이전트가 잘못된 결정을 내렸을 때 — 잘못된 코드를 배포하거나,
잘못된 답변을 했거나, 잘못된 파일을 수정했거나 —
그 책임을 어떻게 추적하고 관리하시나요?
저희는 각 에이전트마다 역할·권한·한계를 명시하고, 모든 작업에
"누가 생성했고 누가 승인했는지" 배지를 붙이는 방식을 써보고 있습니다.
근데 이게 정답인지 모르겠습니다.
실서비스에 AI 에이전트를 붙여보신 분들께 여쭤보고 싶습니다.
1. 실수를 사후에 추적하는 방법이 있으신가요?
로그? 배지? Audit Trail? 아니면 결국 인간이 다 확인하시나요?
2. "AI가 제안, 인간이 최종 결정" 원칙을 실제로 지키고 계신가요?
빠른 속도를 위해 AI 결정을 그냥 통과시키는 경우가 생기지 않나요?
그 타협점을 어디서 찾으셨는지 궁금합니다.
3. 에이전트 여러 개가 협력할 때, 중간 결과의 책임은 어떻게 나누시나요?
Agent A → Agent B → 배포 순서라면, 버그가 나면 어디서 끊어야 하나요?
정답을 원하는 게 아니라, 각자 현장에서 어떻게 풀고 계신지 듣고 싶습니다.
저희도 여전히 실험 중입니다.