▲raykim 18일전 | parent | ★ favorite | on: AI가 실패할 때, 체계적 오류보다 갈팡질팡이 더 위험할 수 있다 (Anthropic Alignment Research)(alignment.anthropic.com)여러 감시(supervisor) agent를 만들어 감사의견을 합의로 결정하는 방식으로 해결은 어떨지. 메인 워크플로우와 독립적이고 메인 워크플로우 CoT 전체를 감시하는 감사 그룹!
여러 감시(supervisor) agent를 만들어 감사의견을 합의로 결정하는 방식으로 해결은 어떨지. 메인 워크플로우와 독립적이고 메인 워크플로우 CoT 전체를 감시하는 감사 그룹!