The Orchestration Tax

(x.com/addyosmani)

2P by ragingwind 18시간전 | ★ favorite | 댓글 2개

AI 에이전트 시대의 ‘오케스트레이션 세금’과 인간 주의력의 병목

Addy Osmani의 글은 여러 AI 에이전트를 동시에 실행하는 일이 실제 생산성 향상으로 곧장 이어지지 않을 수 있다는 문제를 다룹니다. 에이전트는 병렬로 움직일 수 있지만, 결과를 이해하고 검토하고 병합하는 사람의 판단은 병렬화되지 않는다는 점이 핵심입니다. 저자는 이 비용을 ‘오케스트레이션 세금’이라고 부릅니다. 여러 작업 흐름을 조율하는 데 드는 숨은 비용이라는 뜻입니다. 위임의 관점에서 보면, 더 많이 맡기는 것보다 제대로 검토할 수 있는 만큼만 맡기는 기준이 중요하다는 이야기로도 읽힙니다.

핵심 주장
- AI 에이전트를 시작하는 일은 쉽지만, 그 결과를 확인하고 다른 변경 사항과 맞추는 일은 쉽지 않다고 설명합니다.
- 여러 에이전트를 실행해도 “더 많은 나”가 생기는 것은 아니며, 판단과 병합은 결국 한 사람의 주의력을 통과해야 한다고 말합니다.
- 바쁘게 느끼는 상태와 실제로 생산적인 상태는 다를 수 있다고 지적합니다.
- 에이전트 20개를 실행해도 그것이 곧 20개 에이전트만큼의 배포된 작업을 뜻하지는 않는다고 봅니다.
오케스트레이션 세금
- 저자는 여러 에이전트를 조율하는 비용을 구조적 문제로 봅니다. 단순한 집중력 부족이나 훈련의 문제가 아니라, 시스템 설계의 문제라는 설명입니다.
- 에이전트가 만든 결과는 결국 사람이 검토해야 합니다. 이 과정에서 정확성, 아키텍처와의 일관성, 병합 충돌 같은 문제가 한 사람에게 모입니다.
- 그래서 인간은 AI 에이전트 시스템 안에서 느린 직렬 구성 요소가 됩니다. 직렬 구성 요소는 여러 일을 동시에 처리하지 못하고 순서대로 처리하는 부분을 뜻합니다.
기술적 비유
- 저자는 이 상황을 파이썬의 GIL에 비유합니다. GIL은 여러 스레드가 있어도 한 번에 하나만 파이썬 코드를 실행하게 만드는 장치입니다.
- 에이전트는 동시에 실행될 수 있지만, 진짜 이해와 판단이 필요한 순간에는 모두 사람의 주의력이라는 하나의 잠금을 기다리게 된다는 뜻입니다.
- 또한 병렬 처리의 속도 향상은 병렬화되지 않는 부분에 의해 제한된다는 성능 공학의 원리를 끌어옵니다. 에이전트를 늘려도 판단 시간이 줄지 않으면 전체 처리량은 크게 늘기 어렵다는 설명입니다.
장점
- 에이전트는 독립적인 작업을 백그라운드에서 처리하는 데 유용할 수 있습니다.
- 테스트 작성이나 화면 캡처 생성처럼 기계가 어느 정도 증명할 수 있는 작업은 사람의 부담을 줄여줄 수 있습니다.
- 결과 검토를 한 번에 묶어 처리하면, 작업 사이를 계속 오가는 문맥 전환 비용을 줄일 수 있다고 제안합니다.
한계와 위험
- 에이전트 수를 늘려도 사람의 인지 대역폭, 즉 이해하고 판단하는 능력은 늘어나지 않는다고 말합니다.
- 자주 에이전트를 확인하면 매번 다른 작업 맥락을 다시 불러와야 하므로 피로가 커질 수 있습니다.
- 검토가 얕아지면 에이전트가 만든 코드를 충분히 이해하지 않은 채 받아들이는 상황이 생길 수 있다고 경고합니다.
- 이 비용을 제대로 관리하지 않으면 기술 부채와 인지 부채가 함께 쌓일 수 있습니다. 기술 부채는 나중에 고치기 어려운 코드상의 부담이고, 인지 부채는 개발자가 시스템을 이해하지 못한 채 변경을 누적하는 상태를 뜻합니다.
차별점
- 글의 초점은 AI 에이전트 자체의 성능보다 사람의 주의력에 있습니다.
- 생산성을 에이전트 실행 수가 아니라, 실제로 검토되고 병합되어 배포 가능한 작업의 양으로 봐야 한다고 말합니다.
- 사람을 시스템 바깥의 감독자가 아니라, 병렬 시스템 안에 포함된 제한된 자원으로 본다는 점이 특징입니다.
실천 방향
- 에이전트 규모는 도구 화면이 허용하는 수가 아니라, 자신이 제대로 리뷰할 수 있는 속도에 맞춰야 한다고 제안합니다.
- 작업을 나눠야 합니다. 고립된 작업은 백그라운드 에이전트에 맡기고, 이상한 버그나 아키텍처 설계처럼 판단이 핵심인 작업은 병렬화하지 않는 편이 낫다고 봅니다.
- 사람의 주의력은 판단에 써야 하며, 기계가 검증할 수 있는 부분은 에이전트가 테스트나 증거로 먼저 보여주게 하라고 설명합니다.
- 위임은 이 지점에서 아주 제한적으로 의미를 갖습니다. 많이 맡기는 능력보다, 맡겨도 되는 일과 직접 판단해야 하는 일을 가르는 능력이 중요합니다.

이 글은 AI 에이전트 활용의 병목이 실행 능력이 아니라 검토와 판단 능력에 있을 수 있음을 짚습니다. 여러 에이전트를 띄우는 것은 쉬워졌지만, 그 결과를 책임 있게 받아들이는 과정은 여전히 사람의 몫입니다. 따라서 생산성은 에이전트 수를 늘리는 방식이 아니라, 자신의 주의력을 하나의 중요한 시스템 자원으로 보고 그에 맞춰 작업을 배치하는 방식에서 나옵니다. 위임도 같은 원칙 안에 있습니다. 더 많이 맡기는 것이 아니라, 제대로 판단할 수 있는 범위 안에서 맡기는 것이 핵심입니다.