- Accountability sink는 판단이 공식 절차로 대체되면서 결정은 실행되지만, 책임질 사람과 항의할 대상이 흐려지는 제도적 현상임
- 절차는 효율·안전·조직 기억을 만들지만, 위에서 내려온 규칙은 현장이 문제를 알아도 맹목적 준수를 유도할 수 있음
- 공항의 땅다람쥐 폐기, 항공사 게이트 직원, 신용카드 이름 제한, 홀로코스트 행정, 집안일 분담 사례는 모두 판단이 절차에 흡수될 때 생기는 책임 공백을 보여줌
- 반대로 학계 종신재직권, Xerox PARC·Bell Labs·DARPA식 연구 보호, 벤처캐피털, Google SRE의 blameless postmortem은 책임 부담을 줄여 더 나은 판단을 가능하게 함
- 복잡한 사회에서 절차는 사라질 수 없으므로, 핵심은 절차가 사람을 숨기는 장치가 아니라 현장 판단을 살리는 제도 설계가 되도록 만드는 데 있음
Accountability sink의 기본 구조
- Dan Davies의 책 The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind는 사람이 하던 판단이 공식 절차로 대체되는 현상을 accountability sink라고 부름
- 사람이 직접 판단하던 사안이 절차로 바뀌면, 누군가가 의도적으로 결정했다기보다 프로세스가 실행된 형태가 됨
- 절차가 잘못 작동해도 탓할 사람도, 항의할 대상도 사라지기 쉬움
- 조직에는 인간 판단을 절차로 바꾸려는 유인이 큼
- 결정은 논란을 낳을 수 있음
- 이해관계가 걸리면 반발과 원망이 생김
- 비인격적 절차는 책임감이나 죄책감 없이 같은 결정을 반복 적용하게 해줌
절차가 만든 책임 공백
- 1999년 4월, 베이징에서 KLM 항공편으로 암스테르담 외곽 Schiphol Airport에 도착한 땅다람쥐 440마리는 필요한 수입 서류가 없어 아테네 고객에게 전달되지 못함
- 오류를 수정해 되돌려 보내는 조치도 이뤄지지 못함
- 공항 직원들은 서류 문제 앞에서 440마리를 산업용 분쇄기에 넣음
- 명령은 네덜란드 정부의 농업·환경관리·어업 부서에서 나왔고, KLM 경영진은 나중에 그 명령이 “그 형태와 실행 가능한 대안 부재 때문에 비윤리적”이었다고 밝힘
- 직원들은 명령을 따랐다는 점에서 “형식적으로는 올바르게” 행동했지만, KLM은 그 결정이 assessment mistake였다고 인정함
- 이 시스템의 사실상 유일한 안전장치는, 동물 처분을 맡은 사람들이 결과가 충분히 기괴해 보이면 직접 지시를 거부할 수도 있다는 흐릿한 기대였음
- 창고에서 일하는 사람이 정부 명령을 윤리적 이유로 뒤집을 권한을 받는 경우는 일반적이지 않음
- 평소 99%는 명령을 따르다가 100번째 사례에서 갑자기 독립적으로 판단하리라고 기대하는 것은 심리적으로도, 관리적으로도 현실적이지 않음
- 항공사 게이트 직원은 승객에게 탑승 배제 같은 나쁜 소식을 전달하지만, 회사 정책상 바꿀 수 있는 것이 거의 없음
- 고객은 사람에게 말하고 있지만, 실제로는 더 높은 계층에서 정해진 규칙과 절차를 상대함
- 화를 내고 싶어도 눈앞의 개인을 비난하기 어렵고, 회사는 익명의 조직 목소리로 말하게 됨
- 신용카드 회사 사례에서는 플라스틱 카드 디자인이 이름 24자까지만 허용함
- 직원들이 긴 이름을 가진 신청자 문제를 비즈니스 팀에 제기함
- 비즈니스 팀은 해당 비율이 매우 작다는 이유로 카드 재설계 대신 신청 거절을 택함
- 신청자는 신용 상태가 좋아도 카드를 받을 수 없고, 이유도 듣지 못하며, 항의할 책임자도 찾기 어려움
- 기술적 결함이 절차로 덮인 셈임
- 부부가 설거지 순서를 주 단위로 번갈아 정한 사례는 작은 규모에서도 같은 문제가 생길 수 있음을 보여줌
- 한 사람이 아프면 설거지가 쌓이지만, 다른 사람은 자기 차례가 아니라는 이유로 책임감을 느끼지 않음
- 비난할 사람도 명확하지 않음
관료제와 대규모 절차의 위험
- 홀로코스트 연구자들은 대규모 학살이 대중적 증오를 형식화된 행정 절차로 전환했기 때문에 가능했다고 봄
- 유대인을 나머지 인구와 분리하고 한곳에 집중시키는 일은 학살로 가는 핵심 단계였음
- 불가리아에서는 유대인을 게토나 지역 “노동수용소”에 모으지 않고 농촌으로 보내 농장 일을 돕게 함
- 전국에 흩어진 뒤에는 열차에 태워 강제수용소로 보내는 후속 단계를 진행하기 어려웠음
- 유대인을 집중시키는 업무는 학살 성공에 중요했지만, 그 일을 수행한 관료들은 자신이 직접 사람을 죽인다고 느끼지 않았음
- 그들은 매일 하던 지루한 행정 업무를 수행한다고 여김
- 뉘른베르크 재판을 보면 “아무도 책임이 없다”는 느낌이 남음
- 많은 피고인은 명령만 따른 것이 아니라 스스로 행동한 경우도 있었음
- 불법 명령 불복종에 대해 독일 병사들이 받은 결과는 놀라울 정도로 가벼웠다는 연구도 연결됨
- 그럼에도 최종 해결책 실행에 수십만 명이 관여했기 때문에, 왜 일부만 처벌되는지에 대한 임의성의 느낌이 남음
- 역사가 Götz Aly 인터뷰에서는 1965년에 같은 기준을 적용했다면 살인 방조로 독일 남녀 30만 명 이상을 종신형에 처해야 했을 것이라는 말이 나옴
- Wannsee Conference의 비서 같은 사무직도 명령을 타이핑했지만, 당시에는 감옥에 보내야 한다고 보지 않았음
절차의 장점과 책임 회피의 양면성
- 공식 절차는 대부분 유용함
- 효율을 높이고 같은 결정을 반복 적용해 규모의 경제를 만듦
- 조종사가 이륙 전 체크리스트를 확인하는 것처럼 안전을 개선함
- 과거 사례에서 얻은 교훈과 해결책을 단계로 인코딩해 조직 기억을 저장함
- 하지만 관료제의 깊은 곳에서 절차는 단순한 효율 수단을 넘어 책임을 관리하고 회피하는 기술이 될 수 있음
- 오늘날 서구의 불만은 사람을 인간이 아니라 기계 부품처럼 대하는 시스템에 갇혔다는 분노와 연결됨
- 절차가 결정을 내리고, 실패하면 설명하거나 책임질 사람이 없음
- 국가나 민간 기업이 책임을 비인간적 절차에 넘기고 구제 수단을 주지 않으면, 민주주의도 속이 빈 개념처럼 느껴짐
- 전문가에 대한 반발, 판사에 대한 회의, 부패에 대한 관용도 이 관점에서 다르게 보임
- 전문가는 비인간적 시스템의 설계자로 보일 수 있음
- 판사는 정의보다 절차에 더 헌신하는 것처럼 보일 수 있음
- 부패는 나쁘지만 적어도 이름과 얼굴이 있는 사람이 내리는 결정으로 보일 수 있음
- 자동응답 전화, 끝없는 메뉴, 사람에게 연결되지 않는 고객지원 경험은 이런 불안을 더 강하게 만듦
책임 완화가 좋은 결과를 만드는 경우
- 책임 제한은 때로 의도적으로 필요한 제도임
- 학계의 tenure는 과학자를 사실상 해고하기 어렵게 만들어 위험하거나 비전통적인 연구를 할 자유를 줌
- 연구자는 관리자에게 일정에 맞춘 성과를 내거나 실패를 사과해야 할 필요가 줄어듦
- Xerox PARC, Bell Labs, DARPA 같은 성공적 연구기관에서도 비슷한 패턴이 나타남
- 연구자를 즉각적 유용성 요구, 관료적 감시, 상부에 대한 지속적 정당화 요구로부터 보호한 관리자가 있었음
- 벤처캐피털 모델도 스타트업 창업자의 책임을 완화함
- 창업자는 성공하려고 노력할 것으로 기대되지만, 실패했다고 책임 추궁을 받지는 않음
- 실패 위험은 이미 VC가 가격에 반영함
- VC는 자본 소유자와 창업자 사이의 accountability sink처럼 작동함
규칙을 깨야 했던 현장
- 2017년 10월 1일 Las Vegas 총기난사 사건 뒤, 한 병원 응급실에는 총상 환자 수백 명이 한꺼번에 몰림
- 의료진은 확립된 규칙과 절차를 여러 차례 어기며 대응함
- 교과서상 triage는 가장 경험 많은 의사가 맡아야 하지만, 현장에서는 간호사에게 triage를 넘김
- Pyxis 인증 절차가 흐름을 막자 etomidate, succinylcholine, O negative 혈액을 현장 가까이에 확보함
- ventilator가 부족하자 Y tubing으로 비슷한 체격과 tidal volume을 가진 두 사람을 한 ventilator에 연결하는 방법을 사용함
- 한 댓글은 이 사례를 두고 “그가 영웅이 아니었다면 즉시 해고됐을 것”이라고 표현함
- Gmail SRE 경험에서는 장애 대응 때 강제된 절차가 거의 없었음
- SRE는 서비스 가용성에 대해 상부에 책임을 지지만, 장애 처리 중 정해진 프로세스를 따라야 한다는 요구는 없었음
- 많은 절차를 사용했지만, 강제 규칙이라기보다 팀이 선택한 가이드라인이나 권고에 가까웠음
- 장애 이후에는 소프트웨어 수정만큼이나 절차 조정도 대응의 일부였음
- Google SRE 문화의 blameless postmortems는 개인 책임을 명시적으로 제한함
- postmortem은 특정 개인이나 팀을 부적절한 행동으로 비난하지 않고, 사고에 기여한 원인을 찾는 데 집중해야 함
- 모두가 당시 가진 정보 안에서 선의로 올바른 일을 했다고 가정함
- 처벌에 대한 두려움이 있으면 사람들이 문제를 드러내지 않게 됨
항공 안전과 정직한 보고
- 1991년 2월 1일, Los Angeles International Airport 활주로에서 제트 여객기가 소형 통근 프로펠러기와 충돌해 최종 35명이 사망함
- Asterisk의 글은 관제사 Robin Lee Wascher 사례를 다룸
- Wascher는 USAir flight 1493에 착륙 허가를 내기 몇 분 전, SkyWest flight 5569에 runway 24L에서 “taxi into position and hold”를 지시했음
- 그녀는 이륙 허가를 내린 기억이 없었고, 그 비행기가 여전히 활주로에 있었을 가능성을 깨달음
- Wascher는 관제탑으로 돌아가 감독관에게 USAir가 충돌한 대상이 SkyWest flight 5569라고 믿는다고 말함
- Wascher의 실수와 그 실수가 35명의 죽음으로 이어졌다는 점은 명확했지만, 그녀는 처벌받지 않음
- 동료들은 언론을 막기 위해 호텔 방 밖을 지킴
- 몇 달 뒤 NTSB 청문회에서 자신의 기억을 성실하게 증언함
- 관제탑에 돌아갈 기회도 받았지만 거절함
- 형사 기소된 사람은 없었음
- Wascher를 제거해도 안전이 개선되지는 않음
- 그녀는 특별히 나쁜 관제사가 아니라 평균적인 기록을 가진 평균적인 관제사였음
- 동료들은 같은 일이 누구에게나 일어날 수 있었다는 점을 강조함
- 정직한 보고로 두 번째 지상 레이더 구매, 방해 조명 이전, 부수 업무 제거 같은 개선이 이뤄진다면 Wascher 해고보다 항공 안전에 훨씬 큰 효과가 있음
- 처벌은 다른 숙련 관제사들이 통제 밖의 일에 책임지기를 꺼리게 만들고, 결국 경험 적은 사람으로 대체되는 효과를 낳을 수 있음
막힌 시스템을 푸는 책임 우회
- HealthCare.gov는 2013년 10월 1일 예정대로 출시됐지만, 방문자들은 곧 여러 기술 문제를 겪음
- 일부 추정으로 첫 주에 관심 있는 사람 중 1% 만 등록할 수 있었음
- 사이트 실패는 Obama의 핵심 정책 실패로 이어질 수 있었고, 백악관의 최우선 과제가 웹사이트 성능이 된 첫 사례로 다뤄짐
- Jennifer Pahlka의 Recoding America에 따르면, 이후 팀은 두 단계 계획을 세움
- 관련 경험과 기술을 가진 소규모 기술팀을 모집함
- 웹사이트 구현 책임 기관인 CMS의 신뢰를 얻음
- 새로 합류한 기술자들은 책임 추궁하러 온 것이 아니라 돕기 위해 왔다고 분명히 함
- 일반적인 실패 대응처럼 감독이 강화되고 행동 범위가 줄어드는 대신, CMS는 신뢰할 수 있는 기술자들과 함께 일하게 됨
- CMS는 기술과 서비스를 조달하는 방법은 알았고 healthcare.gov에만 60개의 계약을 발주했지만, 이제는 계약 조건이 아니라 코드를 볼 수 있는 사람들이 팀에 생김
- Dominic Cummings는 2020년 3월 COVID 위기 당시 NHS PPE 조달 상황을 회고함
- 주문한 PPE가 여름까지 도착하지 않는다는 답을 들었지만, 최대 수요는 향후 3~4주였음
- 기존 방식대로 중국에서 선박 운송을 하려 했고, 그는 항공사가 멈춰 있으니 비행기를 중국으로 보내 물자를 가져오라고 요구함
- Boris Johnson만이 관료제, EU 규칙, 재무부 지침 등을 우회하라고 말하고 “모든 법적 책임을 개인적으로 지겠다”고 할 수 있었음
- Johnson이 책임을 떠안으면서 공무원의 부담이 줄었고, 경직된 공식 절차에 멈춰 있기보다 문제를 풀 수 있었음
시장이라는 거대한 책임 완화 장치
- 자유시장은 accountability sink의 가장 큰 사례로 다뤄짐
- 정부는 법치, 계약 집행, 세금과 법 준수를 보장하되 시장의 일상적 작동에는 개입하지 않기를 기대받음
- 시장은 사회 곳곳에 흩어진 정보를 모아 희소 자원 배분을 최적화하는 정보 처리 장치로 많이 설명돼 왔음
- 책임 부재는 기업가가 큰 위험을 감수할 수 있게 함
- 회사가 실패하면 비난은 창업자 자신의 몫이지만, 누군가가 뒤쫓아와 처벌하지는 않음
- 안전하게만 움직일 필요가 줄어듦
- 공산주의 경제 실패에는 수요와 공급의 법칙 무시가 주요 원인이었지만, 모든 기업 경영진이 상부와 공산당에 책임져야 했던 구조도 위험 회피를 낳았을 수 있음
- 그 결과 과학자가 기술을 발견해도 신기술과 비즈니스 관행 구현 성과가 나빠지고 전반적 경제 침체로 이어졌다는 해석이 나옴
제도 설계를 위한 구분
- 공식 절차는 대부분 유익하고, 복잡한 현대 사회는 절차 없이 유지될 수 없음
- 모든 공식 절차가 accountability sink는 아님
- 스스로 설계하고 자신에게 부과한 절차는 문제가 생겨도 책임을 면제하지 않음
- 위에서 부과된 절차는 목표를 해치더라도 맹목적 준수를 유도할 수 있음
- 모든 accountability sink가 경직성과 은폐로 이어지는 것도 아님
- 절차는 영향을 받는 사람을 책임 부담에서 보호하면서도, 미리 정해진 해법을 강요하지 않도록 설계될 수 있음
- blameless postmortem이 그런 예임
- 게이트 직원 같은 상황에서는 실제로 예외적 에스컬레이션 능력이 조금 있을 때가 많지만, 공개적으로는 불가능하다고 유지해야 함
- 그 결과 고객 입장에서는 충분히 불쾌하게 행동해야 예외·에스컬레이션·특별 처리를 끌어낼 수 있다는 2차 효과가 생김
- Ayn Rand의 Atlas Shrugged 인용은 빨간 신호 앞에서 책임 전가를 두려워해 움직이지 않는 사람들과, “내가 말한다”고 하며 책임을 맡는 Dagny Taggart의 장면을 통해 같은 문제를 소설적으로 보여줌