판사, 4억 달러 알고리듬 시스템의 메디케이드 혜택 불법 거부 판결

• Tennessee 주의 TennCare Connect가 프로그래밍·데이터 오류로 저소득층과 장애인의 Medicaid 및 기타 혜택을 불법 거부했다는 법원 판단이 나옴
• Deloitte와 다른 계약업체가 4억 달러 이상을 들여 구축한 자동 자격 판정 시스템이 실제 운영에서는 필요한 데이터를 누락하고, 가구를 잘못 배정하며, 부정확한 결정을 내림
• 2020년 혜택을 거부당한 성인·아동 35명을 대신해 제기된 집단소송의 결과로, 수천 명의 TennCare 가입자가 영향을 받음
• 2019년 도입된 시스템은 Affordable Care Act의 단일 신청 절차와 간소화된 등록 요건을 맞추기 위한 현대화 작업이었지만, 보장 종료 전 모든 가능 프로그램 자격을 검토하지 못함
• Deloitte의 자동 자격 판정 시스템은 Tennessee 외 다른 주에서도 논란이 이어지고 있어, 공공 혜택 자동화가 의료 보장 상실로 이어질 수 있다는 위험을 드러냄

---

TennCare Connect에 대한 법원 판단

• Tennessee 중부지방법원의 Waverly Crenshaw Jr. 판사는 Tennessee 주의 알고리듬 시스템 때문에 수천 명이 Medicaid 및 기타 혜택을 불법적으로 거부당했다고 판결함
• 문제가 된 TennCare Connect는 Deloitte와 다른 계약업체가 4억 달러 이상을 들여 구축한 시스템임
• 원래 목적은 신청자의 소득과 건강 정보를 분석해 여러 혜택 프로그램의 자격을 자동 판정하는 것이었음
• 실제 운영에서는 자격 판정의 기본 전제가 흔들림
  • 적절한 데이터를 불러오지 못함
  • 수급자를 잘못된 가구에 배정함
  • 잘못된 자격 판정을 내림

보장 종료 전 자격 검토 실패

• Crenshaw 판사는 “주가 운영하는 Medicaid를 받을 자격이 있는 가입자가 의료 보장을 받기 위해 운, 끈기, 열성적인 변호에 의존해서는 안 된다”고 판결문에 씀
• TennCare Connect는 가입자의 보장을 종료하기 전에 신청자가 이용 가능한 모든 프로그램에 자격이 있는지 검토하지 않았음
• 여러 건강·장애 혜택 프로그램 중 어느 자격에 해당하는지 판단해야 하는 시스템이 오히려 자격 검토 누락을 일으킨 셈임

집단소송과 원고 측 반응

• 이번 판결은 2020년에 제기된 집단소송의 결과임
• 소송은 혜택을 거부당한 성인과 아동 35명을 대신해 제기됨
• 원고를 대리한 단체 중 하나인 Tennessee Justice Center의 Michele Johnson은 이번 판결을 원고와 TennCare 회원들에게 “엄청난 승리”라고 평가함
• Johnson은 TennCare의 불법 정책과 관행 때문에 중요한 건강 보장을 잃은 사람들이 있었고, 원고 가족들이 주 전역의 수천 명의 이웃을 위해 소송을 제기했다고 밝힘

2019년 도입된 Medicaid 현대화 시스템

• TennCare Connect는 2019년에 출시됨
• Tennessee 주는 Medicaid 시스템을 현대화하고 Affordable Care Act의 새 자격 기준과 간소화된 등록 요건을 따르기 위해 수년간 작업을 진행함
• 새 규칙에 따라 주 정부는 주민 정보를 수집하고 복잡한 건강·장애 혜택 프로그램 중 어느 자격에 해당하는지 판단하는 단일 신청 절차를 제공해야 했음
• 법원은 TennCare Connect가 보장을 종료하기 전에 신청자가 모든 이용 가능한 프로그램에 자격이 있는지 고려하지 않았다고 판단함

Deloitte 계약과 다른 주의 조사 요청

• Deloitte는 전국 Medicaid 현대화 작업의 주요 수혜자였으며, Tennessee와 Texas를 포함한 20개 넘는 주에서 자동 자격 판정 시스템 구축 계약을 따냄
• 시민단체들은 Texas에서도 Deloitte의 결함 있는 시스템 때문에 수천 명의 주민이 생명 유지에 필요한 혜택을 부적절하게 거부당하고 있다며 Federal Trade Commission 조사를 요청함
• Tennessee 판결은 자동화된 공공 혜택 자격 판정이 데이터 처리와 프로그램 검토를 잘못 수행할 경우 실제 의료 보장 상실로 이어질 수 있음을 보여줌

[GN⁺]

Hacker News 의견들

• TennCare 승인을 받기까지 한 번 거절당하고 4년이 걸렸고, 내가 보기엔 그 정도가 평균처럼 보임
  이 시스템은 분명 일부 자살에 영향을 줬을 것임. 결정 상당수가 잘못됐고, 이 지역 사람들이 그렇게 가난한 상황에서 가족에게 보험금이라도 남기려고 자살 원인을 숨기는 비극까지 생겼음
  거절당한 사람들의 의료비는 처음부터 승인됐을 때보다 지금 더 커졌을 가능성이 높고, 결국 그 비용은 빈곤층이 아니라 병원 시스템이 떠안고 있음. Deloitte만 빼고 모두의 재정이 악화된 겹겹의 비극임

  • 그 나라에 살지 않아 잘 모르는데, 여기서 거절이란 잠재적으로 사기성 거래 같은 것인지, 아니면 다른 의미인지 궁금함
  • 이미 개발 중인 AI 기반 버전도 있지 않을까 싶음 ;)

• 호주에는 최근 Centrelink 복지 지급을 부채 회수 시스템으로 평가한 robodebt가 있었고, 수천~수만 달러짜리 잘못된 청구가 매우 많이 나왔음
  자살도 발생했음
  이 부채 회수 제도의 합법성을 조사한 왕립위원회 결과 불법으로 판단됐고, 모든 부채가 취소된 것으로 알고 있음. 책임자 다수가 반부패위원회에 기소 권고를 받았고, 그 권고는 대법원 판사가 한 것으로 아는데, 반부패위원회는 기소하지 않기로 했음

  • 기소했다면 여러 책임 추궁 방식 중 그게 최선이었을지 궁금함
    안타깝게도 아마 다른 어떤 책임 추궁도 진행되지 않았을 것 같음

• Deloitte가 주 정부의 직접 지시와 승인 없이 이런 일을 했을 가능성은 낮아 보임
  플로리다의 실업급여 시스템도 일부러 쓰기 매우 어렵게 사양이 짜였고, 그게 당시 행정부의 목표였음. 컨설팅 회사에 호감은 없지만, 이 일로 정부 관계자는 처벌받지 않고 Deloitte만 희생양이 되면 다른 컨설팅 회사와 함께 또 반복될 것임

  • 어느 정도는 경영 컨설팅 회사가 큰돈을 받는 이유가, 고객이 원래부터 하고 싶어 했던 일이 나쁘게 드러났을 때 희생양이 되기 위해서임
    그래도 이들도 기업임. 추락의 규모가 충분히 크거나, 그런 일이 계속 안정적으로 발생하면 특정 유형의 희생양 역할은 자청하지 않게 될 것임
    도와야 할 취약계층을 죽이는 사업 관행은 확실히 손해 보는 일로 만들어야 함
  • 더 깊이 보려면 Virginia Eubanks의 Automating Inequality를 추천함
  • 더 그럴듯한 원인은 제대로 만들 유인이 부족했다는 것임

• “수급자가 주가 운영하는 Medicaid를 받을 자격이 있다면, 그 의료 보장을 받는 데 운과 끈기와 열성적인 변호가 필요해서는 안 된다”는 문장은 정말 강력함
  자격이 있으면 자격이 있는 것임. 단순함. 그리고 그걸 체계적으로 막는 모든 것은 완전히 잘못됐음
  더 중요한 것은 승인 절차임. Deloitte가 만들었을 수는 있지만, 주 정부가 사용을 승인했고 누군가가 결재했음
  게다가 이건 쉽게 고칠 수 있는 문제가 아님. 이런 식으로 보장을 잃는 건 그냥 되돌리면 끝나는 일이 아니고, 사람들의 이후 삶 전체에 나쁜 영향을 줬음
  실수는 생기지만, 이건 단순한 일회성 실수가 아님. 썩은 구조이고, Deloitte가 작성했더라도 고객이 요구했고 배포한 시스템임. 궁극적 책임은 거기에 있음

• TennCare Connect 시스템이 Deloitte와 다른 계약업체에 4억 달러 이상을 들여 만들어졌다는 데 이유가 드러남. 정부 소프트웨어는 오픈소스여야 함
  시민은 공무원에게 책임을 물을 수 있어야 함. “사회는 모든 공무원에게 그 행정에 대한 설명을 요구할 권리가 있다”는 제15조도 있음: https://en.m.wikipedia.org/wiki/Declaration_of_the_Rights_of...
  무능한 계약업체를 해고하고 다른 곳으로 교체할 수 있어야 하며, 이를 위해서는 오픈소스 코드베이스가 훨씬 현실적임. 계약업체가 영업비밀 조항으로 교체를 불가능하게 만들 수도 없어야 함
  Deloitte가 Tennessee와 Texas를 포함해 20개 넘는 주에서 자동 자격 판정 시스템 계약을 따냈다니, 납세자 돈이 너무 많이 낭비됐음

  • 오픈소스여야 할 수도 있음. 결국 우리 세금으로 만든 것이니까. 하지만 이 실패는 소프트웨어의 실패라기보다 소프트웨어를 쓰는 방식의 실패이고, 누가 도움을 받을 수 있는지에 대한 법과 기준이 복잡한 탓이기도 함
    법과 프로그램은 단순하게 만들어야 함. 사람들에게 필요한 치료를 거절하는 행정 소프트웨어에 4억 달러를 쓰는 일 자체가 없어야 했음. 그 돈은 사람들을 돕는 데 쓰고, 너무 많은 사람을 승인했을 때의 비용을 흡수하는 데 썼어야 함
    사법제도는 결함이 있음을 인정하고, 무고한 사람을 처벌하지 않기 위해 유죄인 사람을 놓아주는 쪽으로 설계되어 있음. 물론 그마저도 실패하고 있지만. 복지와 의료도 자격 없는 사람을 실수로 돕더라도 자격 있는 모든 사람이 돌봄을 받도록 설계해야 함
  • 그 취지에는 동의하지만, 링크한 프랑스 인권선언과 미국 법 사이의 관계가 무엇인지 궁금함. 차라리 FOIA를 기반으로 논리를 세우는 편이 낫지 않을까: https://en.wikipedia.org/wiki/Freedom_of_Information_Act_(Un...
  • 4억 달러는 상상하기도 어려운 금액임
    Deloitte가 좋은 소프트웨어를 만든 적이 있나? 개인적으로는 그들의 작업에 매우 강한 부정적 편견이 있음. 그래도 여기 누군가 같이 일해 보고 감명받았을 수도 있겠지만…
  • 유능한 정부 계약업체라는 건 없음. 제안요청서 절차에서 살아남는 회사들은 비용을 극대화하고 가치를 최소화하는 방식으로 움직임
  • United States Digital Service가 더 많은 정부 소프트웨어를 오픈소스로 만들도록 밀고 있음[1]. 얼마나 효과적인지는 모르지만, 보고 기분이 좋았음
    [1] https://playbook.usds.gov/에서 “Default to open” 검색

• 이 스레드에 있는 모두에게 Code For America 창립자 Jennifer Pahlka의 Recoding America를 읽어보라고 권하고 싶음
  정부에서 소프트웨어가 왜 이렇게 엉망이 되는지 자세히 다루는 매우 좋은 책이고, 이유는 “나쁜 소프트웨어 엔지니어”보다 훨씬 많으며 모두 흥미로움

  • 그녀의 Substack도 꽤 좋음:
    https://www.eatingpolicy.com/

• 결국 이건 두 가지와 비교해 봐야 함. 1) 4억 달러어치 인력이 소프트웨어보다 얼마나 정확하고, 부패 없이, 신속하게 처리했을지. 2) Code for America가 4억 달러의 자원을 받았다면 얼마나 더 나은 소프트웨어를 만들었을지
  직감으로는 1)은 훨씬 나빴을 것 같고, 2)는 훨씬 좋았을 것 같음

  • 지금은 이 시스템이 초래한 피해와만 비교해야 하고, 그 피해에 책임 있는 회사는 의미 있는 결과를 감수해야 함
    같은 상황에서 사람이 더 나쁘게 했을지 여부는 중요하지 않음. 애초에 쉽게 증명할 수도 없음. 살인자를 처벌할 때 다른 살인자가 피해자를 더 끔찍하게 죽였을 수 있다는 식으로 따지지 않는 것과 같음. 실제로 한 일에 대해 처벌하면 됨
    일반적으로 소프트웨어가 좋은 아이디어일 수는 있지만, 이 소프트웨어는 완전한 악몽이었고 이런 결정을 내릴 자리에 있어서는 안 됨
  • 그냥 모든 신청자를 승인하는 데 비용이 얼마나 들었을까 싶음

• Deloitte 같은 대형 컨설팅 회사 이름이 이런 일에 나오는 건 전혀 놀랍지 않음. 이런 거머리들 때문에 경제 전체에서 얼마나 많은 돈과 생산성이 사라지는 걸까?
  이 사건을 제쳐두더라도, 잠재적 수급자가 애초에 왜, 어떻게 거절됐는지 알아야 소송을 제기할 텐데 그걸 어떻게 알 수 있을까? 특히 강제 중재로 몰리면 더 그렇다. 예를 들어 민간 건강보험사, 특히 Aetna는 지급을 줄이기 위한 전형적 방식으로 많은 청구를 부당하게 거절하는 것처럼 느껴짐. 환자는 긴 대기 시간, 수많은 통화, 끝없는 주의가 필요한 장기 절차에 끌려다님. 환자에게 비용을 떠넘겨 지급을 피하는 이런 방식은 불법이어야 함. 하지만 기본적인 투명성조차 없으면 무슨 일이 벌어지는지 어떻게 보고, 어떻게 다툴 수 있겠나

  • 우편으로 결정 검토서를 받음. 거절 사유를 설명해야 하는 구역이 있고, “당신이 이 기준을 충족한다고 보지 않는다”는 식으로 직접 적혀 있음
    개인적으로는 끔찍한 편지라고 봄
  • 개인적으로는 주 정부가 청구를 승인하거나 거절해야 한다고 봄. 코드별 기간 안의 중복 청구 같은 경우를 제외하면 말임. 보험사에 청구 처리를 맡기는 건 강도에게 경찰 역할을 맡기는 것과 비슷함

• 정말 유능한 개발자들로 팀을 꾸리고, 정부가 사람들을 위해 더 잘 작동하게 만들고 싶어 하는 사람들에게 어느 정도 경쟁력 있는 보수를 주고[], 이 시스템의 소프트웨어 부분을 만들고 배포하게 한다고 상상해 보자
  그러면 소프트웨어는 1년 안에, 비용 1천만 달러 정도로 완성될 수도 있지 않을까? 이 프로젝트의 비소프트웨어 비용은 제외하고
  이후 그 팀원들은 다음 프로젝트로 이동하면 됨
  [] FAANG만큼은 아니더라도 FAANG 총보상의 50% 정도를 순수 급여로 주는 방식을 생각함. 돈만 보고 움직이는 FAANG 용병형 인력은 자연스럽게 걸러지지만, 의미 있는 일을 하고 싶은 최상급 인재에게는 충분한 소득과 직업 안정성이 있어 스트레스 때문에 업무에 방해받지 않을 수준임. 다만 채용 기준을 정말 높게 유지해야 하고, 작은 팀을 신중히 직접 골라야 하며, 공식이 성공했다고 타협하면 안 됨. 동시에 너무 많은 프로젝트를 병렬로 확장하려는 기관, 일자리 사업으로 만들려는 정치인, 후원·친인척 채용으로 채우려는 시도에는 거절할 수 있어야 함

  • 예전에 컨설팅을 운영했는데 비슷한 방식으로 다시 해볼까 생각한 적이 있음. 소규모 소프트웨어 프로젝트의 정부 조달에 주변적으로 관여해 보면 일반적인 약탈적 독립 소프트웨어 업체가 어떻게 움직이는지 직접 보게 됨
    내 경험상 단일 사이트 라이선스 비용은 직접 만드는 비용보다 20~30% 낮게 책정됨. 하지만 그러면 소프트웨어를 소유하지 못하고 지속 유지보수 비용을 계속 내야 함. 처음엔 싸 보이지만 결국 더 나쁜 소프트웨어에 더 많은 돈을 쓰게 됨
    이 분야는 뒤집힐 준비가 되어 있음. 참여자 모두가 같은 탐욕의 규칙으로 움직이기 때문임
  • 그게 바로 healthcare.gov 구조팀이었고, patio11도 거기에 있었음
    하지만 정부 쪽 사람들은 대체로 그런 걸 하려는 게 아님. 소프트웨어를 만들려는 게 아니라, 자신을 당선시켜 준 친구들을 부자로 만들려는 것임. 그리고 시간이 지나 자리에서 물러나면, 다른 친구들이 정부를 상대로 뭔가를 뜯어내는 법무팀을 운영할 수도 있음
    POSIWID다. 우연이라고 생각하겠지만, 의도적으로 그렇게 되어 있음
  • 이건 대략 Code For America 모델과 비슷함. 다만 “시스템을 만들 능력” 말고도 장애물이 많음. 예를 들어 반드시 따라야 하는 쓸데없이 엄격하고 비대한 규제가 있음. 안타깝게도 좋은 엔지니어만으로는 충분하지 않음

• 플로리다의 전 주지사가 Medicare 사기로 유죄 판결을 받았다는 사실은 무시하기 어려움. 거기엔 뭔가가 있음

  • 전 주지사이자, 현재 미국 상원의원으로 승진한 사람임. 1990년대 기준으로도 수십억 달러의 납세자 돈을 훔쳤다면 최고위 공직 중 하나에 오를 자격은 없어야 한다고 생각할 텐데 말임