- Marietje Schaake의 신간 The Tech Coup은 민간 기술 기업이 사이버보안, 치안, 선거, 군사 방어 같은 정부 영역에 들어오며 민주적 법치가 흔들리는 문제를 다룸
- NSO Group의 Pegasus, Clearview 얼굴 인식, 선거 기술 업체, Starlink 접속 결정처럼 기업 규모와 무관하게 국가가 독점하던 능력과 판단이 민간으로 이동하고 있음
- 디지털 영역에도 의약품·화학물질·식품·자동차·해외 분쟁 결정에 적용되는 수준의 법적 명확성, 책임 메커니즘, 투명성이 필요함
- 정부가 공공 기능을 기술 기업에 맡길수록 기업도 정부 수준의 책임을 져야 하며, 독립 기술 전문가, 공공 책임 확장, FOIA 실효성 유지가 중요해짐
- 데이터센터의 에너지·물 사용, AI 배포 전 사회적 영향 평가, 연방 데이터 보호법과 아동 온라인 보호는 개인 선택만으로 풀기 어렵고 정치적 감독과 주 단위 규제가 커지고 있음
기술 기업이 정부 기능을 맡을 때 생기는 위험
- The Tech Coup: How to Save Democracy from Silicon Valley는 Stanford HAI Policy Fellow인 Marietje Schaake가 민간 기업의 통제되지 않은 권력을 민주주의 위협으로 다루는 책임
- 기술 기업은 거대한 경제력뿐 아니라 정부에 맡겨지던 역할까지 수행하고 있음
- 사이버보안
- 치안에 쓰이는 시스템
- 선거
- 군사 방어 정책
- 책의 사례는 Schaake가 2009년부터 2019년까지 유럽의회 의원으로 활동한 경험과 Stanford’s Cyber Policy Center, Stanford HAI에서 기술 문화를 관찰한 경험에서 나옴
국가 권한이 민간 기업으로 넘어가는 방식
- 디지털 영역에서는 기업의 정보 통제, 행동 권한, 실행 능력이 정부의 능력에 거의 맞먹거나 넘어서는 상황이 생김
- NSO Group Technologies는 Pegasus 스파이웨어로 사람들의 기기를 해킹할 수 있는 능력을 만들고 판매함
- Pegasus를 구매할 재정 능력이 있으면 정보기관 수준의 기능에 접근할 수 있음
- 정치적 반대자, 판사, 기자, 핵심 직원, 경쟁자 등의 매우 사적인 정보에 접근 가능함
- 일부 기업은 고객이나 네트워크를 방어한다는 명목으로 국경을 넘어 해커를 공격하며, “offense as defense” 방식의 공격적 사이버 역량을 사용함
- 이 문제는 대형 기술 기업에만 한정되지 않음
- NSO, Clearview의 얼굴 인식 소프트웨어, 선거 기술 생산 기업도 같은 문제를 보여줌
- Elon Musk가 우크라이나에서 누가 Starlink 인터넷 연결에 접근할 수 있는지 결정한 사례도 포함됨
- 과거에는 국가의 배타적 영역이던 능력과 결정이 민간 기업으로 흘러가지만, 법치 사회에서 기대하는 견제와 균형은 함께 따라오지 않음
디지털 영역에 필요한 법·책임·전문성
- 민주적 주체가 다시 책임을 지려면 기업이 거버넌스, 민주주의, 국제법에 행사하는 권력을 먼저 인식하고 이해해야 함
- 디지털 영역에도 다른 혁신 분야에서 기대하는 수준의 법적·제도적 장치가 필요함
-
법적 명확성
- 책임 메커니즘과 투명성 조치가 함께 마련돼야 함
- 미국의 우크라이나 전쟁 대응은 물리 세계와 사이버 영역에서 차이를 보임
- NATO의 일부로서 미국은 지상군 투입을 원하지 않는다는 입장을 명확히 했지만, 사이버 영역에서는 공격적 활동이 계속되고 있음
- 이런 정치적 불일치는 디지털 영역의 법적 회색지대 때문에 지속될 수 있음
- 국제법, 규제, 집행은 기술이 발전한 위치를 따라잡아야 하며, 민주적 위임·책임·감독이 디지털 활동에서도 실제로 작동해야 함
-
입법자를 위한 독립 기술 전문성
- 입법부에는 법안 초안을 돕는 독립 법률팀처럼, 신뢰할 수 있는 정보를 제공할 독립 기술 전문가가 필요함
- 기술 전문성이 입법자에게 제공되면 로비스트의 영향력을 줄이는 데 도움이 됨
- 입법자는 기술이 의료, 교육, 사법, 주거, 교통에 미치는 영향을 이해해야 함
- 기술은 모든 분야에 닿기 때문에 하나의 위원회만으로 다루기 어려움
공공 책임 확장과 아웃소싱의 책임 공백
- 정부가 기술 기업에 더 많은 절차를 아웃소싱할수록, 기업이 정부 이름으로 운영하는 기능에는 정부 수준의 책임이 따라야 함
- Schaake는 이를 “public accountability extension”이라고 부름
- 정부가 핵심 공공 기능을 기술 기업에 넘기면서 책임까지 함께 내려놓는 현재 상황을 바꾸는 장치임
- 여러 관할권에서 경찰은 용의자의 기기를 직접 해킹할 수 없지만, 해킹 회사를 고용해 같은 접근을 얻을 수 있음
- 경찰은 자신들이 해킹하지 않는다고 말할 수 있지만, 다른 수단으로 접근을 확보함
- 미국의 주·지방 정부는 민감한 범주를 기준으로 시민을 차별할 수 없지만, 사용하는 기술이 실제로 그런 차별을 수행하면서도 책임을 지지 않는 경우가 있음
- FOIA 요청에서도 책임 공백이 생김
- 기자는 시민의 이름으로 정부가 무엇을 하는지 알 권리가 있음
- 정부가 민간 기업에 정부 업무나 정부 정보 수집·저장을 맡기면, 기업이 공공기관에 요구되는 기준으로 정보를 보관하지 않을 수 있음
- 기업이 독점적 우려를 이유로 정보 제공을 꺼리면 FOIA의 실효성이 약해짐
- 공공 책임 확장은 정부가 기술 기업을 포함한 기업 뒤에 숨어 책임을 피하는 상황을 겨냥함
데이터센터, AI, 시민 의제
- 데이터센터의 에너지와 물 사용에는 기업이 사용량이나 예정 사용량을 보고해야 하는 표준이나 의무가 없음
- 개별 사례의 추정치는 있지만 데이터센터 전체 에너지 사용량의 합은 알 수 없음
- 대형 기술 기업은 지역사회에 데이터센터를 지으려 할 때 Amazon, Google, Microsoft가 배후에 있다는 사실을 감추는 가명 회사로 입찰하는 경우가 있음
- 변호사와 컨설턴트는 지역사회에 생길 경제적 이익을 강조함
- 기업 정체와 데이터센터 에너지 수요 같은 핵심 정보는 감춰질 수 있음
- 희소 자원 사용에 대한 투명성 부족은 좋은 거버넌스를 방해함
- 네덜란드에서는 시간제 시의원들이 하이퍼스케일 데이터센터 허용 여부를 결정해야 했고, 상대는 수십억 달러 규모 기업과 변호사, 회계사, 컨설턴트, PR 회사였음
- 프로젝트 배후와 에너지 사용 지표에 대한 투명성·보고 요건을 표준화하면 더 공정한 공론장이 가능함
- 투명성이 높아져도 기후변화 시대에 희소한 에너지 자원을 쓰는 데이터센터를 사회가 더 원하는지는 별도 질문으로 남음
- 비용을 모르면 비용·편익 질문에 답하기 어려움
- 미국의 주요 문제 중 하나는 전력망 역량임
- 네덜란드, 미국, 영국 같은 선진 경제에서도 전력망이 거의 비상 수준인 code red로 작동한다는 보고가 있음
- 전력망은 한계까지 늘어나고 고장과 정전이 더 잦아짐
- 수년 전 승인된 많은 데이터센터가 2~3년 뒤 가동되면 재난의 물결에 직면할 수 있음
- EU법의 예방 원칙은 새로운 혁신이 널리 배포되기 전에 사회적 영향을 평가하기 위해 멈추는 것을 요구함
- AI 같은 기술 혁신에는 아직 당국이 이를 적용하지 않았음
- AI 사용 압력과 별도의 EU AI 법 통과가 배경임
- AI 모델의 행동에 엔지니어 자신도 놀라거나, 사회·입법자·시민이 특정 혁신의 생활 영향을 모를 때 유용한 개념임
- 기술 기업 권력의 피해 신호는 오래전부터 전 세계에 있었지만, 미국인들은 이를 멀리 있는 사건으로 보는 경향이 있었음
- 2017년 미얀마에서 Facebook은 집단학살을 촉구하는 데 사용됨
- 2018년 Cambridge Analytica는 수백만 Facebook 사용자 데이터를 추출·분석했고, 정치 캠페인이 심리 프로파일링에 활용하게 했으며, 이는 영국 Brexit 투표에 영향을 줬을 수 있음
- 2020년 미국 의사당 습격은 소셜미디어 허위정보가 일부 부추겼고, 수천만 미국인이 선거 절차에 대한 신뢰를 잃는 결과로 이어짐
- 소비자는 기술과 서비스를 어떻게 쓸지 선택할 수 있지만, 개인 인터넷·기기 사용자와 기술 기업 사이에는 큰 권력 비대칭이 있음
- 독립 감독과 견제 권력이 필요하며, 미국에서는 연방 데이터 보호법, 아동 온라인 보호, 더 나은 사이버보안, 의료·선거 허위정보 대응 수단에 대한 요구가 있음
- 의회에는 이를 실행할 정치적 다수가 없음
- 연방정부가 할 수 없거나 하지 않기 때문에 여러 주가 기술 관련 법과 규제를 추진하고 있음