판사, ChatGPT 사용자 모두에게 해를 끼치는 '대규모 감시 프로그램' 주장 기각

(arstechnica.com)

2P by GN⁺ 1일전 | ★ favorite | 댓글 1개

미국 법원이 OpenAI에게 모든 ChatGPT 로그(삭제된 채팅 포함) 무기한 보관을 명령하자, 두 명의 사용자가 '대규모 감시'를 주장하며 개입 시도했으나 기각됨
한 사용자는 민감한 개인정보와 상업 정보를 입력한 경험을 들어, 이 명령이 미국 전역의 대규모 감시 프로그램에 해당한다고 주장함
판사는 단순 증거 보존 명령은 감시 프로그램이 아니며, 사법부는 수사기관이 아니라는 점을 분명히 밝힘
디지털 권리 단체(EFF)도 사용자 프라이버시 위험과 향후 악용 가능성에 대해 우려를 표명함
사용자들은 OpenAI의 강한 대응 의지와 향후 데이터 공개 또는 투명성 확보에 대한 불안을 보이고 있음

배경 및 법원의 명령

최근 법원은 OpenAI에 대해 ChatGPT의 모든 로그, 삭제된 채팅까지 무기한 보관하라는 명령을 내림
이 조치는 뉴스 미디어 기업이 제기한 저작권 소송의 증거 확보를 위해 내려진 것임
일부 사용자는 이 명령이 삭제·익명 채팅까지 포함되며, 이용자에게 고지 없이 시행되고 있다며 우려를 표함

사용자 개입 시도와 프라이버시 논란

한 사용자는 자신이 민감한 개인 및 상업 정보를 입력했다는 점을 들어, 명령이 미전역 대규모 감시로 이어진다고 주장하며 개입을 요청함
그는 사전 고지 없이 삭제·익명 채팅이 보관되는 점을 문제 삼았으며, 의료·금융·법률 등 민감 주제 채팅에 대한 예외 적용을 요구함
법원은 "문서 보존 명령은 감시와 무관하며, 법원은 수사기관이 아니다"라고 기각 사유를 명확히 함

디지털 권리 단체의 시각

Electronic Frontier Foundation(EFF) 법률 책임자 Corynne McSherry는 "이번 명령이 사용자 프라이버시에 실질적 위험을 주고, 유사 소송에 악영향을 줄 수 있다"고 우려함
향후 법 집행기관이나 소송 당사자가 OpenAI에 사용자 기록 제공을 요구하는 전례가 될 수 있음을 지적함
특히 사용자 기록 통제권 및 고지 의무가 미흡할 경우, AI 챗봇이 새로운 감시 벡터가 될 수 있음을 강조함

법원의 판결 논리

판사는 "문서 보존 명령은 특정 소송 증거 보존 목적의 조치"라며, 헌법적 권리 침해 등은 이 소송의 본안과 무관하다고 판단
개입 시도가 사실관계 규명이나 소송 쟁점과 관련 없고, 소송만 지연시킬 뿐이라고 보아 권리 자체를 인정하지 않음
현재는 뉴스 기업에 실제 데이터가 전달된 사례가 없으므로, 향후 데이터가 공유될 경우 추가 논의가 가능함을 시사함

사용자의 불안과 향후 쟁점

사용자는 "OpenAI가 프라이버시 보호보다 소송 비용, 평판 관리 등 다른 이해관계를 우선시할 수 있다"고 우려함
EFF 등은 AI 챗앱 업체가 삭제 요청 시 진짜 기록 삭제 및 투명한 데이터 요청 고지를 할 필요가 있다고 강조함
궁극적으로 사용자 데이터 보존 및 공개 과정의 투명성, 고지 절차, 사후 구제 방안이 앞으로 주요 이슈로 부상함

▲

GN⁺ 1일전 [-]

Hacker News 의견

기사에서 인용된 판사의 발언을 보면, 판사가 문제 제기의 본질을 제대로 이해하지 못하고 있다는 느낌을 받음과 동시에 판결 이유도 이상함을 느낌
"만약 이런 질문을 고려한다면, 실제로 다루어야 할 법적 쟁점을 해결하는 데 부적절하게 지연만 초래할 것이다"라는 논리임
저작권 관련 소송이기 때문에 헌법적 문제는 무시해도 된다는 건가 하는 의문
또, 변호사가 작성하지 않았다는 이유만으로 요청을 바로 기각하는 것은 판사로서 그 역할에 어긋나는 행동이라 생각함
변호사 없이도 청구할 수 있다는 점을 간과한 것 같음
- 기사에 첨부된 전체 판결문(여기)를 읽어보면 사정이 더 명확해짐
  문제를 제기한 당사자가 특정 형태의 "intervene 요청"을 제출했는데, 이에는 엄격한 요건이 있음
  그 요건을 충족하지 못했음
  변호사 없이 제출했다고 기각했다는 부분도 판결문에 언급돼 있음
  개인은 본인을 직접 대변할 수 있지만, 법인(기업)은 반드시 변호사를 세워야 함
  처음에 회사 이름으로 접수된 건이라, 판사는 법에 맞게 처리한 것으로 보임
- 나도 비슷하게 느끼며, 이런 사생활 문제로 타격받을 수 있는 유사 서비스가 굉장히 많다는 점이 더 걱정임
  이런 과도한 법원 명령을 막아줄 강력한 프라이버시 법이 필요함에도 아직 없음
  예를 들어, 데이트 서비스에서 서로 대화한 모든 메시지를 저장하라는 법원 명령, 통신사에서 모든 문자메시지 저장, 수십억 개씩 생성되는 Google Docs 저장 등의 사례가 가능함
  왜 정부가 아직 Signal 같은 서비스에 백도어를 추가하고 모든 텍스트 메시지 저장할 것을 요구 안 했는지 궁금
  실제 이를 해내려면 상당히 강력한 명분이 필요하다고 생각함
  미국 정부가 이미 일반 상용 서비스에서도 이런 광범위한 감시를 진행해왔을 가능성에 의문을 가짐
  예전에 에드워드 스노든 폭로 때 Google 통신 감청도 있었음
- 판사는 일반적으로 변호사 출신이거나 법적 경험이 있음
  해당 판사도 변호사 경력이 있고, 동물학 박사 과정도 거의 마친 특이 이력 보유
  사회에서 보호받는 계층이 비보호 계층을 동등하게 대하려 하지 않는 건 매우 자연스러운 일임
  이 사안에서 헌법적 쟁점이 있다고 보기도 어렵고, 만약 있더라도 그걸 판단하는 자리도 아님
- 변호사 없이 제출했다고 무시하는 것에 대한 비판은 100% 오해임
  Pro Se(본인 소송)는 규정이 잘 마련되어 있음
  당사자가 아닌 다른 법인을 대리해서 소송을 제기할 경우 반드시 변호사가 필요함
  "소송 주제가 저작권이라 헌법 문제를 무시해도 된다"는 취지라기보다는, 판사가 볼 때 헌법적 이슈가 성립될 것 같지 않아서 시간만 낭비할 수 있다는 판단임
- "저작권 소송이기 때문에 헌법 문제는 무시해도 되는가?"라는 부분에
  어떤 헌법적 쟁점이 있다고 보는지 궁금함
  "변호사 없이도 가능하다"는 주장도, 법적으로 기업은 반드시 변호사를 세워야 하기 때문에 사실과 다름
  만약 개인이 직접하면 어느 정도 배려가 있겠지만, 기업은 해당 안 됨
  이런 기초적인 것에서 논리가 흔들린다면, 다른 논점에 대해 신뢰가 가지 않는다는 생각
이번 사안이 그렇게 큰 뉴스가치는 없어 보임
OpenAI가 데이터 보존 명령을 직접 저지하려고 곧 구두 변론을 할 예정이고, ChatGPT 일반 사용자가 선제적으로 낸 두 가지 요청이 결과를 좌우할 만한 사건은 아니었음
- 판사가, 회사에 "모든 데이터 보존" 명령이 현실에서 미치는 영향을 제대로 이해하지 못하고 이를 신속히 재고할 의지도 없어 보임
  최초 판결의 파장이 바로 뉴스가치가 있다는 주장이 있음
- 요즘엔 너무 명백한 결론이 내려져도 매우 큰 뉴스가치가 있다 믿음
- 사용자가 직접 참여할 권리가 있음을 우리는 이렇게 확인함
  원고가 했던 것처럼 본인이 소송을 직접 낼 수도 있음
  결과가 어떻게 될지는 별개로, 이 자체는 권리임
판사가 해당 이슈에 관심이 없어 보이기 때문에 설득은 무의미하다는 결론임
OpenAI와 사용자에게 대안이나 선택지는 무엇일까 의문
- 직접적인 답은 아니지만, 로컬 LLM 사용하는 게 앞으로 가장 현실적인 대안이라고 생각
  요즘 직접 돌려보고 있는데 아직 맥락 저장이나 고성능에는 한계가 있으나, 1~2년 뒤엔 충분히 실용적인 로컬 LLM도 꿈은 아닐 것으로 봄
  나에겐 프라이버시보다는 오프라인 활용성이 더 매력임
- 미국법상으로는 선택지가 없음
  전형적인 '서드파티 독트린'에 해당
  본인 데이터라도 자발적으로 타사(OpenAI)에 제공시, 그 데이터는 더 이상 본인 것이 아니고 프라이버시 기대 자체가 성립하지 않음
  예외는 반드시 특별히 신설되는 법에서만 인정 가능하며, OpenAI에는 현행법상 해당 없음
  판결 역시 이런 미국 법 테두리 안에서 이루어진 것으로, OpenAI로 보낸 대화 데이터에 대한 프라이버시는 현재 기준에서 보호받지 못함
- 타사에 기대할 프라이버시를 이제 그만 두는 것이 좋음
  은행정보도 수사 명령이 있으면 공개 가능
  이런 현실을 모르고 요즘 뜨거운 논점만 착각하는 프로그래머가 많음
- 앞으로 판결이 어떻게 나오든 항소가 대안으로 가능할 수 있음
- "OpenAI와 사용자에게 선택지는 무엇인가?"라는 질문에
  미국에 데이터를 내지 않는 국가의 서비스를 찾는 것이 한 방법임
만약 OpenAI가 채팅이나 API에 입력되는 모든 내용을 저장하지 않을 거라 생각하는 사람이 있다면, OpenAI 이사진들 현황을 꼭 살펴보기를 권함
- OpenAI 공동 설립자 중 한 명이 바이오메트릭 데이터까지 수집 중이라는 점을 보면 이 상황이 어색하지 않음
OpenAI 등 LLM 제공업체가 법적으로 데이터 저장을 의무적으로 금지 당한다고 해도, 실제로 그들이 그 정책을 제대로 지킬 것이라 신뢰하기 어려움
민감한 데이터는 반드시 로컬 LLM에 직접 입력해야 한다고 제안
- "저장이 금지된다"라는 것은 곧 강제 저장이 없다는 것과 똑같은 의미임
  이중부정을 인지했으면 함
전 세계가 이제 일상의 모든 면을 감시할 수 있는 기술적 능력이 생겼으니 이를 어떻게 다루느냐가 문제임
미래에는 이 방대한 데이터로 인해 의학, 역학, 대규모 심리학(나는 Massive open online psychology, moop라고 불러봄) 등 새로운 분야가 생기고, 정부가 실시간 빅데이터로 소외된 국민에게 더 잘 서비스할 수도 있을 것으로 생각
하지만 이런 미래를 위해선 반드시 신뢰할 만한 법적 체계가 필요하며, 판결 하나하나로 단편적으로 구현되긴 어렵다고 봄
개인적으론, 인간이 직접 행위하지 않으면 만들어질 수 없는 데이터는 무조건 그 사람 소유여야 하며, 만약 데이터가 해당 인간의 이익을 위해 쓰일 때만 위탁 보관이 허용되어야 한다는 원칙이 필요하다고 생각
"이용자/시민의 이익"이라는 높은 기준이 도입되면 데이터 회사의 사고방식도 완전히 달라질 것임
이런 부분에 대해 다른 사람들의 생각이 궁금함
- Zero knowledge proof, 블록체인 스트림 결제, IPFS 같은 분산 스토리지와 암호화, 보상체계를 결합하면 해결 가능성이 있음
  아직은 HN 등에서는 터부시되는 방향이지만, 데이터가 사용자를 중심으로 잠기고 중앙 집중화된 사일로 대신 분산되어야만 프라이버시와 빅데이터의 장점을 동시에 추구할 수 있다고 생각함
본 사안의 판사는 사실 임기가 1년 남짓 남은 매지스트레이트(치안판사)임
예전에도 이런 약한 결정을 내린 치안판사가 임기 연장 안 됐던 사례가 있는데, 이번에도 그러길 바람
임기 연장 공고 링크
- 판사라는 직함에 굳이 따옴표를 붙이는 이유를 모르겠음
  치안판사도 엄연히 판사임
  참고: 미국 연방법원 판사 종류
- 3자 독트린(Third Party Doctrine)의 평범한 적용만으로 치안판사의 임기나 평판이 나빠져야 한다고 보지 않음
과거 동일 주제의 토론 참고 OpenAI가 모든 ChatGPT 로그와 삭제된 대화까지 저장하라는 법원 명령에 반박하다
10년 이상 지속된 대규모 감시 프로그램을 어떤 판사도 막을 수 없음
이제는 농담거리이자 무의미한 논란임
OpenAI도 다른 기업처럼 가능한 모든 정보를 수집하고 우리를 프로파일링함
- 우리가 텍스트박스에 입력하는 정보 자체가, LLM이 응답해주는 결과값보다 훨씬 큰 가치가 있음
많은 이들이 이 상황에 충격을 받거나 분노를 보이는 게 이상하다고 느낌
대부분은 실제로 일상적으로 쓰는 온라인 서비스들도 똑같이 데이터를 보존한다는 점을 모르고 있거나 간과하는 것 같음
실질적으로 Signal처럼 E2EE가 아닌 이상, Gmail, 통신사, Reddit, Xitter 등 주요 서비스는 모두 데이터와 메타데이터를 보존함
이것이 옳으냐 그르냐를 떠나, 현재 온라인 서비스에서는 당연한 현실임
- 분노하는 이유는 이런 현실이 허용 불가 수준으로 다가온다고 느끼기 때문임
  약관이나 정책과도 별개로, OpenAI는 사용자를 위해 지우려는 데이터까지 강제로 보존해야 하는 상황임
  나는 오히려 사람들이 적극적으로 입장을 표명하는 게 놀랍지 않음
- 대부분의 사람들은 이 사실을 전혀 모르고 있다고 생각함
  주변의 비기술 친구나 길에서 만난 아무에게나 물어봐도 실제로는 이 현실을 인지하지 못한 경우가 있음

답변달기