판사, ChatGPT 사용자 모두에게 해를 끼치는 ‘대규모 감시 프로그램’ 주장 기각

 (arstechnica.com)
2P by GN⁺ | ★ favorite | 댓글 1개
  • 저작권 소송 증거 보존을 이유로 OpenAI가 수백만 사용자의 ChatGPT 로그를 무기한 보관해야 하는 상황이 되면서, 사용자 프라이버시 논란이 법정 쟁점으로 번짐
  • 두 번째 신청자인 Aidan Hunt는 삭제·익명 채팅까지 보관되는 명령이 전국적 대규모 감시 프로그램에 가깝고, 출력만 남겨도 입력 질문이나 주제가 드러날 수 있다고 반발함
  • Ona Wang 판사는 이 명령을 민간 기업의 기존 데이터를 소송 목적에 맞게 보존·분리·보관하게 하는 조치로 보고, 대규모 감시라는 해석을 받아들이지 않음
  • 법원은 ChatGPT 이용자의 헌법상·계약상 프라이버시 침해 가능성이 저작권 침해 본안과 직접 관련 없는 부수적 쟁점이라며 Hunt의 개입을 허용하지 않음
  • OpenAI는 6월 26일 구두변론에서 보존 명령에 대한 우려를 다툴 예정이며, EFF의 Corynne McSherry는 AI 챗봇 기록에 통지·삭제·투명성 장치가 필요하다고 강조함

ChatGPT 로그 보존 명령과 사용자 개입 시도

  • 법원은 OpenAI에 수백만 사용자의 ChatGPT 로그를 무기한 보관하라고 명령했으며, 삭제된 채팅도 보존 대상에 포함됨
  • 이 명령은 뉴스 조직들이 제기한 저작권 침해 소송에서 잠재적 증거를 보존하기 위한 조치임
  • 첫 번째 사용자의 개입 신청은 회사 명의로 제출됐지만, Wang 판사는 회사가 변호사를 통해 서류를 작성했어야 한다는 이유로 5월에 기각함
  • 두 번째 신청자인 Aidan Hunt는 ChatGPT를 가끔 사용하며, 서비스 이용 중 “매우 민감한 개인 및 상업 정보”를 OpenAI에 보내는 경우가 있다고 밝힘

Aidan Hunt의 프라이버시 침해 주장

  • Hunt는 보존 명령이 모든 ChatGPT 사용자에게 영향을 주고 잠재적 피해를 주는 전국적 대규모 감시 프로그램을 만들었다고 반발함
  • 사용자들이 삭제 채팅과 익명 채팅이 갑자기 보관된다는 사실을 사전에 알지 못했다는 점도 문제로 삼음
  • 보존 범위가 ChatGPT 출력으로 제한되더라도 위험은 남는다고 봄
    • 출력은 입력 질문이나 주제를 본질적으로 드러내거나, 자주 명시적으로 다시 서술할 수 있기 때문임
  • Hunt는 온라인 포럼에서 관련 소식을 접하기 전까지 OpenAI가 해당 정보를 보관한다는 사실을 몰랐다고 밝힘
  • 그는 자신의 수정헌법 제4조 및 적법절차 권리가 침해된다며, 법원 명령을 취소하는 신청을 제안함

익명·민감 주제 채팅 제외 요구

  • Hunt는 Wang 판사가 Anonymous Chats를 보존·공개 대상에서 제외하는 방안을 고려하지 않았다고 지적함
  • 익명 채팅에는 사용자의 가장 민감하고 잠재적으로 해로운 정보가 담길 가능성이 높다고 봄
  • 제외 대상으로 요구한 채팅 유형은 다음과 같음
    • 의료, 금융, 법률, 개인적 주제를 다루는 채팅
    • 사용자에 대한 깊은 사적 정보를 포함하지만 원고 뉴스 조직의 이해와 전혀 관련이 없는 채팅
  • Hunt는 이 사건이 AI 사용과 관련한 프라이버시권이라는 새롭고 중요한 헌법적 질문을 포함한다고 봄
  • 민사 사건의 증거개시 명령으로 전국적 대규모 감시 프로그램을 만들 수 있는지도 쟁점으로 제기함

Wang 판사의 기각 논리

  • Wang 판사는 6월 20일 명령에서 Hunt의 주장을 받아들이지 않음
  • 각주에서는 문서 보존 명령이 대규모 감시로 해석될 수 없다고 선을 그음
    • 명령은 민간 기업이 보유한 특정 데이터를 소송 목적에 한정해 보존·분리·보관하게 하는 것임
    • 사법부는 법 집행기관이 아니라고 명시함
  • OpenAI가 소송 중 통상 삭제하던 특정 채팅 출력 로그 데이터를 일시 보존하는 문제가 개별 소비자의 헌법상·계약상 프라이버시권을 침해할 수 있는지는 부수적 쟁점으로 판단됨
  • 해당 쟁점은 저작권 침해라는 본안의 사실관계 형성에 “어떤 방식으로도” 기여하지 않는다고 봄
  • Hunt가 제기한 “새로운” 질문들은 저작권 침해 소송의 쟁점이 아니며, 다루더라도 실제 쟁점 해결을 부당하게 지연시킬 것이라고 판단함

OpenAI의 구두변론과 사용자 통지 문제

  • OpenAI는 6월 26일 Wang 판사 앞에서 보존 명령에 대한 우려를 다룰 구두변론 기회를 가짐
  • Hunt가 가장 우려한 지점은 보존 명령이 유지되고 채팅 데이터가 뉴스 원고들에게 공개될 가능성임
  • Wang 판사는 아직 어떤 채팅 데이터도 뉴스 조직에 공개되지 않았기 때문에 현재로서는 위험이 없다고 봄
  • Hunt는 데이터가 공유되지 않더라도 OpenAI가 데이터를 보관하는 것만으로 심각하고 회복 불가능한 피해가 생길 수 있다고 우려함
  • 일부 사용자는 OpenAI가 얼마나 강하게 싸울지 의문을 제기함
    • Hunt는 OpenAI가 사건 비용, 빠른 해결, 평판 피해 회피 같은 다른 우려를 더 중시할 경우 사용자 프라이버시 방어가 후순위로 밀릴 수 있다고 걱정함
  • OpenAI는 논평 요청에 즉시 응답하지 않았고, 앞서 영향을 받는 사용자 범위를 제시하며 명령에 맞서겠다고 밝힌 바 있음
  • Electronic Frontier Foundation의 Corynne McSherry는 이 증거개시 명령이 사용자 프라이버시에 실제 위험을 만들고, 다른 소송의 선례가 될 수 있다고 봄
  • McSherry는 AI 챗 앱에서 사용자가 기록을 삭제하고 실제로 지워졌음을 확신할 수 있어야 하며, 사용자 정보 요구에 대한 시의적절한 통지와 정기적인 투명성 보고도 필요하다고 말함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 기사에 인용된 부분만 그런 건지 몰라도, 판사가 이의 제기를 제대로 이해하지 못하는 듯함. 논리도 이상함
    소송이 저작권에 관한 것이니, 시간이 더 걸린다는 이유로 가능한 헌법적 쟁점을 무시해도 된다는 건가 싶음
    또 변호사가 작성하지 않았다는 이유만으로 기각하는 것도 판사가 할 일과는 정반대로 보임. 변호사를 반드시 써야 한다는 요건은 없음

    • 전체 명령문은 기사에 링크되어 있음: https://cdn.arstechnica.net/wp-content/uploads/2025/06/NYT-v...
      읽어보면 더 명확한데, 여기서 이의를 제기한 사람은 엄격한 요건이 있는 특정한 소송 참가 신청을 냈고, 그 요건을 충족하지 못했음. 변호사는 아니지만 그리 이상해 보이진 않음
      명령문에는 개인은 스스로를 대리할 권리가 있지만, 법인은 그럴 수 없다고도 나옴. 처음 신청은 법인이 냈고, 판사는 법문 그대로 해석한 셈임
    • 나도 그렇게 보임. 사람들이 쓰는 비슷한 서비스가 너무 많고, 모두 같은 개인정보 문제에 휘말릴 수 있음
      과도하게 넓은 법원 명령을 막을 수 있는 매우 강한 개인정보 보호법이 필요하지만, 지금은 없음. 예를 들어 데이팅 서비스가 의심되는 가해자의 채팅만 보존하는 대신 모든 이용자 간 채팅과 메시지를 저장하라는 명령을 받거나, 통신사가 모든 문자 메시지를 저장하거나, Google Docs 문서를 전부 저장하라는 식임
      Signal에 백도어를 추가하고 모든 문자를 저장하라는 법적 요청을 정부가 아직 안 했다는 것도 의아함. Signal 같은 민간 조직을 상대로 성공하려면 아주 중대한 사유가 필요하겠지만, 이 권한의 범위와 힘을 보면 미국 정부가 이미 일반 상업 서비스에도 이런 일을 해왔는지 궁금해짐
      예전에는 보안 관련 법을 통해 통신사 백본을 감청하거나 합법적으로 접근했다는 얘기를 봤고, Edward Snowden 이후 Google 통신 감청도 알게 됨
    • 어떤 헌법적 쟁점이 있다고 보는지 궁금함
      법상 법인은 변호사가 대리해야 하므로, 변호사가 필요 없다는 말은 그대로는 틀림. 누군가가 본인소송으로 냈다면 약간의 여지는 있을 수 있지만, 사업체는 본인소송 당사자가 아님
      게다가 이 사안에는 미국에서 가장 크고 뛰어난 축에 드는 정교한 로펌이 붙어 있는데, 왜 판사가 본인소송 당사자에게나 맞는 낮은 기준을 적용해야 하는지도 모르겠음. 이렇게 단순한 쟁점에서 reasoning이 흔들리면 다른 판단도 신뢰하기 어려움
    • 본인소송에 대한 이해가 완전히 틀렸음. Pro Se 소송은 엄격히 규율되고, 첫 사례에서는 변호사가 아닌 사람이 자기 회사의 대리인으로 신청했는데, 회사는 본인이 아니므로 본인소송이 아님. 타인을 대리하려면 면허 있는 변호사여야 함
      저작권 소송이니 헌법 쟁점을 무시한다는 뜻도 아님. 판사는 그 주장이 성공할 가능성이 없다고 보았고, 그래서 헌법 쟁점에 실제로 도달하지 못한 채 지연만 낳는다고 판단한 것에 가까움
    • 판사는 보통 변호사이거나 법률 경력이 있고, 해당 판사도 과거에 변호사로 일했음. 다만 동물학 박사 과정을 거의 마쳤다고 주장한 이력도 있음
      사회에서 보호받는 계층이 보호받지 못하는 계층을 같은 수준으로 대우하기 시작할 가능성은 매우 낮음
      여기서 헌법 쟁점이 어떻게 성립하는지도 잘 모르겠고, 어쨌든 이 법원이 판단할 문제도 아닐 가능성이 큼

  • 이게 특별히 뉴스거리가 되는지는 모르겠음. OpenAI 자체가 모두를 화나게 한 보존 명령에 반대하는 구두변론을 앞두고 있음
    임의의 ChatGPT 사용자 두 명이 낸 신청이 그 전에 결과를 좌우할 가능성은 낮아 보임

    • 판사가 회사 X에 모든 데이터 보존을 요구하는 영향이 무엇인지 이해하지 못하고, 신속히 재검토할 생각도 없어 보임. 초기 결정의 영향 자체가 뉴스가 될 만한 이유임
    • 적어도 이용자가 이 사건에서 주장할 권리가 있고, OpenAI에만 의존할 필요는 없다는 점은 확인됨
      원고가 했듯이 본인소송으로 직접 신청할 수 있음. 성공 여부와 무관하게 그것은 권리임
    • 안타깝지만 요즘은 이렇게 뻔한 결론에 도달하는 일 자체가 실제로 뉴스가 된다고 봄

  • 판사가 이 문제에 관심이 없어 보이니, 그 앞에서 다투는 건 무의미해 보임. OpenAI와 이용자에게 어떤 구제수단이 있나?

    • 적어도 미국 법상으로는 구제수단이 없음. 전형적인 제3자 원칙 사례임
      미국 법과 판례는, 데이터를 제3자에게 자발적으로 넘긴 순간, 예를 들어 OpenAI에 보낸 순간 더는 그 데이터가 본인 것이 아니며 합리적인 사생활 기대도 없다고 명확히 봄
      예외가 있긴 하겠지만, 그런 예외는 새 법으로 구체적으로 열거되고 부여되어야 함. 기본값으로 존재하지 않고 OpenAI에도 적용되지 않음
      마음에 들든 아니든, 현재 미국 법 체계 안에서 판사의 결정은 편안하게 들어맞음. OpenAI에 보낸 채팅 로그에는 합리적인 사생활 기대가 없으므로, 현재 진행 중인 NYT 사건의 이해관계와 저울질할 대상도 없음
    • 사적인 것으로 유지해줄 것이라는 기대를 갖고 제3자에게 정보를 넘기지 말아야 함. 그들은 그렇게 하지도 않고 할 수도 없음
      은행 정보도 소환장 대상이 되는데, 여기서 그걸 두고 불평하는 사람은 잘 안 보임. 프로그래머들이 오해하려 드는 그날의 뜨거운 법적 이슈일 뿐임
    • 진짜 답은 아니지만, 앞으로는 로컬 LLM이 길이 될 것 같음
      한동안 써보고 있는데, 저장된 문맥 처리나 좋은 모델에 필요한 하드웨어 요구사항 등 아직 부족한 부분이 있음. 그래도 기술이 늘 그렇듯 1~2년 뒤에는 쓸 만한 로컬 LLM이 그리 무리한 일이 아닐 듯함
      사실 기다려짐. 나에게는 개인정보보다 오프라인 사용이 더 큰 이유임
    • 미국에 데이터를 넘길 가능성이 낮은 국가의 서비스를 쓰기 시작하면 됨
    • 이 판사가 내리는 결정에 대해 항소하면 되는 것 아닌가?

  • OpenAI가 채팅에 입력된 모든 문자와 API로 전송된 모든 비트를 저장하지 않는다고 생각한다면, 현 이사회 구성원들을 한번 보라고 권하고 싶음

    • 창업자 중 한 명이 생체정보를 수집하고 다니는 것도 아닌데 말이지

  • 이 일에 분노하거나 충격받는 사람이 이렇게 많은 게 이상함
    Signal 채팅처럼 완전한 종단 간 암호화가 적용된 서비스를 제외하면, 우리가 쓰는 거의 모든 서비스에서 똑같은 데이터 보존이 늘 일어나고 있다는 사실을 모르는 것 같음
    Gmail은 이메일과 문서를 보존하고, 통신사는 문자와 통화 기록을 보존하며, Reddit은 게시물과 DM을 보존하고, Xitter도 게시물과 DM을 보존함
    이게 받아들일 만한지 판단하려는 건 아니지만, 온라인 서비스의 사실상 기본 상태가 이렇다는 뜻임

    • 사람이 분노하는 이유는 그걸 받아들일 수 없다고 보기 때문임
      이건 약관을 넘어서는 일이고, OpenAI는 이용자를 위해 버리고 싶어 하는 데이터를 보관하도록 강제당하고 있음
      이 사안에 입장을 취하지 않겠다고 하면서, 사람들이 입장을 취하는 데 놀란다는 게 오히려 놀라움
    • 이걸 이해하지 못하는 사람이 얼마나 많은지 알면 놀랄 것임. 길에서 아무나 붙잡거나 비기술자 친구에게 물어보면 어떤 답이 나오는지 볼 수 있음

  • 내게는 Google이 법원 명령으로 요구된 법을 따르고 싶지 않다며 사생활 침해라고 말하는 것과 비슷해 보임
    OpenAI가 이 문제를 개인정보 논쟁으로 프레이밍했고, 일부 기자들이 출처와 현재 개인정보 처리방침의 데이터 보존·계열사·벤더 공유 조항을 따져보지 않은 채 따라가는 느낌임
    개인정보 처리방침을 저장해서 LLM에 올리고 질문하는 데 30초면 충분한데, 보면 그들의 정책은 이미 데이터를 무기한 보관할 수 있게 되어 있음이 금방 드러남

  • OpenAI와 다른 LLM 제공업체가 법으로 데이터 보관을 금지당하더라도, 실제로 그렇게 할 거라고 믿어서는 안 됨
    LLM에 민감한 데이터를 넣고 싶다면 로컬에서 해야 함

    • “데이터를 보관하지 못하도록 금지”는 강제 보존과 같은 뜻이 됨. 의도하지 않은 이중 부정을 쓴 것 같음

  • 우리, 즉 여러 인간 사회는 삶의 모든 측면을 감시할 수 있게 된 이 새로운 능력을 다뤄야 함
    미래에는 분명한 이점도 있음. 의학과 역학은 거대한 데이터 저장소를 활용할 수 있고, 대규모 행동심리학이라는 전혀 새로운 분야도 생길 수 있음. 개인적으로는 이를 MAssive open online psychology, 줄여서 moop이라고 부름. 정부가 시민의 분 단위 데이터를 활용해 놓치는 사람들에게 서비스를 제공할 수도 있음
    하지만 이 모든 건 신뢰할 수 있는 법적 틀을 전제로 함. 그런 틀이 판사들의 단편적 판단으로 생겨날 것 같지는 않음
    개인적으로는 자연인 인간의 활동이 없었다면 존재하지 않았거나 달랐을 데이터는 그 인간에게 속해야 한다고 봄. 그리고 그 데이터가 그 인간의 최선의 이익을 위해 쓰이는 경우가 아니라면, 명시적 보상 없이 신탁처럼 보관되어서는 안 됨. 범죄 관련 예외 같은 건 따로 필요하겠지만
    조금 장황하지만, 이용자·시민의 최선의 이익이라는 기준은 매우 높고 가치 있는 기준임. 내 활동이 데이터를 만들거나 가능하게 했다면 기본적으로 그 데이터는 내 것이라는 원칙은 데이터 기업들이 진지하게 생각하게 만들 것임

    • 영지식 증명 + 블록체인 스트림 결제 + IPFS 같은 암호화 저장소와 인센티브 메커니즘이 필요함
      아직 오버턴 창 바깥, 특히 HN에서는 더 그렇지만, 빅데이터의 이점을 얻으면서도 개인정보를 지킬 수 있는 유일한 방법으로 보이는 건 데이터를 사용자에게 묶어두고, 데이터 주변에 암시장이 생기도록 유인하는 중앙화된 사일로에 모아두지 않는 것임

  • 이전 논의: OpenAI slams court order to save all ChatGPT logs, including deleted chats
    https://news.ycombinator.com/item?id=44185913

  • 여기서 “판사”는 실제로는 임기가 1년도 남지 않은 치안판사임[1]
    치안판사의 이렇게 약한 의사결정을 마지막으로 봤을 때는 재임명되지 않아 다행이었고, 이번에도 그렇게 되길 바람
    [1] https://nysd.uscourts.gov/sites/default/files/2025-06/Public...

답변달기