기사에서 인용된 판사의 발언을 보면, 판사가 문제 제기의 본질을 제대로 이해하지 못하고 있다는 느낌을 받음과 동시에 판결 이유도 이상함을 느낌
"만약 이런 질문을 고려한다면, 실제로 다루어야 할 법적 쟁점을 해결하는 데 부적절하게 지연만 초래할 것이다"라는 논리임
저작권 관련 소송이기 때문에 헌법적 문제는 무시해도 된다는 건가 하는 의문
또, 변호사가 작성하지 않았다는 이유만으로 요청을 바로 기각하는 것은 판사로서 그 역할에 어긋나는 행동이라 생각함
변호사 없이도 청구할 수 있다는 점을 간과한 것 같음
기사에 첨부된 전체 판결문(여기)를 읽어보면 사정이 더 명확해짐
문제를 제기한 당사자가 특정 형태의 "intervene 요청"을 제출했는데, 이에는 엄격한 요건이 있음
그 요건을 충족하지 못했음
변호사 없이 제출했다고 기각했다는 부분도 판결문에 언급돼 있음
개인은 본인을 직접 대변할 수 있지만, 법인(기업)은 반드시 변호사를 세워야 함
처음에 회사 이름으로 접수된 건이라, 판사는 법에 맞게 처리한 것으로 보임
나도 비슷하게 느끼며, 이런 사생활 문제로 타격받을 수 있는 유사 서비스가 굉장히 많다는 점이 더 걱정임
이런 과도한 법원 명령을 막아줄 강력한 프라이버시 법이 필요함에도 아직 없음
예를 들어, 데이트 서비스에서 서로 대화한 모든 메시지를 저장하라는 법원 명령, 통신사에서 모든 문자메시지 저장, 수십억 개씩 생성되는 Google Docs 저장 등의 사례가 가능함
왜 정부가 아직 Signal 같은 서비스에 백도어를 추가하고 모든 텍스트 메시지 저장할 것을 요구 안 했는지 궁금
실제 이를 해내려면 상당히 강력한 명분이 필요하다고 생각함
미국 정부가 이미 일반 상용 서비스에서도 이런 광범위한 감시를 진행해왔을 가능성에 의문을 가짐
예전에 에드워드 스노든 폭로 때 Google 통신 감청도 있었음
판사는 일반적으로 변호사 출신이거나 법적 경험이 있음
해당 판사도 변호사 경력이 있고, 동물학 박사 과정도 거의 마친 특이 이력 보유
사회에서 보호받는 계층이 비보호 계층을 동등하게 대하려 하지 않는 건 매우 자연스러운 일임
이 사안에서 헌법적 쟁점이 있다고 보기도 어렵고, 만약 있더라도 그걸 판단하는 자리도 아님
변호사 없이 제출했다고 무시하는 것에 대한 비판은 100% 오해임
Pro Se(본인 소송)는 규정이 잘 마련되어 있음
당사자가 아닌 다른 법인을 대리해서 소송을 제기할 경우 반드시 변호사가 필요함
"소송 주제가 저작권이라 헌법 문제를 무시해도 된다"는 취지라기보다는, 판사가 볼 때 헌법적 이슈가 성립될 것 같지 않아서 시간만 낭비할 수 있다는 판단임
"저작권 소송이기 때문에 헌법 문제는 무시해도 되는가?"라는 부분에
어떤 헌법적 쟁점이 있다고 보는지 궁금함
"변호사 없이도 가능하다"는 주장도, 법적으로 기업은 반드시 변호사를 세워야 하기 때문에 사실과 다름
만약 개인이 직접하면 어느 정도 배려가 있겠지만, 기업은 해당 안 됨
이런 기초적인 것에서 논리가 흔들린다면, 다른 논점에 대해 신뢰가 가지 않는다는 생각
이번 사안이 그렇게 큰 뉴스가치는 없어 보임
OpenAI가 데이터 보존 명령을 직접 저지하려고 곧 구두 변론을 할 예정이고, ChatGPT 일반 사용자가 선제적으로 낸 두 가지 요청이 결과를 좌우할 만한 사건은 아니었음
판사가, 회사에 "모든 데이터 보존" 명령이 현실에서 미치는 영향을 제대로 이해하지 못하고 이를 신속히 재고할 의지도 없어 보임
최초 판결의 파장이 바로 뉴스가치가 있다는 주장이 있음
요즘엔 너무 명백한 결론이 내려져도 매우 큰 뉴스가치가 있다 믿음
사용자가 직접 참여할 권리가 있음을 우리는 이렇게 확인함
원고가 했던 것처럼 본인이 소송을 직접 낼 수도 있음
결과가 어떻게 될지는 별개로, 이 자체는 권리임
판사가 해당 이슈에 관심이 없어 보이기 때문에 설득은 무의미하다는 결론임
OpenAI와 사용자에게 대안이나 선택지는 무엇일까 의문
직접적인 답은 아니지만, 로컬 LLM 사용하는 게 앞으로 가장 현실적인 대안이라고 생각
요즘 직접 돌려보고 있는데 아직 맥락 저장이나 고성능에는 한계가 있으나, 1~2년 뒤엔 충분히 실용적인 로컬 LLM도 꿈은 아닐 것으로 봄
나에겐 프라이버시보다는 오프라인 활용성이 더 매력임
미국법상으로는 선택지가 없음
전형적인 '서드파티 독트린'에 해당
본인 데이터라도 자발적으로 타사(OpenAI)에 제공시, 그 데이터는 더 이상 본인 것이 아니고 프라이버시 기대 자체가 성립하지 않음
예외는 반드시 특별히 신설되는 법에서만 인정 가능하며, OpenAI에는 현행법상 해당 없음
판결 역시 이런 미국 법 테두리 안에서 이루어진 것으로, OpenAI로 보낸 대화 데이터에 대한 프라이버시는 현재 기준에서 보호받지 못함
타사에 기대할 프라이버시를 이제 그만 두는 것이 좋음
은행정보도 수사 명령이 있으면 공개 가능
이런 현실을 모르고 요즘 뜨거운 논점만 착각하는 프로그래머가 많음
앞으로 판결이 어떻게 나오든 항소가 대안으로 가능할 수 있음
"OpenAI와 사용자에게 선택지는 무엇인가?"라는 질문에
미국에 데이터를 내지 않는 국가의 서비스를 찾는 것이 한 방법임
만약 OpenAI가 채팅이나 API에 입력되는 모든 내용을 저장하지 않을 거라 생각하는 사람이 있다면, OpenAI 이사진들 현황을 꼭 살펴보기를 권함
OpenAI 공동 설립자 중 한 명이 바이오메트릭 데이터까지 수집 중이라는 점을 보면 이 상황이 어색하지 않음
OpenAI 등 LLM 제공업체가 법적으로 데이터 저장을 의무적으로 금지 당한다고 해도, 실제로 그들이 그 정책을 제대로 지킬 것이라 신뢰하기 어려움
민감한 데이터는 반드시 로컬 LLM에 직접 입력해야 한다고 제안
"저장이 금지된다"라는 것은 곧 강제 저장이 없다는 것과 똑같은 의미임
이중부정을 인지했으면 함
전 세계가 이제 일상의 모든 면을 감시할 수 있는 기술적 능력이 생겼으니 이를 어떻게 다루느냐가 문제임
미래에는 이 방대한 데이터로 인해 의학, 역학, 대규모 심리학(나는 Massive open online psychology, moop라고 불러봄) 등 새로운 분야가 생기고, 정부가 실시간 빅데이터로 소외된 국민에게 더 잘 서비스할 수도 있을 것으로 생각
하지만 이런 미래를 위해선 반드시 신뢰할 만한 법적 체계가 필요하며, 판결 하나하나로 단편적으로 구현되긴 어렵다고 봄
개인적으론, 인간이 직접 행위하지 않으면 만들어질 수 없는 데이터는 무조건 그 사람 소유여야 하며, 만약 데이터가 해당 인간의 이익을 위해 쓰일 때만 위탁 보관이 허용되어야 한다는 원칙이 필요하다고 생각
"이용자/시민의 이익"이라는 높은 기준이 도입되면 데이터 회사의 사고방식도 완전히 달라질 것임
이런 부분에 대해 다른 사람들의 생각이 궁금함
Zero knowledge proof, 블록체인 스트림 결제, IPFS 같은 분산 스토리지와 암호화, 보상체계를 결합하면 해결 가능성이 있음
아직은 HN 등에서는 터부시되는 방향이지만, 데이터가 사용자를 중심으로 잠기고 중앙 집중화된 사일로 대신 분산되어야만 프라이버시와 빅데이터의 장점을 동시에 추구할 수 있다고 생각함
본 사안의 판사는 사실 임기가 1년 남짓 남은 매지스트레이트(치안판사)임
예전에도 이런 약한 결정을 내린 치안판사가 임기 연장 안 됐던 사례가 있는데, 이번에도 그러길 바람 임기 연장 공고 링크
10년 이상 지속된 대규모 감시 프로그램을 어떤 판사도 막을 수 없음
이제는 농담거리이자 무의미한 논란임
OpenAI도 다른 기업처럼 가능한 모든 정보를 수집하고 우리를 프로파일링함
우리가 텍스트박스에 입력하는 정보 자체가, LLM이 응답해주는 결과값보다 훨씬 큰 가치가 있음
많은 이들이 이 상황에 충격을 받거나 분노를 보이는 게 이상하다고 느낌
대부분은 실제로 일상적으로 쓰는 온라인 서비스들도 똑같이 데이터를 보존한다는 점을 모르고 있거나 간과하는 것 같음
실질적으로 Signal처럼 E2EE가 아닌 이상, Gmail, 통신사, Reddit, Xitter 등 주요 서비스는 모두 데이터와 메타데이터를 보존함
이것이 옳으냐 그르냐를 떠나, 현재 온라인 서비스에서는 당연한 현실임
분노하는 이유는 이런 현실이 허용 불가 수준으로 다가온다고 느끼기 때문임
약관이나 정책과도 별개로, OpenAI는 사용자를 위해 지우려는 데이터까지 강제로 보존해야 하는 상황임
나는 오히려 사람들이 적극적으로 입장을 표명하는 게 놀랍지 않음
대부분의 사람들은 이 사실을 전혀 모르고 있다고 생각함
주변의 비기술 친구나 길에서 만난 아무에게나 물어봐도 실제로는 이 현실을 인지하지 못한 경우가 있음
Hacker News 의견
기사에서 인용된 판사의 발언을 보면, 판사가 문제 제기의 본질을 제대로 이해하지 못하고 있다는 느낌을 받음과 동시에 판결 이유도 이상함을 느낌
"만약 이런 질문을 고려한다면, 실제로 다루어야 할 법적 쟁점을 해결하는 데 부적절하게 지연만 초래할 것이다"라는 논리임
저작권 관련 소송이기 때문에 헌법적 문제는 무시해도 된다는 건가 하는 의문
또, 변호사가 작성하지 않았다는 이유만으로 요청을 바로 기각하는 것은 판사로서 그 역할에 어긋나는 행동이라 생각함
변호사 없이도 청구할 수 있다는 점을 간과한 것 같음
기사에 첨부된 전체 판결문(여기)를 읽어보면 사정이 더 명확해짐
문제를 제기한 당사자가 특정 형태의 "intervene 요청"을 제출했는데, 이에는 엄격한 요건이 있음
그 요건을 충족하지 못했음
변호사 없이 제출했다고 기각했다는 부분도 판결문에 언급돼 있음
개인은 본인을 직접 대변할 수 있지만, 법인(기업)은 반드시 변호사를 세워야 함
처음에 회사 이름으로 접수된 건이라, 판사는 법에 맞게 처리한 것으로 보임
나도 비슷하게 느끼며, 이런 사생활 문제로 타격받을 수 있는 유사 서비스가 굉장히 많다는 점이 더 걱정임
이런 과도한 법원 명령을 막아줄 강력한 프라이버시 법이 필요함에도 아직 없음
예를 들어, 데이트 서비스에서 서로 대화한 모든 메시지를 저장하라는 법원 명령, 통신사에서 모든 문자메시지 저장, 수십억 개씩 생성되는 Google Docs 저장 등의 사례가 가능함
왜 정부가 아직 Signal 같은 서비스에 백도어를 추가하고 모든 텍스트 메시지 저장할 것을 요구 안 했는지 궁금
실제 이를 해내려면 상당히 강력한 명분이 필요하다고 생각함
미국 정부가 이미 일반 상용 서비스에서도 이런 광범위한 감시를 진행해왔을 가능성에 의문을 가짐
예전에 에드워드 스노든 폭로 때 Google 통신 감청도 있었음
판사는 일반적으로 변호사 출신이거나 법적 경험이 있음
해당 판사도 변호사 경력이 있고, 동물학 박사 과정도 거의 마친 특이 이력 보유
사회에서 보호받는 계층이 비보호 계층을 동등하게 대하려 하지 않는 건 매우 자연스러운 일임
이 사안에서 헌법적 쟁점이 있다고 보기도 어렵고, 만약 있더라도 그걸 판단하는 자리도 아님
변호사 없이 제출했다고 무시하는 것에 대한 비판은 100% 오해임
Pro Se(본인 소송)는 규정이 잘 마련되어 있음
당사자가 아닌 다른 법인을 대리해서 소송을 제기할 경우 반드시 변호사가 필요함
"소송 주제가 저작권이라 헌법 문제를 무시해도 된다"는 취지라기보다는, 판사가 볼 때 헌법적 이슈가 성립될 것 같지 않아서 시간만 낭비할 수 있다는 판단임
"저작권 소송이기 때문에 헌법 문제는 무시해도 되는가?"라는 부분에
어떤 헌법적 쟁점이 있다고 보는지 궁금함
"변호사 없이도 가능하다"는 주장도, 법적으로 기업은 반드시 변호사를 세워야 하기 때문에 사실과 다름
만약 개인이 직접하면 어느 정도 배려가 있겠지만, 기업은 해당 안 됨
이런 기초적인 것에서 논리가 흔들린다면, 다른 논점에 대해 신뢰가 가지 않는다는 생각
이번 사안이 그렇게 큰 뉴스가치는 없어 보임
OpenAI가 데이터 보존 명령을 직접 저지하려고 곧 구두 변론을 할 예정이고, ChatGPT 일반 사용자가 선제적으로 낸 두 가지 요청이 결과를 좌우할 만한 사건은 아니었음
판사가, 회사에 "모든 데이터 보존" 명령이 현실에서 미치는 영향을 제대로 이해하지 못하고 이를 신속히 재고할 의지도 없어 보임
최초 판결의 파장이 바로 뉴스가치가 있다는 주장이 있음
요즘엔 너무 명백한 결론이 내려져도 매우 큰 뉴스가치가 있다 믿음
사용자가 직접 참여할 권리가 있음을 우리는 이렇게 확인함
원고가 했던 것처럼 본인이 소송을 직접 낼 수도 있음
결과가 어떻게 될지는 별개로, 이 자체는 권리임
판사가 해당 이슈에 관심이 없어 보이기 때문에 설득은 무의미하다는 결론임
OpenAI와 사용자에게 대안이나 선택지는 무엇일까 의문
직접적인 답은 아니지만, 로컬 LLM 사용하는 게 앞으로 가장 현실적인 대안이라고 생각
요즘 직접 돌려보고 있는데 아직 맥락 저장이나 고성능에는 한계가 있으나, 1~2년 뒤엔 충분히 실용적인 로컬 LLM도 꿈은 아닐 것으로 봄
나에겐 프라이버시보다는 오프라인 활용성이 더 매력임
미국법상으로는 선택지가 없음
전형적인 '서드파티 독트린'에 해당
본인 데이터라도 자발적으로 타사(OpenAI)에 제공시, 그 데이터는 더 이상 본인 것이 아니고 프라이버시 기대 자체가 성립하지 않음
예외는 반드시 특별히 신설되는 법에서만 인정 가능하며, OpenAI에는 현행법상 해당 없음
판결 역시 이런 미국 법 테두리 안에서 이루어진 것으로, OpenAI로 보낸 대화 데이터에 대한 프라이버시는 현재 기준에서 보호받지 못함
타사에 기대할 프라이버시를 이제 그만 두는 것이 좋음
은행정보도 수사 명령이 있으면 공개 가능
이런 현실을 모르고 요즘 뜨거운 논점만 착각하는 프로그래머가 많음
앞으로 판결이 어떻게 나오든 항소가 대안으로 가능할 수 있음
"OpenAI와 사용자에게 선택지는 무엇인가?"라는 질문에
미국에 데이터를 내지 않는 국가의 서비스를 찾는 것이 한 방법임
만약 OpenAI가 채팅이나 API에 입력되는 모든 내용을 저장하지 않을 거라 생각하는 사람이 있다면, OpenAI 이사진들 현황을 꼭 살펴보기를 권함
OpenAI 등 LLM 제공업체가 법적으로 데이터 저장을 의무적으로 금지 당한다고 해도, 실제로 그들이 그 정책을 제대로 지킬 것이라 신뢰하기 어려움
민감한 데이터는 반드시 로컬 LLM에 직접 입력해야 한다고 제안
이중부정을 인지했으면 함
전 세계가 이제 일상의 모든 면을 감시할 수 있는 기술적 능력이 생겼으니 이를 어떻게 다루느냐가 문제임
미래에는 이 방대한 데이터로 인해 의학, 역학, 대규모 심리학(나는 Massive open online psychology, moop라고 불러봄) 등 새로운 분야가 생기고, 정부가 실시간 빅데이터로 소외된 국민에게 더 잘 서비스할 수도 있을 것으로 생각
하지만 이런 미래를 위해선 반드시 신뢰할 만한 법적 체계가 필요하며, 판결 하나하나로 단편적으로 구현되긴 어렵다고 봄
개인적으론, 인간이 직접 행위하지 않으면 만들어질 수 없는 데이터는 무조건 그 사람 소유여야 하며, 만약 데이터가 해당 인간의 이익을 위해 쓰일 때만 위탁 보관이 허용되어야 한다는 원칙이 필요하다고 생각
"이용자/시민의 이익"이라는 높은 기준이 도입되면 데이터 회사의 사고방식도 완전히 달라질 것임
이런 부분에 대해 다른 사람들의 생각이 궁금함
아직은 HN 등에서는 터부시되는 방향이지만, 데이터가 사용자를 중심으로 잠기고 중앙 집중화된 사일로 대신 분산되어야만 프라이버시와 빅데이터의 장점을 동시에 추구할 수 있다고 생각함
본 사안의 판사는 사실 임기가 1년 남짓 남은 매지스트레이트(치안판사)임
예전에도 이런 약한 결정을 내린 치안판사가 임기 연장 안 됐던 사례가 있는데, 이번에도 그러길 바람
임기 연장 공고 링크
판사라는 직함에 굳이 따옴표를 붙이는 이유를 모르겠음
치안판사도 엄연히 판사임
참고: 미국 연방법원 판사 종류
3자 독트린(Third Party Doctrine)의 평범한 적용만으로 치안판사의 임기나 평판이 나빠져야 한다고 보지 않음
과거 동일 주제의 토론 참고 OpenAI가 모든 ChatGPT 로그와 삭제된 대화까지 저장하라는 법원 명령에 반박하다
10년 이상 지속된 대규모 감시 프로그램을 어떤 판사도 막을 수 없음
이제는 농담거리이자 무의미한 논란임
OpenAI도 다른 기업처럼 가능한 모든 정보를 수집하고 우리를 프로파일링함
많은 이들이 이 상황에 충격을 받거나 분노를 보이는 게 이상하다고 느낌
대부분은 실제로 일상적으로 쓰는 온라인 서비스들도 똑같이 데이터를 보존한다는 점을 모르고 있거나 간과하는 것 같음
실질적으로 Signal처럼 E2EE가 아닌 이상, Gmail, 통신사, Reddit, Xitter 등 주요 서비스는 모두 데이터와 메타데이터를 보존함
이것이 옳으냐 그르냐를 떠나, 현재 온라인 서비스에서는 당연한 현실임
분노하는 이유는 이런 현실이 허용 불가 수준으로 다가온다고 느끼기 때문임
약관이나 정책과도 별개로, OpenAI는 사용자를 위해 지우려는 데이터까지 강제로 보존해야 하는 상황임
나는 오히려 사람들이 적극적으로 입장을 표명하는 게 놀랍지 않음
대부분의 사람들은 이 사실을 전혀 모르고 있다고 생각함
주변의 비기술 친구나 길에서 만난 아무에게나 물어봐도 실제로는 이 현실을 인지하지 못한 경우가 있음