사라 실버맨, OpenAI와 Meta에 저작권 침해 소송 제기

 (theverge.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 코미디언이자 작가인 Sarah Silverman이 Christopher Golden, Richard Kadrey와 함께 OpenAI와 Meta를 각각 미국 지방법원에 제소함
  • 쟁점은 ChatGPT와 LLaMA가 저자 허락 없이 책을 포함한 데이터셋으로 훈련됐는지 여부임
  • 원고들은 Bibliotik, Library Genesis, Z-Library 같은 shadow library에서 불법 확보된 책들이 토렌트로 대량 유통됐다고 봄
  • OpenAI 소송에서는 ChatGPT가 Bedwetter, Ararat, _Sandman Slim_을 요약한 사례가 훈련 데이터 사용 정황으로 제시됨
  • Meta 소송은 LLaMA 훈련 데이터 출처 중 ThePile과 EleutherAI를 연결해, 원고들의 책이 사용 데이터셋에 포함됐을 가능성을 문제 삼음

소송 대상과 핵심 쟁점

  • Sarah Silverman, Christopher Golden, Richard Kadrey는 OpenAI와 Meta를 상대로 각각 미국 지방법원에 소송을 냄
  • 두 소송의 중심은 저작권 침해 여부임
  • 원고들은 OpenAI의 ChatGPT와 Meta의 LLaMA가 자신들의 저작물을 포함한 데이터셋으로 훈련됐다고 주장함
  • 핵심 쟁점은 해당 데이터셋이 저자들의 허락 없이 확보됐는지에 있음

훈련 데이터 출처 논란

  • 소송은 ChatGPT와 LLaMA 훈련에 쓰인 데이터셋이 불법적으로 확보됐다고 주장함
  • 원고들이 지목한 shadow library 사이트는 다음과 같음
    • Bibliotik
    • Library Genesis
    • Z-Library
    • 기타 유사 사이트
  • 해당 책들이 토렌트 시스템을 통해 대량 제공된다는 점도 문제로 삼음

OpenAI 소송에서 제시된 사례

  • 원고들은 ChatGPT가 프롬프트에 따라 자신들의 책을 요약한 사례를 증거로 제시함
  • 증거에 포함된 책은 다음과 같음
    • Sarah Silverman의 Bedwetter
    • Christopher Golden의 Ararat
    • Richard Kadrey의 Sandman Slim
  • 소송은 ChatGPT가 원고들의 출판 저작물에 포함된 저작권 관리 정보를 재현하지 않았다고 주장함

Meta 소송의 초점

  • Meta를 상대로 한 별도 소송은 원고들의 책이 LLaMA 훈련 데이터셋에서 접근 가능했다고 봄
  • LLaMA는 Meta가 2월에 공개한 4개 오픈소스 AI 모델로 소개됨
  • 소장은 Meta의 LLaMA 논문에 나온 훈련 데이터셋 출처 중 ThePile을 문제 삼음
  • ThePile은 EleutherAI가 구성한 데이터셋으로 언급됨

당사자 반응

  • Christopher Golden과 Richard Kadrey는 소송에 대한 논평을 거절함
  • Sarah Silverman 측은 보도 시점까지 응답하지 않음

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • AI 제작자들이 도서 불법복제 사이트에서 가져온 저작권 작품을 실제로 사용했다고 명시적으로 말한 셈임
    그 사이트에서 책 한 권만 내려받아도 소송당해 침해 판결을 받을 수 있고, 전부 내려받았다면 수십억 달러 배상 책임이 생길 수 있음
    그런데 Google이나 Facebook 같은 회사는 다른 규칙으로 움직이는 듯함. 한 명을 죽이면 살인자지만, 백만 명을 죽이면 그걸 묻는 질문이 “함정 질문”이 되고 분노로 대응할 수 있는 상황과 비슷함

    • 저작권 때문에 거의 모든 아이가 지금까지 쓰인 거의 모든 책에 접근하지 못한다는 점을 잠깐 떠올려야 함
      저작권을 하루아침에 없애는 건 너무 큰 충격일 수 있지만, 저작권의 영향을 줄일수록 세상은 훨씬 좋아지고 더 빨리 발전할 것임
      2023년에는 세계 인구의 과반이 스마트폰을 갖고 있음. 과반의 사람들이 디지털화된 모든 책에 접근해 아이들을 그 책들로 키울 수 있는 세상을 상상해볼 만함
    • 기계학습 모델은 오래전부터 저작권 데이터로 학습돼 왔음
      ImageNet에는 저작권 이미지가 가득하고, Clearview는 말 그대로 인터넷에서 얼굴을 긁어갔으며, 더 오래된 예도 있을 것 같음
      미국 법원이 이를 공정 이용으로 판단한 적이 있는지는 모르겠지만, 아직 아니라면 결국 그렇게 판단될 가능성이 높다고 봄
    • 엄밀히 말하면 소송을 당하는 건 내려받기가 아니라 업로드임
      다시 공유하지 않는 한 Z-Library나 BitTorrent에서 원하는 만큼 내려받을 수 있음
      저작권 자료를 검색용으로 색인화하는 것도 안전하거나, 적어도 애매한 영역임
    • “그 사이트에서 책을 내려받으면 소송당해 침해 판결을 받을 것”이라는 말이 실제로 얼마나 자주 일어나는지 궁금함
      침해 통지를 받을 수 있고, 정말 심하게 하면 인터넷 제공업체가 서비스를 끊을 수는 있겠지만, 단순히 뭔가를 내려받았다는 이유로 실제 소송당한 사례는 들어본 적이 없음
    • AI 쪽 사람들이 사실상 저작권이 존재하지 않는 것처럼 다루는 게 꽤 마음에 듦
      법원이 LLM 가중치와 데이터셋을 “공정 이용”이든 다른 우스운 법적 명분이든 인정해주길 강하게 바람
      Aaron Swartz는 성인 같은 사람이었음

  • Books2 데이터셋에 Silverman의 책이 들어 있을 가능성은 충분하지만, 소장에 나온 이 문장은 명백히 틀린 것처럼 보임
    첫째, 모델이 학습 중 그 책의 본문을 한 단어도 보지 않았더라도, 공개된 다른 요약들, 예컨대 Wikipedia 페이지를 읽고 요약하는 법을 배웠을 수 있음
    둘째, 책 본문만 보고 그 책에 대한 설명이나 요약은 보지 않은 모델이 실제로 요약을 잘할지도 분명하지 않음
    이를 확인하려고 Project Gutenberg에 있고, 소장에 따르면 Books1이라 ChatGPT 학습 데이터에 포함됐지만 온라인 논의는 거의 없는 책을 골라볼 수 있음. 요약 능력의 원천이 책 자체를 학습한 데 있다면, 희귀한 책도 Silverman의 책만큼 요약할 수 있어야 함
    임의로 The Ruby of Kishmoor를 골랐는데, 2003년에 Project Gutenberg에 추가된 책임. GPT-3.5 기반 ChatGPT는 주요 인물조차 틀린 요약을 환각했고, GPT-4는 이야기를 모른다며 시도조차 거부했음
    ChatGPT가 Silverman의 책을 요약할 수 있는 이유가 그 책 자체가 학습 데이터에 있었기 때문이라면, 왜 다른 책에는 똑같이 하지 못하는지 의문임

    • GPT-4의 playground는 The Ruby of Kishmoor를 이렇게 요약함
      프롬프트: Project Gutenberg에 있는 다음 책을 요약해 달라 — The Ruby of Kishmoor
      응답은 Howard Pyle의 짧은 모험담이며, Jonathan Rugg가 신비한 낯선 사람에게 이끌려 Caribbean으로 가서 귀중한 유물인 Ruby of Kishmoor를 확보하려 한다는 내용이라고 설명함
      Caribbean에 도착한 뒤 루비에 심각한 저주가 있음을 알게 되지만, 호기심과 큰 부의 가능성 때문에 위험을 감수하고 보석을 좇는다고 함. 여러 도전 끝에 체계적 수색이 아니라 순전한 행운으로 루비를 발견한다고 요약함
      여정 속에서 인간의 탐욕과 물질적 이득을 위해 사람들이 어디까지 가는지 탐구하며, 모험·초자연적 요소·용기·도덕적 성찰이 섞여 물질적 추구의 진짜 가치를 다시 생각하게 한다고 정리함
      마지막에는 Jonathan이 루비를 들고 탈출하지만 큰 개인적 대가를 치르며, 삶과 물질적 추구의 진정한 가치에 대한 질문을 남긴다고 함
    • 소송을 시작하면서 증거개시 범위를 정하려면 사실관계를 보통 그런 식으로 진술함
      사실이라고 믿을 만한 이유가 있다고 주장하는 것이고, 이제 소송을 통해 직접 확인할 수 있게 됨
    • “소장의 이 문장은 명백히 거짓”이라고 했지만, 이어지는 논거는 그것이 사실이 아닐 수도 있다는 정도만 보여줌
      나도 다른 글을 보고 GPT-4에게 The Ruby of Kishmoor 요약을 요청했고, 두 번 물어보니 요약을 제공했음. 그 책을 몰라 정확한지는 판단할 수 없지만, 적어도 그 테스트는 무너진 셈임
      ChatGPT가 저작권을 당연히 존중했을 것이고 허가 없이 저작권 자료를 스캔하지 않았을 것이라고 가정하는 건 꽤 순진해 보임. 증거개시가 결론을 내줄 수도 있음. 무엇을 스캔했는지에 대한 로그는 존재해야 함
      더 나은 논리는 이것이 공정 이용이라는 쪽이라고 봄
    • 접근성 차이일 수 있음. Silverman은 들어봤지만 Ruby of Kishmoor는 들어본 적이 없음
      더 많은 사람이 논의하고, 개인 사이트나 다른 곳에 요약도 더 많이 올렸을 것임
    • 그럴듯함은 각하 신청을 넘기기 위한 기준 그 자체임
      그럴듯하면 증거개시로 갈 수 있고, 증거개시는 실제 사실에 더 가까이 가게 해줌

  • 이 건은 꽤 흥미로운데, 웹브라우저만 있으면 누구나 접근 가능한 학습 자료, 예컨대 개인 블로그와, “불법 취득되어 토렌트 시스템으로 대량 제공된” 학습 자료를 구분하고 있음
    LLM 배포와 관련해 이런 구분이 법적으로 왜 중요해야 하는지는 잘 모르겠음. 블로그 작성자들도 동의한 것은 아니기 때문임
    다만 불법복제 토렌트를 학습에 사용하는 데 법적 문제가 있는지는 궁금함. 저작권 자료로 학습한 LLM 배포는 공정 이용으로 허용되지만, 합법적으로 하려면 판매되는 콘텐츠를 먼저 구매해야 한다고 말할 법적 근거가 있을까? 예컨대 블로그 글은 무료로 접근 가능하니 괜찮지만, Sarah Silverman의 책은 무료 공개된 적이 없고 돈도 내지 않았으니 안 된다는 식임
    아니면 법원은 무언가가 어떻게 만들어졌는지는 전혀 신경 쓰지 않을까? 프리랜서 글에서 책의 한 구절을 인용해도, 그 책을 샀는지, 도서관이나 친구에게 빌렸다는 걸 증명할 수 있는지, 아니면 디지털 복제본을 불법 다운로드했는지 묻지는 않음

    • 결국 음악의 싱크 권리와 비슷한 새로운 라이선스 개념이 나올 것 같음. 아마 “학습 권리”라고 부를 수 있겠음
      텍스트를 구매했는지 불법복제했는지는 중요하지 않을 것임. 지금도 영화 사운드트랙에 오디오 트랙을 섞어 넣을 때 그 트랙을 샀는지 불법복제했는지가 핵심이 아닌 것과 비슷함
      연예 에이전시들은 인기 창작자들의 학습 권리 수수료를 일괄 협상하고, 창작자들은 LLM 제공업체가 API 비용 항목에 붙여 내는 작은 수입 흐름을 받게 될 것임
      독립 창작자의 학습 권리는 지금처럼 마구 침해될 것이고, 학습 권리 침해가 의심되거나 입증된 대형 영리 LLM은 망신을 당하거나 소송을 당할 것임. 독립 LLM은 레이더 아래에 머물 가능성이 큼
    • 공정 이용 판단 요소 중 하나이자 얼마 전까지 가장 중요하다고 꾸준히 여겨졌던 요소는 원저작물의 상업 시장에 미치는 영향임
      따라서 원저작물에 사실상 상업 시장이 없다면 법원은 공정 이용을 인정할 가능성이 더 높음. 다만 어떤 것이 활발히 판매되지 않는다는 사실만으로 결론이 나는 것은 아님
      오픈소스 라이선스도 무료로 제공되지만 항소심 법원에서 살아남았음
    • 저작권 작품의 사적 복제는 허용되지만 재배포는 허용되지 않음
      이것이 어느 정도까지 재배포인지 분명하지 않음. 버튼을 누르면 원작을 재생성하는 VCR 같은 기계와 이 모델 사이에 큰 차이가 있는지도 애매함
    • AI 관점은 과장된 유행을 활용하는 것처럼 보임
      “불법복제” 저작권 자료를 내려받는 것이 불법이라면 그게 범죄이고, 나머지는 거의 무관함. 불법복제 영화를 봤다고 해서 누군가에게 줄거리를 말하는 것이 불법은 아님
    • 공정 이용을 주장하려면 그 작품을 합법적으로 보유하고 있어야 하는 것으로 이해하고 있음. 변호사는 아님
      작품이 합법적으로는 판매를 통해서만 구할 수 있다면, 직접 합법적으로 구매했거나 그렇게 구매한 사람에게 받은 사본이어야 함. 예를 들어 선물로 받은 경우가 그렇음

  • 같은 소장을 읽고 있는 게 맞는지 모르겠음
    Meta의 논문 https://arxiv.org/pdf/2302.13971.pdf에는 학습 데이터셋에 두 개의 도서 말뭉치를 포함했다고 되어 있음. 하나는 퍼블릭 도메인 책을 담은 Gutenberg Project이고, 다른 하나는 ThePile의 Books3 섹션임
    The Pile 논문 https://arxiv.org/abs/2101.00027은 Books3를 Bibliotik 비공개 트래커의 내용 사본에서 파생된 책 데이터셋이라고 설명함
    Shawn Presser의 링크는 https://twitter.com/theshawwn/status/1320282149329784833이고, 그는 Books3를 “all of bibliotik”, 즉 196,640권의 책을 일반 .txt로 만든 것이라고 설명함
    37GB 파일을 내려받을 시간과 공간은 없지만, 거기에 Silverman의 책이 들어 있다면 이건 확실한 승소 사건 아닌가 싶음
    Meta의 LLaMA는, 그들이 인정한 것처럼 보이듯, 불법복제 책으로 학습된 것임

    • Silverman의 책은 거기에 있음
      $ grep -i "Sarah Silverman" books3.list.txt 결과 325196 books3/the-eye.eu/public/Books/Bibliotik/T/The Bedwetter - Sarah Silverman.epub.txt가 나옴
      파일 목록만 보고 싶은 사람을 위한 링크도 있음. 목록 자체도 큰 파일임: https://gist.githubusercontent.com/Q726kbXuN/e4e9919a2f5d81f...
    • 맞기도 하고 아니기도 함
      초기 학습에 트래커가 정의한 말뭉치의 사본을 만드는 과정이 필요했다면, 그 과정에 저작권 침해 행위가 있었다는 점은 거의 명백한 사건임
      하지만 Silverman이 책 구매가 상당액, 어쩌면 3배 손해배상 정도를 넘어 어떤 구제를 받을 수 있는지는 결국 모델 학습과 저작권의 관계라는 같은 쟁점에 달려 있음
      여기에 학습 전 자료의 불법 상태가 그 판단을 바꾸는지에 대한 추가 논점도 붙음
    • 같은 걸 읽고 있는 것 같지 않음. 어디선가 갑자기 Google을 끌어오고 있음

  • 이 문제는 일부가 생각하는 것보다 더 커질 것 같음
    잠재적 저작권 청구가 없는 깨끗한 학습 데이터 시장이 생길 수도 있음. 퍼블릭 도메인 작품만 쓰는 식임
    그러면 18세기 후반이나 19세기 초반 작가처럼 말하는 걸 보고 AI라는 걸 알게 될까?

    • 완전히 새로운 문제는 아니고, 검색엔진에서도 비슷한 문제가 있었으며 변형적 이용으로 볼 수도 있음
      다만 저작권 텍스트 전체를 기꺼이 재현하는 모델에는 문제가 생길 수 있고, 명예훼손성 내용을 환각하는 모델 같은 새로운 쟁점도 있음
      그래도 이 지니를 다시 병에 넣기는 어려워 보임. 앞으로 많은 소송, 정렬 작업, 새로운 유형의 악용이 함께 나타날 가능성이 큼
    • 그런 시장이 생기길 바람. 지식재산에 대한 학습 라이선스를 판매하는 시장이 있으면 좋겠음
      자신의 지식재산이 학습 세트에 쓰이는 것을 꺼리지 않는 예술가, 작가, 시인에게 작지만 실제적인 수동 소득원이 될 수 있음
      각 창작자와 개별 협상하는 건 비현실적이지만, 구성원의 품질을 보증할 수 있는 출판사, 갤러리, 길드, 노조 같은 더 큰 집단이라면 가능해 보임. 라이선스를 제공하고 수익을 모든 구성원과 나눌 수 있음
      LLM이 동의나 계약 없이, 심지어 토렌트 사이트에서까지 이 데이터를 모조리 빨아들이는 건 명백히 비윤리적임. 이런 모델은 모두에게 이익이 될 수 있음
    • 이 문제가 해결되기 전까지는 깨끗한 학습 데이터가 위험 완화 수단으로 가치가 있을 것임
      해결된 뒤에는 완전히 문제가 아니게 되거나, 훨씬 더 알기 쉬운 비용·편익 절충 문제가 될 것임
      퍼블릭 도메인 작품과 미국 정부 간행물의 혼합이 될 수도 있음. 미국 정부 간행물은 범주적으로 저작권 대상이 아님
    • 깨끗한 관할권 시장도 있음. 신경망 학습을 저작권 침해로 보지 않는 관할권 말임
      일본은 이미 자신을 그런 관할권으로 선언했음
    • 18·19세기가 아니라 19·20세기를 말하려던 것 같지만, 그래도 꽤 웃길 듯함

  • 변호사는 아니지만, 이게 침해를 입증하는 좋은 예로 보이지는 않음
    책의 상세 요약은 전형적인 변형적 이용처럼 들림. 특히 Silverman의 경우에는 산문의 예술적 요소를 제거하고 책을 “사실”로 축약할수록 원작의 직접 대체물이 되기 더 어려워짐

    • 소장에는 꽤 괜찮은 논리가 있음. 학습 데이터의 출처를 따라가면 불법 취득으로 이어짐
      불법 취득 자료가 상업적 사업에 사용됐고, 그 사업이 AI 모델이었다는 점은 어쩌면 부차적임. 사업을 하면서 불법 취득 자료를 사용할 수는 없음
    • 생각할수록 결과는 “법”이 AI를 사람에 가까운 존재로 볼지, “기계에 가까운 존재”로 볼지에 달려야 하고 또 달려 있을 것 같음
      사람은 읽고 연구한 뒤 다른 결과물을 낼 수 있음
      하지만 “데이터를 기계에 먹이는 것”은, 다른 쪽 끝에서 정확히 같은 것이 나오지 않더라도 명백한 침해처럼 보임
    • 아닐 수도 있지만, 주장 중 하나는 흥미로움. 데이터셋 일부를 불법 취득했다는 주장임
      그 손해액은 얼마가 될까? 하드커버의 소매가 정도일까?
    • 적절히 프롬프트를 주면 LLM이 책 전체를 축자적으로 반복할 수 있을까?
    • 소장은 읽지 않았지만, OpenAI가 훔친 작품으로 데이터를 학습했기 때문에 공정 이용이 적용되지 않는다는 논리가 있을 수 있음

  • LLM이 학습 대상 전체의 파생 저작물인지 여부는 제쳐두더라도, 이 주장은 매우 약해 보임
    작품 자체가 학습 세트에 전혀 없었더라도, 그 작품에 대한 여러 요약으로 학습한 LLM은 스스로 그런 요약을 만들어낼 수 있음
    일반적으로 어떤 것에 대한 지식이 있다는 사실은 그것으로 학습했다는 증거가 아님

    • 확정적인 증거는 아니지만, 법원은 사건을 시작하고 새로운 사실을 발견하기 위해 확정적 증거를 요구하지 않음
      LLM 전문가와 OpenAI 측에 그 출력이 문제의 저작권 작품에서 파생됐을 가능성이 높은지 물을 수 있음
      어쨌든 “아니다, 책이 아니라 다른 사람의 저작권 있는 요약에서 온 것이다”라는 논리라면, 그 요약을 쓴 사람이 대신 저작권 침해로 소송해야 한다는 뜻 아닌가? OpenAI가 “사실 요약이 아니라 책 전체였다”고 말하지 않는 한 그렇음
    • LLM 자리에 사람을 놓으면 흥미로운 뉘앙스가 생김
      우리는 수천 개의 작품을 읽었는데, 그렇다면 우리가 쓰는 모든 것이 파생물이라는 뜻일까?

  • 더 설득력 있는 증거는 ChatGPT가 요약이 아니라 본문 일부를 그대로 출력하게 만드는 것이었을 것임
    직접 시도했을 때는, 2021년 9월 지식 기준 이후의 특정 외부 데이터베이스나 책에 접근할 수 없고 Sarah Silverman의 The Bedwetter나 다른 특정 텍스트의 축자 인용을 제공할 수 없다는 식으로 답했음
    다만 그 시점까지의 학습과 지식을 바탕으로 텍스트를 생성할 수 있으니 Sarah Silverman이나 관련 주제에 대해 질문하라고 했음

    • 이 논의를 놓쳤을 수도 있음: https://news.ycombinator.com/item?id=36400053
      OpenAI는 자사 소프트웨어가 저작권 자료를 출력한다는 점을 알고 있어서 급한 필터를 붙인 것처럼 보임
      그래서 지금 요청했을 때 책을 출력하지 않는다는 사실은 AI가 그 큰 덩어리를 암기하지 않았다는 증거가 아님. 단지 안전 필터가 걸려 있을 수 있고, 간단한 우회법이 필요할 수도 있음
    • 예전에 ChatGPT에게 반지의 제왕 첫 문단을 출력하게 해봤는데, 처음 몇 단어 뒤에 멈췄음
      개발자들이 필터링하는 것처럼 보임
    • GPT는 온 인터넷의 손실 압축 JPEG임. 신경망 작동 방식상 거기서 축자 텍스트를 뽑아내는 것은 불가능함
      엑사바이트 규모의 텍스트 데이터를 기가바이트 크기의 신경망에 어떻게 넣는다고 생각하나? 맞음, 손실 압축임

  • 학습 세트에 서평과 요약이 많이 들어 있어서 거기서 자체적으로 합성했을 가능성이 훨씬 크지 않나?

    • 불법 도서 저장소가 학습에 쓰였다는 문서화된 흔적이 있음
    • 실제로는 학습 폴더에 책 PDF를 잔뜩 넣고 그대로 돌렸을 가능성이 훨씬 커 보임
      이 AI 회사들이 학습용으로 빨아들이는 데이터에 대해 조금이라도 조심하고 있을 거라고는 거의 믿기 어려움
    • 그 요약들은 어디서 왔을까? 그림자 도서관을 긁었을 가능성이 훨씬 크다고 봄. 물론 그것도 입증하기는 거의 불가능해 보임
      그림자 도서관에서만 구할 수 있는 책이나 텍스트의 요약을 요청해 보면 어느 정도 시험할 수 있을지도 모름
    • 서평과 요약이 학습 세트에 있었다면, OpenAI의 LLM은 프롬프트에 따라 입력 텍스트를 생성한다는 점에서 검색엔진에 더 가까운 것 아닌가?

  • Getty Images도 Stability AI를 상대로 AI 소송을 냈다는 건 좀 웃김. 업보인가?
    Getty가 남에게서 훔치는 건 괜찮고, 남들이 Getty에게서 훔치는 건 안 된다는 건가? 이 싸움에 이해관계는 없지만, 이런 회사들의 위선은 정말 심함

    • Getty는 누구에게서 훔치나?
답변달기