판사, Meta AI 저작권 소송을 “다음 Taylor Swift의 문제”로 언급

• Meta와 작가들의 AI 저작권 소송은 생성형 AI 도구가 기존 책 시장과 창작자의 미래 수익을 잠식할 수 있는지가 핵심 쟁점임
• 원고 측은 Meta가 Sarah Silverman, Ta-Nehisi Coates 등의 저작물을 LibGen 같은 shadow library에서 대량 다운로드해 모델 구축에 썼다고 보고, Meta는 이를 공정 이용이라고 맞섬
• Vince Chhabria 판사는 AI가 저작물 시장을 “dramatically changing”하거나 “obliterating”한다면 라이선스 없는 사용을 공정 이용으로 보기 어렵다고 했지만, 실제 피해 입증에는 회의적임
• 청문에서는 Taylor Swift 음악을 학습한 AI가 수십억 개의 모방곡을 만드는 사례가 논의됐고, 판사는 특히 덜 알려진 창작자의 경력이 AI 출력물로 위축될 수 있는지를 물음
• Kadrey v. Meta 결과는 미국의 여러 생성형 AI 저작권 소송과 Meta의 AI 전략에 영향을 줄 수 있음

---

Kadrey v. Meta의 핵심 쟁점

• Meta와 Sarah Silverman, Ta-Nehisi Coates 등을 포함한 작가 그룹의 분쟁은 Meta의 AI 도구가 작가들의 책 판매를 잠식할 수 있는지에 초점이 맞춰짐
• 양측은 각각 부분 약식판결을 신청함
  • 모든 쟁점을 재판으로 넘기기보다, 특정 쟁점에 대해 판사가 먼저 판단해 달라는 요청임
• Vince Chhabria 미국 연방지방법원 판사는 양측 변호인에게 몇 시간 동안 질문을 이어감

원고와 Meta의 공방

• 작가들은 Meta가 자신들의 저작물을 불법적으로 사용해 생성형 AI 도구를 만들었다고 주장함
  • 특히 LibGen 같은 shadow library를 통한 책 불법 복제를 문제 삼음
• Meta는 저작물을 사용했다는 점이나 shadow library에서 책을 대량 다운로드했다는 점을 부인하지 않음
• 대신 자사의 행위가 미국 저작권법상 예외인 공정 이용(fair use) 으로 보호된다고 맞섬
  • 공정 이용은 패러디, 교육, 뉴스 보도 등 특정 경우에 저작권자의 허락 없는 사용을 허용함

판사가 집중한 시장 피해

• Chhabria 판사는 원고 측이 강조한 불법 복제 경위보다, Meta의 AI 도구가 저작물 시장에 미치는 영향에 더 큰 관심을 보임
• 그는 Meta 측 변호인 Kannon Shanmugam에게, 어떤 제품이 저작자의 시장을 파괴하면서 그 제품 제작에 저작물을 라이선스 없이 썼다면 공정 이용으로 이해하기 어렵다고 말함
• Shanmugam은 그런 시장 영향은 추측이라고 답함
• Chhabria 판사는 원고가 Meta의 도구가 유사한 작품을 만들고 수익 가능성을 크게 떨어뜨린다는 점을 입증하면 Meta가 “destined to fail” 상태가 된다고 봄
• 다만 원고가 필요한 증거를 제시할 수 있을지에는 계속 회의적임
  • Sarah Silverman의 회고록 시장이 영향을 받을 것이라고 판단하려면 추측이 필요해 보인다고 말함
  • 그 영향이 명백하지 않다고 봄

“다음 Taylor Swift” 논의

• Chhabria 판사와 Meta 측 변호인은 Taylor Swift의 음악이 AI 도구에 입력되고, 그 도구가 수십억 개의 로봇식 모방곡을 만드는 상황을 논의함
• 판사는 이미 유명한 창작자보다 덜 알려진 작곡가가 받을 영향을 더 구체적으로 물음
• “다음 Taylor Swift”가 될 수 있는 상대적으로 무명인 아티스트의 작업이 Meta 모델에 흡수되고, 모델이 그 스타일로 “a billion pop songs”를 만든다면 경력이 방해받을 수 있다는 문제의식임

공정 이용과 입증 부담

• 피고가 공정 이용을 내세우면, 저작권 사용이 합법임을 입증할 부담은 피고에게 넘어감
• 원고 측 변호인 David Boies는 이 점을 강조함
• Chhabria 판사는 원고 측이 Meta가 작가들의 판매를 실제로 크게 무너뜨릴 수 있다는 주장을 성공적으로 펼칠 수 있을지에는 의문을 유지함
• LibGen 같은 곳에서 책을 다운로드한 행위가 공정 이용 판단에서 원고 측 주장만큼 중심적인지도 미온적으로 봄
  • 그는 그 행위가 “kind of messed up”으로 보이지만, 법원이 반복해서 따지는 질문은 그것이 이상한지 여부가 아니라 저작권 침해인지 여부라고 말함

생성형 AI 저작권 소송에서의 위치

• _Kadrey v. Meta_는 미국 법원에서 진행 중인 여러 AI 저작권 소송 중 하나임
• Chhabria 판사가 양측 중 하나의 신청을 받아들이면 정식 재판 전에 판결이 나오며, 생성형 AI 저작권 사건을 다루는 법원의 방식에 중요한 선례가 될 수 있음
• 앞서 봄에는 Thomson Reuters v. Ross 사건에서 판사가 부분 약식판결을 내리고 Thomson Reuters의 손을 들어줌
  • 다만 그 사건은 대규모 언어 모델 같은 생성형 AI 도구를 다루지 않았다는 점 등에서 예외적 성격이 있었음

Meta와 산업 전반에 미칠 영향

• Kadrey 사건의 결과는 Silicon Valley에도 영향을 줄 수 있는 사안으로 주목받고 있음
• 판결 방향에 따라 Meta의 생성형 AI 전략이 더 굳어질 수도 있고, 상당한 변화가 필요해질 수도 있음
• Mark Zuckerberg CEO는 수요일 실적 발표에서 Meta의 현재와 미래에서 AI가 중심적이라고 강조함
  • “오늘 내가 말한 모든 것은 우리의 AI 모델과 인프라 위에 구축되어 있다”고 말함
• Chhabria 판사는 자신의 결정이 기술과 문화의 여러 부문을 뒤흔들 수 있음을 인정함
• 청문 말미에는 “오늘 늦게 판결을 내리겠다”고 농담한 뒤, 실제로는 더 오래 생각하겠다고 말함

[GN⁺]

Hacker News 의견들

• 이 글 제목은 다소 오해의 소지가 있음. 판사가 어떤 판결을 내린 게 아니라 공판 전 심리 보도일 뿐이고, LibGen에서 책을 내려받은 일이 이 사건과 얼마나 관련 있는지도 확신하지 못하는 듯함
  판사는 원고가 Meta의 도구가 유사 저작물을 만들어 저자 수입을 크게 떨어뜨렸다는 점을 입증하면 Meta가 “질 수밖에 없다”고 보면서도, 실제로 그런 증거를 제시할 수 있을지는 회의적으로 봄. 또 LibGen 같은 곳에서 책을 받은 일이 “엉망으로 보이긴” 해도, 법원이 계속 말하듯 핵심은 엉망인지가 아니라 저작권 침해인지라고 봄

  • RIAA 변호사들은 DVD 복사가 고객사의 매출을 망가뜨렸다는 걸 입증할 필요도 없었고, 침해자들에게 거의 기본값처럼 높은 배상액을 받아냈음
    이제 거대 자본이 개인에게서 훔치려 하니, 또다시 거대 자본이 이기는 구도임. 별개로 Boies가 세간의 주목을 받은 소송에서 이긴 적이 있었는지도 궁금함. Bush/Gore 재검표 때 민주당을 대리했던 인물로 기억함
  • Hacker News 독자들은 판례는커녕 긴 글도 읽지 않아도 이해되는, 트윗 한 줄짜리 제1원칙식 답을 원함
    이 재판은 법 조문과 판례만으로 정리하기엔 훨씬 복잡함. 판사는 자기 일을 하고 있지만 최선의 역할이 무엇인지 상상하기도 어렵고, Congress조차 정책 방향을 아는지, 대중도 이 문제가 어떻게 작동해야 하는지 감이라도 잡고 있는지 모르겠음
  • 결론을 내리기 전에 HN 제목만 보지 말고 원문을 읽는 편이 나음. 이번 HN 제목은 편집이 들어갔음
    원문 제목은 “A Judge Says Meta's AI Copyright Case Is About `the Next Taylor Swift'”이고, HN 제목도 Wired 제목도 “판결”을 언급하지 않음. 기사 부제는 “Meta's contentious AI copyright battle is heating up-and the court may be close to a ruling.”인데, 법원이 곧 약식판결 신청을 판단할 것이므로 정확함. 기사에는 “Chhabria가 어느 쪽 신청이든 받아들이면 재판 전 판결을 내리게 되고, 생성형 AI 저작권 사건에서 중요한 선례가 될 가능성이 크다”고 되어 있어 제목만으로 오해할 여지는 거의 없음
  • “Sarah Silverman 회고록 시장이 영향을 받을 거라고 추측해 달라는 것처럼 보인다”는 말은 이상함
    “LLM, Sarah Silverman 회고록을 요약해 줘”라고 하면 되니까. 덧붙이면 Reader's Digest는 자기들이 책값을 낼 필요가 없었다는 사실을 알면 꽤 놀랐을 것임
  • 판사의 논리는 완전히 이상해 보임. 저작물로 돈 버는 걸 막지 않는다면, 사실상 모든 작가의 수입에 상한을 씌우는 셈임
    AI는 이들의 지식 없이는 쓸모가 없는데, 오히려 작가들이 AI 수익을 해치지 않았다는 걸 입증해야 하는 꼴임. 작가들은 자기 글의 파생적 이용에 대한 권리가 있어야 하고, 그렇지 않다면 저작권 자체가 촌극임

• 사람들이 의도적으로든 무지에서든 AI 학습에서 저작권 침해가 무엇을 뜻하는지 혼동하니 정리하자면, 1) 자유롭게 접근 가능한 저작권 자료로 AI를 학습시키는 것은 법적 지위가 애매하고 아직 법정에서 제대로 검증되지 않았음. AI가 학습 자료를 직접 복사해 내는 건 아니므로 판단이 쉽지 않음
  2) 비용을 우회해 저작권 자료를 확보해 학습시키는 것은 명백히 불법임. Meta는 후자로 기소됐지만, 원고는 전자까지 엮으려는 듯함

  • 이 사건의 판사는 “해적 사이트에서 자료를 내려받았다는 이유만으로, 실제 이용에 대한 공정 이용 항변을 다룰 필요가 없어진다”는 전제를 받아들이지 않는 듯함
    원고가 전자를 엮으려는 게 아니라, 피고가 그렇게 만들고 있고 판사는 원고가 자동으로 그 쟁점을 피할 수 있다고 보지 않음
  • 전자가 법정에서 제대로 다뤄지는 순간 끝장일 수 있음. 주요 AI 기업들은 어떤 식으로든 저작권 저작물로 학습했음
    영감, 모방, 표절의 경계는 사람에게도 명확하지 않은데, LLM에는 더더욱 그렇지 않음
  • “AI가 학습 자료를 직접 복사하지 않는다”는 말은 틀렸음. 대형 모델은 거대한 클러스터에서 학습됨
    클러스터의 기계들로 자료를 복사하지 않고 어떻게 학습하겠음?
  • 법적으로 처리하는 방식에 대해 좀 논쟁적인 생각이 있음. 모델 하나에 대해서는 저작물의 디지털 사본을 하나 구매하면 충분해야 한다고 봄
    출판사들이 LLM이 처리하기 좋은 디지털 사본을 만들고, 합리적인 가격에 팔면서 형식도 LLM에 거의 완벽하게 맞추면 됨
  • 모든 AI는 기존 저작물로 “학습”됨. 하지만 작동 방식상 변형된 복사 데이터를 출력하기도 함
    이 출력 단계가 저작권 침해임

• 제목은 조금 오해의 소지가 있음. Meta가 저작물을 해적판으로 얻은 건 맞지만, 공정 이용으로 사용할 권리가 있을 수도 있음
  저자들이 AI 생성물이 책 시장을 해치는지에 초점을 맞추면 실패할 가능성이 커 보임. AI 책 쓰기는 이 모델들이 하는 일 중 아주 작은 부분이라, 필요하면 Meta는 특정 작가 문체 복사를 막는 가드레일을 넣고 계속 책을 흡수하면 됨. 또 지금 AI 생성 소설의 품질은 원저자 시장을 크게 줄일 만큼 좋지 않다고 봄

  • 저작권법에서 말하는 “피해”는 그 저작권 침해로 인한 판매 손실에 매우 좁게 한정됨. AI 지지자들이 말하듯 도구가 사람을 대체해 생계가 사라지는 피해는 내가 아는 한 반영하지 않음
    그래서 이 재판 구도에서는 원고가 매우 좁은 맥락의 구체적 피해를 입증하기가 어렵고, 실제 피해는 즉각 보이는 손해가 아니라 훔친 저작물로 미래 생계를 없앨 가능성에 가까움. 창작자인 친구는 LLM이 무언가를 어디서 배웠는지, 원출처를 인용할 수 있을 때까지 쓰지 않겠다고 했음. 예술가와 창작자는 영감의 출처를 댈 수 있지만, LLM은 설계상 그럴 수 없음. 개발사들이 출처 인정이 아니라 출력만 신경 쓰기 때문임. 내 주변 창작자 중 누구도 수십억 달러 규모 AI 회사가 무단 학습에 쓴 대가를 받은 적이 없다는 점에서, 이 선은 합리적이라고 봄
  • “공정 이용으로 사용할 권리가 있을 수도 있다”는 건 왜 그런가? Limewire에서 저작권 있는 노래를 내려받는 것도 공정 이용이었나? 몇 명은 본보기로 처벌받았음
    나는 음악가라서 듣는 음악의 80%는 학습용이니 공정 이용인 거 맞지? ;)
  • 먼저, 당연히 불법이고 해적 행위임
    다만 침해가 LLM이 원자료의 일부 또는 전체에 기반한 출력물을 만들 때 발생한다는 논리는 있음. 즉 모델 학습 자체는 침해가 아닐 수 있고, 연구 목적으로 쓸 수는 있음. 하지만 그 출력을 “내 모델에서 나온 것”으로 팔면 매우 의심스러움. 결국 권리가 없는 타인의 작업물에 기반한 무언가를 파는 사업이 되기 때문임
  • 현재 AI 영상·텍스트 제품은 아직 열등함. YouTube도 지금은 온갖 장르의 저품질 결과물로 가득함
    하지만 개선 곡선은 가파르게 위로 향하고 있음. 이는 방적기와 편직·직조 기계가 곧 수작업 제품을 경제성이 없게 만들던 시절을 떠올리게 함. 물론 뛰어난 공예·예술 제품은 더 작은 규모로 살아남았음. AI는 영화 예술에도 타격을 주고 있고, 저가 영역에서 시작해 점진적 개선 사다리를 오르는 중임. 특수효과도 비슷한 처지임. 소품 대여는 크게 맞고 있음. 오래된 스튜디오 TV 카메라를 모든 각도·크기·조명에서 찍은 고해상도 사진 100장을 AI 소품 라이브러리에 넣으면, 그 소품을 그린스크린으로 어떤 장면에도 진짜 물체처럼 넣을 수 있음. 환각을 걸러낼 사람은 아직 필요하지만, 그 문제는 줄어드는 중임. 배우도 마찬가지로 유명 배우를 닮게 만들고 초상권료를 내거나, 완전히 새로 만들 수 있음. 대형 스튜디오를 구성하던 전통적 요소들은 모두 점진적으로 주변화될 것이고, 5년 뒤 무엇이 남을지, 어떤 새 기술이 나올지 모르겠음. 많은 갈래가 생겨 햇빛 아래 자리를 두고 싸울 것이며, 일부는 도태되고 일부는 꽃피겠지만 속도는 매우 빠를 듯함
  • Meta가 저작물을 해적판으로 얻었지만 공정 이용일 수 있다니, 어떤 공정 이용인가? 그 책들이 신에게 약속받은 것도 아니잖음

• AI 사기꾼들 대 저작권 카르텔이라니, 악당 둘이 싸우면 누구를 응원해야 하나? 어쨌든 서로를 파괴해 주길 바람

  • 지난번 둘이 싸웠을 때는 Google 대 출판사였고, 그 결과 애초에 그 모든 책이 스캔되고 보관됐음
    둘 다 죽지는 않았고, 양쪽 모두 책을 대중에게 공개하지 않은 채 자기 목적에 썼음. 보통 사람들은 몰래 숨겨두고 불법으로 거래해야 했음. 기술 카르텔 대 저작권 트롤의 싸움이고, 결국 로맨스로 끝날 것임
  • 둘 다 지길 바랄 수밖에 없음
    Meta가 저작권 저작물을 세탁해 수십억 달러를 벌게 두면서, 우리에게는 가장 사소한 파생 저작물로도 위협하는 결과가 최악임. 저작권은 실수임. 협업 대신 경쟁을 요구함. LLM은 이런 상황에서 특별 대우를 받을 만큼 충분한 효용을 제공하지 않음. 누구든 저작권을 침해할 수 있다면, 모두가 그럴 수 있어야 함
  • 저작권 카르텔은 질 것임. 그것은 여러 경쟁 구역으로 나뉜 죽어가는 구세계 질서를 대표하기 때문임
    AI는 단순히 조잡한 텍스트 생성기가 아니라, 경계를 허용하지 않는 강제된 획일성의 새 이념임. 그러니 저작권 카르텔은 설 자리가 없음
  • 언제나 변호사들을 응원할 수는 있음

• “Chhabria는 도덕적 소음을 걷어내고 경제에 집중하고 있다. Meta가 데이터를 어떻게 얻었는지, 얼마나 ‘엉망’으로 느껴지는지에는 별 관심이 없어 보인다. 그는 잔인할 정도로 단순한 질문을 던진다: 피해를 입증할 수 있는가?”
  https://archive.is/Hg4Xr

  • “피해를 입증할 수 있는가?”라는 논리는 Napster가 소송당할 때 어디 있었나?

• 원문 제목이긴 하지만 완전한 클릭베이트임. 기사 속 인용 어디에서도 판사는 그런 식으로 말하지 않았음
  양측의 부분 약식판결 신청 심리에서, 원고가 특정 사실을 입증하면 그런 결론이 될 수 있다고 말했을 뿐이고, 동시에 원고가 그 사실을 입증할 증거를 갖고 있는지 의문을 제기했음

• 장기적으로는 중국 모델이 이길지도 모름. 아무 결과 없이 모든 것을 학습하고, 결국 우리는 그 모델들이 더 똑똑하다는 이유로 쓰게 될 것임
  물론 중국 역사나 지리 같은 영역은 예외일 수 있음. 저작권을 보호하거나 논문 저자에게 환원하는 방법을 두고 수백만 달러를 소송에 낭비하지 않는 정답이 무엇인지는 모르겠음

  • 이긴다는 개념 자체가 없을 수 있음. AI에는 진짜 해자가 없다고들 하지 않았나
    비슷하면서도 흐릿한 고유 속성을 가진 모델이 아주 많이 나올 것임. 어떤 때는 잘 작동하고 어떤 때는 아닌 식의 흐릿함이 정상일 것임. 결국 대부분은 비용과 규정 준수 기준으로 어떤 모델을 쓸지 결정될 가능성이 큼

• 기사를 읽고 나니 제목이 오해의 소지가 있어 보임

  • 법원이 저자들이 자기 저작물의 이런 용도에 대한 라이선스 통제권을 갖는 것을 부정할 수도 있다는 게 정말 충격적임

• 전형적인 이중잣대 정책임. Google과 Github는 일반인이 무료로 내려받지 못하게 해적 자료 링크와 해적 자료 자체를 제거하지만, Zuckerberg가 기가바이트 단위 해적 자료를 돈 안 내고 내려받으면 괜찮다는 식임
  법 체계는 일반인과 Zuckerberg를 같은 선에 놓고 싶어 하지 않음. 또 일반인은 영화관에서 촬영만 해도, 재배포하지 않았더라도 체포된 사례가 있다고 읽었음. 다시 말해 왜 그들은 체포되고 Zuckerberg는 아닌지 불공정함

• 이 제출글은 기사 제목을 바꿔서 오히려 해를 끼친 느낌임. 판사가 이미 판결한 것처럼 암시해 오해를 부르지만, 실제로는 아직 판결하지 않았음