NO FAKES 법안 개정…인터넷 표현과 혁신에 더 심각한 위협

 (eff.org)
3P by GN⁺ | ★ favorite | 댓글 2개
  • 생성형 AI 복제물 피해를 막겠다는 NO FAKES Act가 새 지식재산권과 검열 인프라를 만드는 방향으로 커지며, 인터넷 표현과 혁신을 위축시킬 수 있다는 비판을 받음
  • 적용 범위가 복제물 자체를 넘어 이를 만들 수 있는 도구·앱·서비스까지 확장돼, 개발자와 호스팅 사업자가 권리자의 주장만으로 책임 위험에 놓일 수 있음
  • 서비스 제공자는 통지를 받은 자료나 도구를 삭제하는 데 그치지 않고 재업로드 방지까지 요구받아, 사실상 필터링 의무를 떠안을 수 있음
  • 법관이 아니라 법원 서기가 발부한 소환장으로도 사용자 식별 정보를 요구할 수 있어, 익명 비판과 풍자·논평 같은 합법적 표현이 위축될 수 있음
  • 준수 비용과 삭제 위험은 신생 서비스가 Big Tech에 맞서기 어렵게 만들고, 합법적 창작 도구 개발에 대한 투자 유인도 줄일 수 있음

생성형 AI 복제물 대응에서 광범위한 권리 체계로 확대

  • NO FAKES Act는 Nurture Originals, Foster Art and Keep Entertainment Safe Act의 약칭으로, 생성형 AI가 만든 “복제물”에 대한 우려를 다루기 위해 새로운 지식재산권을 만들려는 법안임
  • EFF는 원래 법안부터 해로운 허위표현을 표적으로 다루는 보호 수단이 아니라, 이미지 라이선스 체계를 연방 차원으로 확대한 접근이었다고 비판함
    • 패러디, 풍자, 합법적 표현을 보호해야 하는 필요와 균형을 맞추지 못한다는 이유임
  • 개정안은 이 접근을 더 강화해, 이미지뿐 아니라 이미지를 만드는 데 쓰인 제품과 서비스까지 포함하는 새 검열 인프라를 요구함

도구와 서비스까지 겨냥하는 구조

  • 첫 번째 버전은 디지털 복제물에 초점을 맞췄지만, 새 버전은 개인·권리자·법이 승인하지 않은 이미지를 만들 수 있는 도구까지 대상으로 넓어짐
  • 도구를 만들거나 마케팅하거나 호스팅하는 주체도 책임 대상이 될 수 있음
  • 일부 제한은 있음
    • 도구가 승인되지 않은 이미지 제작을 주된 목적으로 설계됐거나
    • 승인되지 않은 이미지 제작 외의 상업적 용도가 제한적이어야 함
  • 그러나 단순한 주장만으로도 개발자가 표적이 될 수 있어, EFF는 이 제한이 충분한 보호가 되기 어렵다고 봄
  • 이 조항은 저작권 논쟁에서 권리자들이 원해 온 혁신 거부권을 제공하는 효과를 낼 수 있다는 비판을 받음

삭제 통지와 필터 의무

  • 기존 NO FAKES는 DMCA와 유사한 통지·삭제 체계를 만들었고, EFF는 그마저도 보호장치가 더 적다고 봄
  • 개정안은 더 많은 서비스 제공자를 대상으로 삼고, 자료나 도구를 내리는 것뿐 아니라 이후 재업로드까지 막도록 요구함
  • 그 결과 광범위한 필터를 도입하지 않으면 면책을 잃을 수 있는 구조가 됨
  • 저작권 필터도 이미 여러 문제를 일으키고 있음
    • 원래는 업로드가 저작물의 전체 복사본처럼 보일 때 인간 검토 대상으로 표시하는 수준이어야 함
    • 실제로는 서로 다른 사람이 같은 공개 도메인 음악을 연주한 경우처럼, 비슷하지만 동일하지 않은 콘텐츠도 표시될 수 있음
    • 몇 초의 일치만으로 침해로 표시되는 사례도 있음
    • 법적으로 허용될 수 있는 맥락을 충분히 반영하지 못하는 경우도 있음
  • 현재 저작권 필터는 법적 의무가 아니지만, NO FAKES는 이런 필터 의무를 법으로 만들 수 있음
  • 법안에는 패러디, 풍자, 논평 예외가 있지만, 소송 비용을 감당하기 어려운 사람에게는 실질적 보호가 되기 어려움

익명 표현을 위협하는 소환장 조항

  • 현재 문안은 누구나 법관이 아니라 법원 서기에게서 소환장을 받아, 서비스에 사용자 식별 정보 제공을 강제할 수 있게 함
  • 이 절차에는 어떤 형태의 증명도 요구되지 않는다고 EFF는 지적함
  • 유사한 제도는 저작권 사건에서 이미 악용된 사례가 있음
    • 비판을 불편해하는 사람이 비판자를 침묵시키기 위해 소환장을 받는 방식임
    • 비판에는 종종 고소인의 발언 자체가 근거로 포함되며, 이는 공정이용의 전형적 사례가 될 수 있음
    • 그럼에도 소환장은 발부되고, 서비스가 매우 적극적으로 대응하지 않으면 사용자의 신원이 노출될 수 있음
  • 신원 노출은 이후 표현을 위축시키고, 사용자에게 평판상 또는 개인 생활상의 피해를 줄 수 있음

혁신과 경쟁에 대한 부담

  • EFF는 많은 사람이 현재 Big Tech의 상태에 불만이 있고, 기술 대기업 사용을 더 강요받으며 서비스 품질도 나빠지고 있다고 봄
  • NO FAKES는 새 서비스가 법을 준수하기 위해 필요한 인프라를 크게 늘려, 새로운 서비스가 Big Tech에 도전하기 어렵게 만들 수 있음
  • 일부 대형 기업이 새 버전의 NO FAKES에 우호적인 것은 우연이 아닐 수 있다고 EFF는 봄
  • 도구, 앱, 서비스 삭제 요구도 혁신을 막을 수 있음
    • 합법적인 창작에 해당 서비스를 쓰는 사람에게 피해를 줄 수 있음
    • 단순한 주장만으로 오프라인이 될 수 있는 도구나 서비스에는 투자 유인이 줄어듦
  • EFF는 몇 달 전 의회가 친밀하거나 성적인 콘텐츠가 포함된 이미지에 초점을 맞춘 Take It Down을 통과시켰다고 지적함
    • 그 법안도 플랫폼이 현재 암호화된 표현까지 포함해 온라인 표현을 적극 감시하도록 압박하는 문제가 있다고 봄
    • 의회가 프라이버시 피해를 우려한다면, 추가 인터넷 규제로 나아가기 전에 직전 규제의 효과를 기다려야 한다는 입장임
  • EFF는 NO FAKES가 해로운 디지털 복제물 피해자를 보호하기보다, 디지털 이미지의 상업적 이용 통제를 집중시키는 법안이라고 비판함

함께 보면 좋은 글 β

crawler   [-]

읽고도 뭔말인지 이해가 안 돼서 한참 찾아봤네요
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
개정된 법안의 시행 가능성이 5%인가 봅니다
말도 안 되네요

답변달기
GN⁺   [-]
Hacker News 의견들

  • 새 NO FAKES 버전은 거의 모든 인터넷 관문 사업자에게 공지를 받으면 발언을 내리고, 반복 게시를 계속 막고, 이미 결함이 큰 저작권 필터 위에 과도할 수밖에 없는 복제 필터를 도입하고, 이미지 제작에 쓰였을지도 모르는 도구까지 내리고 필터링하며, “복제당했다”는 사람의 주장만으로 업로더 신원을 공개하라고 요구하는 구조로 보임
    작은 회사는 구현할 수 없고, 큰 회사는 신경 써서 구현하지 않을 만한 시스템 같음

    • 또는 큰 회사가 작은 경쟁자의 진입 장벽을 높이려고 로비하는 종류의 제도일 수 있음
      이런 규제 포획 때문에, 처음 “파괴적 혁신”을 하던 시절에는 규제를 싫어하던 회사들도 일정 규모·수익 이상이 되면 규제 찬성 쪽으로 돌아서는 경향이 있음
    • 큰 회사들은 구현할 것이고, 작은 신규 진입자에게는 해자가 됨
      그런데 그보다 훨씬 나빠 보임. 교과서적인 폭정의 기반 시설임
      정권에 반대하는 사람들의 발언을 억누르고, 확성기와 인쇄기를 빼앗고, 반대자를 식별해 정권에 넘기라고 요구하며, 행동이든 부작위든 반대자를 돕는다고 정권이 볼 수 있는 모든 사람에게 제재의 공포를 심는 구조임
    • 무엇이든 “가짜”라고 붙여 반체제 활동을 막고 식별하려는 시스템일 수도 있음
    • 온라인 논의 대부분이 벌어지는 대형 플랫폼에서, 정부가 싫어하는 것을 짓누르는 데 반드시 쓰일 시스템임
    • 맞는 말임. 요즘 EFF의 전반적 기조와도 이어짐
      EFF는 오래전에 인터넷 자유의 큰 이슈에 대한 관심을 멈췄고, 이제는 Big Tech Bad식 헤드라인 행진만 하는 느낌임
      수십 년이 지나도록 Big Tech가 사회 정보의 꽤 온건한 관리자로 남아 있고, 동시에 감독받지 않는 20대 MAGA 친구들이 연방정부 전체를 자기 MacBook에 올리는 시대에, 이런 태도는 굉장히 눈치 없어 보임
      기술 프라이버시 종말은 이미 닥쳤는데, EFF는 클릭 흐름을 위해 여전히 Meta와 ByteDance를 두고 투덜거림. 인터넷의 다른 모두처럼 결국 그들이 진짜 신경 쓰는 것도 그것인 듯함

  • 15년 전이었다면 말도 안 되는 일이었겠지만, 지금은 이미 죽은 말을 걷어차는 수준임

    • 25년 전쯤이면 몰라도, 2001년 이후 PATRIOT Act와 그 친구들로 이미 배는 떠났음
    • 놀랍기도 하고 놀랍지 않기도 함. 감시 자본주의가 몇 세대 동안 기본 운영 방식이 되면 그냥 표준이 되어버림
      개인적으로는 세상이 점점 생존을 위해 싸우는 동시에 “난 챙겼으니 너는 알 바 아님”에 가까워지는 느낌임
    • “가짜 뉴스”와 싸운다는 명목으로 검열을 지지하도록 좌파가 환호하게 만들었고, 누군가의 감정을 상하게 하면 안 된다는 분위기가 우세했음
      이제 그것은 좌파 자신에게도, 기존 질서의 동화 같은 서사에 반대하는 우파 반체제 인사들에게도 쓰이게 될 것임

  • 이 모든 건 그런 미디어가 소셜 미디어로 공유된다는 전제를 깔고 있는 것 아닌가 싶음
    이 법 문구는 사적 커뮤니티 안에서는 무의미해 보임. 어쩌면 우리가 원하던 아직 실현되지 않은 것, 즉 소셜 미디어의 종말일 수도 있음

    • 학술적으로는 이게 자유 발언이나 개인 책임에 대한 추상 문제가 아니라 플랫폼 설계 문제라는 점을 알고 있음
      해법은 정부가 소셜 미디어 회사에 알고리즘 마찰 계수를 도입하도록 강제하라고 요구하는 것임
      다만 관련 경제적 유인이 그런 변화를 만들 정치적 의지를 없애고 있음
      지배층은 현재 형태의 소셜 미디어가 퍼뜨리는 혼란, 분열, 혼돈에서 이익을 얻음. 지금 그대로를 꽤 좋아함
      관련 연구로는 Aral & Eckles(MIT, 2019)가 마찰 도입이 표현의 자유를 제한하지 않고 오정보 확산을 줄인다고 했고, Mozilla와 Stanford 연구(2020~2022)는 공유 취소 유도 같은 마찰이 가짜 뉴스 확산성을 최대 50% 줄인다고 봤으며, Twitter의 2021년 실험에서는 게시 전 사실 확인 안내를 보여주자 사용자가 25%의 경우 트윗을 수정하거나 삭제했음
    • 법률에서 소셜 미디어를 정의해 보려면 행운을 빌어야 함

  • 차라리 거짓말을 금지하고 진실부를 만들지 왜 안 하나 싶음
    거짓말을 규제하려는 시도는 특정 정치적 견해에 유리한 서사를 밀어붙이기 위한 포장일 뿐임

  • 이 사안에 대해서는 글쓴이에게 전혀 동의하지 않을 수도 있겠음. DMCA와 비교하는 등 꽤 대담한 주장을 여러 개 하지만, 근거는 많지 않아 보임
    반론: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...

    • 그런 회사들은 코끼리에게 중고 뱀 가죽도 팔아치울 자원이 있음
      이런 블로그 글에는 나도 쉽게 속을 수 있음

  • 모든 이미지를 복제 필터에 통과시켜야 하는데, AI는 단일 프롬프트만으로도 상당히 다른 이미지를 만드는 일을 너무 쉽게 해줌. 그러면 이제 이미지의 “의미”를 추론하는 AI가 필요해짐
    전체적으로 칩 제조사와 전력 발전사에는 아주 좋은 소식처럼 들림

  • 로비나 선동식 재앙론 없이, 이 법이 실제로 무엇을 하는지 쉬운 영어 설명이 정말 필요함
    이 법이 회사들이 자기 콘텐츠에 워터마크를 넣어 다른 회사가 그 콘텐츠를 바탕으로 2차 콘텐츠를 만들지 못하게 한다는 뜻인가? 정확히 어떻게 작동하는가?

    • 본문을 훑어봤음
      이미지, 도구, 파생 저작물에 대한 DMCA 같은 것으로 보이고, 제작자·도구·게시자를 추적하는 데 필요한 모든 로그까지 포함하는 것 같음
      다만 말했듯이 그냥 훑어본 수준임
    • 이건 워터마킹과 아무 관련이 없음
      누구든 증거 없이, 어디에 호스팅된 어떤 콘텐츠에 대해서든 불만을 제기할 수 있게 하고, 그 콘텐츠를 호스팅하는 사람에게 부정 사실, 즉 그것이 “가짜”가 아님을 입증할 법적 부담을 지우며, 기술적으로 가능한 즉시, 사실상 즉시 콘텐츠를 제거하라는 법적 요구를 둠
      그래서 DMCA와 비슷하게 악용 가능하지만, 요구 범위는 더 넓고 정당성 입증은 더 불가능에 가까움. 콘텐츠에 대해 새롭고 모호하게 정의된 법적 소유권 범주를 만들기 때문임
      요약하면, 호스팅을 미국 밖으로 옮길 훌륭한 이유임

  • Tennessee가 7월 1일 여러 생성형 AI 법을 시행하는데, 흥미롭게도 주의회가 용어를 오해한 탓인지 이 포괄적 금지가 너무 넓어서 사실상 GPU 보유까지 금지하는 효과가 있음
    “이봐, 그 tensor core 면허는 있나?” 같은 상황임
    그래도 적어도 연방 2018 Farm Bill이 허용한 범위를 넘어 마리화나를 전국적으로 더 금지하고 있으니 다행임 /s
    이웃 Texas의 현명한 주지사는 비슷한 법안을 위헌성·법적 도전 가능성 때문에 거부권으로 막았음

답변달기