▲

NO FAKES 법안 개정…인터넷 표현과 혁신에 더 심각한 위협

 (eff.org)
2P by GN⁺ 15시간전 | ★ favorite | 댓글 2개
  • NO FAKES 법안이 개정되며, 인터넷 표현의 자유와 혁신에 대한 심각한 위협으로 변질됨
  • 개정된 법안은 단순한 디지털 복제물 규제를 넘어, 도구·서비스·앱까지 차단 및 필터링을 요구함
  • 신고만으로 콘텐츠, 도구, 업로더 신원까지 즉시 차단 및 공개할 수 있는 강제적 시스템이 도입됨
  • 익명 표현의 권리 약화 및 새로운 검열 인프라 구축으로, 일반 이용자와 개발자 모두 위협을 받게 됨
  • 거대 IT 기업에 더 유리하고, 신생 서비스·개발자의 시장 진입 장벽이 크게 높아짐

법안 개요 및 주요 변화

  • NO FAKES(Nurture Originals, Foster Art and Keep Entertainment Safe) Act는 원래 생성형 AI 기반 디지털 복제 문제 해결을 목표로 했음
  • 이번 개정안은 광범위한 새로운 지적재산권(IP) 제도를 신설하며, 단순한 피해 방지가 아닌 전체 인터넷 시스템 차원의 검열을 요구함
  • 기존 법안은 이미지 라이선스 시스템에 집중했으나, 개정안은 이미지·도구·서비스·앱 등 생성에 사용된 모든 요소를 대상으로 규제 범위를 확대함

도구와 서비스 차단 명령

  • 개정된 NO FAKES는 불법 이미지 생성 도구나 서비스, 앱을 제공·배포·호스팅하는 모든 사업자를 규제 대상으로 지정함
  • 도구가 주로 해당 목적에 쓰이거나, 상업적 용도가 제한적일 경우 신고만으로 차단 가능
  • 혁신적 도구 개발 자체가 신고만으로 중단될 위험이 있으며, 저작권 전쟁에서 권리자의 '혁신 거부권'이 강화됨

신고 및 필터링 시스템의 확대

  • 기존 DMCA(저작권법)보다 더 약한 보호장치로, 신고만으로 즉시 콘텐츠 및 도구 차단이 가능함
  • 재업로드 방지 필터(Replica Filter) 의무화로, 유사 사례까지 자동 차단
  • 도구·앱·서비스까지 삭제, 심지어 업로더 신원 공개까지 신고만으로 가능해짐
  • 패러디, 풍자, 논평 등은 예외 조항이 있으나, 실제 소송 비용 부담으로 실효성이 낮음

익명 표현 및 개인정보 위험

  • 판사 승인 없이 법원 서기만으로 서브포나(subpoena from a court clerk, 정보 제출 명령)를 발급받아 업로더 신원 정보 요구 가능
  • 이미 유사 시스템에서 비판적 발언을 억압하기 위한 남용 사례가 다수 발생함
  • 신원 공개 자체만으로도 평판, 사생활 등 실질적 피해가 우려됨

혁신과 신생 서비스에 대한 위협

  • 새로운 법적·기술적 인프라 구축 요구로 스타트업과 신생 서비스의 시장 진입 장벽이 비약적으로 상승함
  • 기존 거대 IT 기업에는 유리하며, 새로운 혁신 도구·서비스는 개발 및 출시 자체가 위축됨
  • 단순 신고만으로 차단되는 구조 탓에, 합법적 창작·이용자 권리도 침해됨

규제 목적과 실제 효과

  • 최근 미국 의회는 성적 이미지 규제를 위한 Take It Down 등도 통과시켰으며, 과도한 온라인 모니터링 압박이 강화됨
  • NO FAKES의 실제 목적은 피해자 보호가 아니라, 디지털 이미지 상업적 통제권 집중에 가까움
  • 그 결과, 일반 이용자·개발자 모두 불이익을 입게 되며, 인터넷 혁신 생태계에 부정적 파급을 초래함
▲
crawler 11시간전  [-]

읽고도 뭔말인지 이해가 안 돼서 한참 찾아봤네요
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
개정된 법안의 시행 가능성이 5%인가 봅니다
말도 안 되네요

답변달기
▲
GN⁺ 15시간전  [-]
Hacker News 의견

  • NO FAKES의 새로운 버전은 거의 모든 인터넷 게이트키퍼가 a) 신고가 접수되면 빠르게 콘텐츠를 내리게 하고, b) 반복적으로 업로드되는 경우를 막기 위해 이미 문제 많은 저작권 필터 위에 복제 필터까지 반드시 적용하게 만들며, c) 이미지를 만들 때 쓰였을 가능성 있는 도구까지 필터링해서 내리게 하고, d) 단순히 “복제됐다”고 주장하는 사람의 말만으로 업로더 신원도 공개하게 만든다는 내용 포함<br>이런 시스템은 소규모 기업은 도입 못하고 대기업은 크게 신경 쓰지 않을 유형

    • 이런 규제는 오히려 대기업들이 소규모 경쟁업체의 진입장벽을 높이려고 로비해서 얻는 결과물로 보임<br>이런 식의 규제 포획 현상이 일정 수준 이상의 기업이나 이윤 규모가 되면 본래 혁신을 외치던 기업들도 결국 규제 찬성 진영으로 돌아서게 만드는 현상
    • 대기업은 오히려 적용할 수 있는 자원이 있게 되고, 이런 규제 자체가 작은 기업들에게는 넘을 수 없는 해자(moat) 역할을 하게 됨<br>그런데 문제는 그보다 훨씬 심각해서, 이런 시스템 자체가 바로 전형적인 독재정권의 사회 통제 인프라 역할을 할 가능성<br>체제 비판 세력의 발언권을 없애고, 발화의 장과 출판 수단을 빼앗고, 정권에 신원을 넘기게 하며, 반체제와 연대하는 것조차 모두 두렵게 만들 위험성
    • 실제로 주요 온라인 커뮤니티를 운영하는 대형 플랫폼에서는 이런 시스템이 정부가 싫어하는 목소리를 억누르는 데 더욱 쓰이게 될 전망
    • 본질적으로 체제에 불순한 목소리를 검출하고 억제하려고 모든 것을 “가짜”로 낙인 찍는 시스템의 의도 가능성
    • 소규모 기업이 도입하기 어렵다는 지적은 맞는 말<br>EFF(Electronic Frontier Foundation)는 인터넷 자유의 진짜 본질에는 이제 거의 관심도 없고, “Big Tech가 나쁘다”는 헤드라인에만 집중하는 조직이 됐다는 생각<br>이미 수십 년간 Big Tech는 사회 정보의 선의의 관리자였던 게 사실이라고 생각하고, 동시에 완전히 감독받지 않는 젊은 20대들이 연방 정부 데이터를 마구 자기 맥북에 옮기는 요즘 같은 시기에 이런 논조는 시대착오적<br>우리가 겪는 건 프라이버시 대재앙 그 자체인데, EFF는 메타, ByteDance의 클릭스트림만 타박함

  • 15년 전만 해도 이런 상황이 말도 안 된다고 생각됐지만, 이제는 다 지나간 논쟁거리로 느껴짐

    • 사실 25년 전 정도가 기점이었고, 2001년 이후 PATRIOT Act처럼 프라이버시 무력화한 법들이 생기며 이미 돌이킬 수 없어진 상황
    • 놀랍지도 않음<br>감시 자본주의가 오랜 기간 사회 운영 방식의 기본이 되다 보니 이런 게 당연한 현실이 되어버림<br>요즘 세상은 모두가 각자도생하며 자기 이익만 챙기려는 ‘서바이벌 게임’이라는 씁쓸함
    • 어느새 좌파까지도 “가짜 뉴스”와 감정 상처 방지를 명분으로 검열 제도를 적극 지지하게 됐고, 결국 이 제도가 좌파와 우파 체제 비판자 모두에게 되돌아가서 역이용되는 아이러니

  • 근본적으로 이런 논쟁에는 그 매체가 사회에 “소셜미디어”로 공유되고 있다는 전제가 깔려 있음<br>실제로 폐쇄적 커뮤니티나 비공개 공간에선 이런 법안이 무쓸모 아닌지 의문<br>혹시 진짜로 우리가 원했던 건 소셜미디어의 종말일 수도 있겠다는 생각

    • 핵심은 플랫폼 설계 문제라는 점을 학계에서는 이미 알고 있음<br>표면적 자유/책임 논쟁이 아니라, 진짜 해결책은 정부가 소셜미디어에 알고리즘적 마찰 계수를 강제로 도입하게 만드는 것<br>그런데 현실적 경제적 이해관계 때문에 정치권에서는 이런 변화의 의지가 전혀 없음<br>오히려 지금 구조의 혼돈, 분열, 혼란이 지배 계층에게 이익이라는 점<br>참조 연구:<br>• MIT Aral & Eckles(2019): 마찰(friction) 도입 시 표현의 자유 제한 없이 허위 정보 확산 현저히 감소<br>• Mozilla/Stanford(2020~2022): “공유 재확인” 같은 마찰은 가짜 뉴스 확산력 최대 50% 감축<br>• Twitter(2021): 업로드 전 사실 확인 프롬프트 노출 시 약 25%가 트윗 수정이나 삭제 선택
    • 실제로 “소셜미디어”라는 범주를 법적으로 정의하려면 엄청난 어려움 있음

  • 그냥 거짓말 자체를 금지해 “진실부” 같은 기구 세우지 않는 이유가 뭘까?<br>거짓말을 규제한다는 시도는 사실상 정권 입맛 따라 특정 내러티브만 밀어주는 결과

  • 모든 이미지를 복제 필터에 걸치게 한다고 해도, AI만 있으면 같은 프롬프트로 완전히 다른 결과물 수백 개 뽑을 수 있고, 이제는 이미지 ‘의미’까지 AI로 판별하라는 얘기<br>결국 칩 제조사, 전력회사에겐 호재

  • 개인적으로 원글 저자 입장과 반대일 수 있음<br>NO FAKES를 DMCA에 비유하는 건 근거가 부족해 보임<br>다른 관점을 제시한 기사 참고: https://recordingacademy.com/advocacy/news/…

    • 이런 회사(정치적 이해관계자)들은 코끼리에게 뱀가죽 팔 수 있을 만큼 영향력 있음<br>이런 홍보성 기사에 정말 잘 속는 내 모습

  • 로비, 위기의식 조장 논란 빼고 아주 쉽게 설명한 요약 한 줄 원함<br>이 법이 저작물의 2차 가공을 막기 위해 콘텐츠 워터마크 활용을 합법화하는 건가, 아니면 다른 내용인지 정확히 궁금<br>구체적으로 어디서부터 어디까지가 실제 적용인지 알고 싶음

    • 워터마크랑은 무관<br>누구든 아무런 증거 없이 호스팅된 모든 콘텐츠를 상대로 “가짜”라고 주장만 해도, 호스트가 법적으로 진짜임을 입증할 책임을 져야 함<br>즉시 삭제가 원칙이며, 악용 여지가 DMCA와 비슷하지만 훨씬 포괄적<br>새로운 권리 개념이 추가되어서 실제로 정당한 데이터 소유임을 증빙하는 게 사실상 불가능<br>결론적으로 미국 밖으로 서버 이전할 명분만 늘어남
    • 원문 대강 읽어봤는데, 느낌상 DMCA의 이미지/툴/파생 작품 버전이면서 제작자, 도구, 발행자 추적까지 전부 로그로 요구하는 식<br>다만 전체 법안 맥락은 제대로 숙지 못한 점

  • 테네시주는 7월 1일부터 제너레이티브 AI 전반을 다루는 법안 여러 개를 동시에 시행하게 됨<br>문제는 주의회가 용어 자체를 잘못 이해해서 그런지, 사실상 GPU 소유 자체를 불법화하는 수준으로 내용이 너~무 광범위해짐<br>예시: “텐서 코어 사용 허가증 갖고 있냐?”라는 농담까지 나올 정도<br>거기다 전국적으로도 연방농가법(Farm Bill)보다 더 강력하게 대마초 규제하는 법들도 추진 중<br>반대로 텍사스 주지사는 헌법적/법적 문제를 이유로 유사한 법안을 적절히 거부한 전적

  • “이런 법이 Reddit을 끝장낼 것”이라는 주장에 동의 못함<br>누구든 자유롭게 말할 수 있는 공간이 있다는 게 두려운가? 그곳에선 때로는 뜻밖에 ‘좋지 못한 의견’도 나오기 마련

    • 중요한 건 플랫폼이 사용자가 원하는 방식 그대로 큐레이션을 하도록 하는 것과, 플랫폼이 임의로 새로운 콘텐츠를 무작위로 추천하는 걸 구분해야 함<br>CSAM 등 명백히 불법인 것 외에는 플랫폼이 이용자 눈앞에 뭘 보여줄지 정하지 않아야 함
    • 같은 논리라면 Hacker News도 사라져야 한다는 결론
    • Section 230에 관한 “You are Wrong About Section 230”이라는 글을 반복해서 언급할 필요 있음: https://techdirt.com/2020/06/…<br>핵심은 Section 230 자체에는 퍼블리셔/플랫폼 구분 개념이 어디에도 없다는 점<br>이런 구분과 의미는 논쟁거리로만 부풀려졌을 뿐 실체가 없음
답변달기