▲

GN⁺: AI로 도난당한 나의 목소리

 (jeffgeerling.com)
1P by neo 2달전 | favorite | 댓글 1개

이메일로 받은 동영상 링크

  • 동영상 내용: Jeff Geerling의 목소리를 사용한 Elecrow의 홍보 동영상
  • 문제 제기: Jeff Geerling은 해당 동영상에서 자신의 목소리를 사용한 적이 없음을 주장

AI 음성 복제 의혹

  • 의혹: Elecrow가 Jeff Geerling의 YouTube 동영상을 AI 음성 복제 도구에 입력하여 그의 목소리를 사용
  • 과거 사례: OpenAI가 Scarlett Johanssen의 목소리를 복제한 사례를 언급
  • 법적 문제: 비승인 AI 음성 복제에 대한 법적 선례가 부족함

대응 방안

  • 현재 상황: Elecrow와의 과거 관계는 나쁘지 않았음
  • 법적 대응: 법적 대응은 비용이 많이 들고, YouTube의 서비스 약관 위반 여부도 불확실함
  • 요청 사항: Elecrow에게 해당 동영상을 삭제 요청하는 이메일 발송

업데이트

  • 이메일 발송: Elecrow에게 AI 음성 사용에 대한 의도와 동영상 삭제 요청
  • 과거 이메일 기록: Elecrow와의 이메일 기록이 43건 이상 존재, 과거에 유료 파트너십 제안도 받았음

댓글 반응

  • Jimmy: AI를 사용한 것이 확실하며, 이는 매우 부적절한 행동임
  • Gary Hayman: Jeff의 실제 동영상을 좋아하며, 이번 사건은 매우 나쁨
  • Kayla: 동영상의 일부 발음 실수로 인해 AI 음성임을 알 수 있었음
  • BC: AI 음성 복제 도구로 eleven labs를 사용했을 가능성 제기
  • Mike Robinson: BBC의 Tech Life 팟캐스트 에피소드 추천
  • George: 동영상의 목소리가 Jeff와 비슷하지 않다고 주장
  • mam: 상황이 불분명하며, 법적 조치 전에 직접 연락할 것을 권장
  • John: 엔터테인먼트 변호사와 상담할 것을 권장
  • Derek: Elecrow의 제품을 더 이상 구매하지 않겠다고 선언
  • Oh No: 정보의 자유를 주장하는 사람들이 자신들의 콘텐츠가 도용되는 아이러니한 상황

# GN⁺의 정리

  • AI 음성 복제 문제: AI 기술의 발전으로 인해 비승인 음성 복제가 가능해졌으며, 이는 윤리적 문제를 야기할 수 있음
  • 법적 대응의 어려움: 비승인 음성 복제에 대한 법적 선례가 부족하여 대응이 어려움
  • 콘텐츠 제작자의 권리 보호: 콘텐츠 제작자의 목소리나 이미지를 무단으로 사용하는 것은 윤리적으로나 법적으로 문제가 될 수 있음
  • 대안 제시: AI 음성 복제 대신 실제 성우를 고용하거나 콘텐츠 제작자와 협력하는 것이 바람직함
  • 유사 사례: OpenAI의 Scarlett Johanssen 음성 복제 사례와 BBC의 Tech Life 팟캐스트 에피소드 추천
▲
neo 2달전  [-]
Hacker News 의견

  • AI가 사람의 목소리를 모방해 신성모독적인 발언을 할 경우, 폭력 사태가 발생할 수 있음

    • 일부 국가에서는 신성모독으로 인해 폭력적인 린치가 발생하고 있음
    • AI 기술이 발전하면서 이러한 문제가 더 확산될 가능성이 있음
    • 이는 명성, 보안, 저작권과는 무관하게 사람들의 생명을 위협할 수 있음
    • 이를 통제할 도구가 부족함

  • AI를 사용해 목소리를 복제하는 것은 Midler vs. Ford 사건에서 벗어날 수 없을 것임

    • AI를 사용해 목소리를 복제하는 것은 다른 성우를 사용하는 것보다 더 방어하기 어려움

  • 선례는 중요하지만, 기술의 발전으로 인해 새로운 원칙이 필요함

    • 기술이 새로운 능력을 도입할 때, 이를 사람들에게 유익하게 사용할 수 있는 경계를 설정해야 함
    • 그렇지 않으면 강자가 원하는 대로 하고 약자는 고통받는 세상이 될 수 있음

  • LLMs가 궁극의 리믹스 기계라면, RAG를 가진 사람은 디지털 DJ가 될 수 있음

    • 디지털 정보의 도둑질이 무엇을 의미하는지 의문이 생김
    • 법적 선례가 부족한 상황에서 지적 재산권과 저작권 법은 마치 서부 개척 시대와 같음
    • Scarlett Johansson조차 OpenAI의 모방에 대해 고통스러운 편지를 쓸 수밖에 없는 상황에서, 일반적인 사람들은 어떻게 대응할 수 있을지 의문임
    • Geerling처럼 슬프고 화가 나지만, "모든 선한 것을 위해 친절하고 명예 코드를 따르라"고 말할 수밖에 없음

  • AI 부분을 제외하더라도, Jeff의 의견을 왜곡하거나 그의 이미지를 무단으로 사용하는 것은 잘못된 것임

    • 그의 목소리를 사용함으로써 제품에 대한 암묵적인 (조작된) 지지를 만드는 것은 매우 잘못된 것임
    • 이러한 사례를 다루는 법률이 이미 존재할 것임

  • 나는 작은 기술 유튜버로서 Elecrow와 접촉한 적이 있음

    • Elecrow뿐만 아니라 직원들이 장기적인 파트너십과 비디오 협업을 확보하면 보상, 승진, 커미션을 받음
    • 아마도 누군가가 Jeff의 목소리를 복제하는 것이 영리하다고 생각했을 것임
    • 이는 Elecrow에게 좋은 PR이 아님
    • 그들이 이것이 의도적이었다고 고백할지 궁금함

  • 나는 그것이 그다지 비슷하다고 생각하지 않음

    • 약간 비슷하지만 다름
    • 약간 더 높은 음조, 더 비음, 그리고 억양이 약간 다름

  • 우리는 수백 가지의 목소리 복제 도구를 가지고 있음

    • 물론 복제된 목소리로 된 콘텐츠가 나올 것임
    • 무단으로 사용된 이미지와 마찬가지로, 플랫폼과 그들의 관리 팀은 이를 신고하고 제거하는 절차를 가지고 있음
    • 목소리에 대해서도 비슷한 것이 필요함

  • 변호사는 항상 많은 돈이 든다고 말할 때: 나는 절대적으로 무료로 이 일을 할 것임

    • 하지만 아마도 당신이 내가 면허를 가진 주에 있지 않을 가능성이 큼
    • 만약 당신의 문제가 충분히 흥미롭다면 무료 변호사를 찾을 수 있음
    • 이것은 <i>우리 시대의 가장 흥미로운 문제</i>임

  • Elecrow는 중국 회사인 것 같음

    • 그렇다면 어떤 답변도 기대하지 않음
답변달기