# AI로 도난당한 나의 목소리

> Clean Markdown view of GeekNews topic #16886. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=16886](https://news.hada.io/topic?id=16886)
- GeekNews Markdown: [https://news.hada.io/topic/16886.md](https://news.hada.io/topic/16886.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2024-09-23T09:39:30+09:00
- Updated: 2024-09-23T09:39:30+09:00
- Original source: [jeffgeerling.com](https://www.jeffgeerling.com/blog/2024/they-stole-my-voice-ai)
- Points: 1
- Comments: 1

## Topic Body

##### 이메일로 받은 동영상 링크

- **동영상 내용**: Jeff Geerling의 목소리를 사용한 Elecrow의 홍보 동영상
- **문제 제기**: Jeff Geerling은 해당 동영상에서 자신의 목소리를 사용한 적이 없음을 주장

##### AI 음성 복제 의혹

- **의혹**: Elecrow가 Jeff Geerling의 YouTube 동영상을 AI 음성 복제 도구에 입력하여 그의 목소리를 사용
- **과거 사례**: OpenAI가 Scarlett Johanssen의 목소리를 복제한 사례를 언급
- **법적 문제**: 비승인 AI 음성 복제에 대한 법적 선례가 부족함

##### 대응 방안

- **현재 상황**: Elecrow와의 과거 관계는 나쁘지 않았음
- **법적 대응**: 법적 대응은 비용이 많이 들고, YouTube의 서비스 약관 위반 여부도 불확실함
- **요청 사항**: Elecrow에게 해당 동영상을 삭제 요청하는 이메일 발송

##### 업데이트

- **이메일 발송**: Elecrow에게 AI 음성 사용에 대한 의도와 동영상 삭제 요청
- **과거 이메일 기록**: Elecrow와의 이메일 기록이 43건 이상 존재, 과거에 유료 파트너십 제안도 받았음

##### 댓글 반응

- **Jimmy**: AI를 사용한 것이 확실하며, 이는 매우 부적절한 행동임
- **Gary Hayman**: Jeff의 실제 동영상을 좋아하며, 이번 사건은 매우 나쁨
- **Kayla**: 동영상의 일부 발음 실수로 인해 AI 음성임을 알 수 있었음
- **BC**: AI 음성 복제 도구로 eleven labs를 사용했을 가능성 제기
- **Mike Robinson**: BBC의 Tech Life 팟캐스트 에피소드 추천
- **George**: 동영상의 목소리가 Jeff와 비슷하지 않다고 주장
- **mam**: 상황이 불분명하며, 법적 조치 전에 직접 연락할 것을 권장
- **John**: 엔터테인먼트 변호사와 상담할 것을 권장
- **Derek**: Elecrow의 제품을 더 이상 구매하지 않겠다고 선언
- **Oh No**: 정보의 자유를 주장하는 사람들이 자신들의 콘텐츠가 도용되는 아이러니한 상황

##### # GN⁺의 정리

- **AI 음성 복제 문제**: AI 기술의 발전으로 인해 비승인 음성 복제가 가능해졌으며, 이는 윤리적 문제를 야기할 수 있음
- **법적 대응의 어려움**: 비승인 음성 복제에 대한 법적 선례가 부족하여 대응이 어려움
- **콘텐츠 제작자의 권리 보호**: 콘텐츠 제작자의 목소리나 이미지를 무단으로 사용하는 것은 윤리적으로나 법적으로 문제가 될 수 있음
- **대안 제시**: AI 음성 복제 대신 실제 성우를 고용하거나 콘텐츠 제작자와 협력하는 것이 바람직함
- **유사 사례**: OpenAI의 Scarlett Johanssen 음성 복제 사례와 BBC의 Tech Life 팟캐스트 에피소드 추천

## Comments



### Comment 29120

- Author: neo
- Created: 2024-09-23T09:39:30+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=41614490) 
- AI가 사람의 목소리를 모방해 신성모독적인 발언을 할 경우, 폭력 사태가 발생할 수 있음
  - 일부 국가에서는 신성모독으로 인해 폭력적인 린치가 발생하고 있음
  - AI 기술이 발전하면서 이러한 문제가 더 확산될 가능성이 있음
  - 이는 명성, 보안, 저작권과는 무관하게 사람들의 생명을 위협할 수 있음
  - 이를 통제할 도구가 부족함

- AI를 사용해 목소리를 복제하는 것은 Midler vs. Ford 사건에서 벗어날 수 없을 것임
  - AI를 사용해 목소리를 복제하는 것은 다른 성우를 사용하는 것보다 더 방어하기 어려움

- 선례는 중요하지만, 기술의 발전으로 인해 새로운 원칙이 필요함
  - 기술이 새로운 능력을 도입할 때, 이를 사람들에게 유익하게 사용할 수 있는 경계를 설정해야 함
  - 그렇지 않으면 강자가 원하는 대로 하고 약자는 고통받는 세상이 될 수 있음

- LLMs가 궁극의 리믹스 기계라면, RAG를 가진 사람은 디지털 DJ가 될 수 있음
  - 디지털 정보의 도둑질이 무엇을 의미하는지 의문이 생김
  - 법적 선례가 부족한 상황에서 지적 재산권과 저작권 법은 마치 서부 개척 시대와 같음
  - Scarlett Johansson조차 OpenAI의 모방에 대해 고통스러운 편지를 쓸 수밖에 없는 상황에서, 일반적인 사람들은 어떻게 대응할 수 있을지 의문임
  - Geerling처럼 슬프고 화가 나지만, "모든 선한 것을 위해 친절하고 명예 코드를 따르라"고 말할 수밖에 없음

- AI 부분을 제외하더라도, Jeff의 의견을 왜곡하거나 그의 이미지를 무단으로 사용하는 것은 잘못된 것임
  - 그의 목소리를 사용함으로써 제품에 대한 암묵적인 (조작된) 지지를 만드는 것은 매우 잘못된 것임
  - 이러한 사례를 다루는 법률이 이미 존재할 것임

- 나는 작은 기술 유튜버로서 Elecrow와 접촉한 적이 있음
  - Elecrow뿐만 아니라 직원들이 장기적인 파트너십과 비디오 협업을 확보하면 보상, 승진, 커미션을 받음
  - 아마도 누군가가 Jeff의 목소리를 복제하는 것이 영리하다고 생각했을 것임
  - 이는 Elecrow에게 좋은 PR이 아님
  - 그들이 이것이 의도적이었다고 고백할지 궁금함

- 나는 그것이 그다지 비슷하다고 생각하지 않음
  - 약간 비슷하지만 다름
  - 약간 더 높은 음조, 더 비음, 그리고 억양이 약간 다름

- 우리는 수백 가지의 목소리 복제 도구를 가지고 있음
  - 물론 복제된 목소리로 된 콘텐츠가 나올 것임
  - 무단으로 사용된 이미지와 마찬가지로, 플랫폼과 그들의 관리 팀은 이를 신고하고 제거하는 절차를 가지고 있음
  - 목소리에 대해서도 비슷한 것이 필요함

- 변호사는 항상 많은 돈이 든다고 말할 때: 나는 절대적으로 무료로 이 일을 할 것임
  - 하지만 아마도 당신이 내가 면허를 가진 주에 있지 않을 가능성이 큼
  - 만약 당신의 문제가 충분히 흥미롭다면 무료 변호사를 찾을 수 있음
  - 이것은 <i>우리 시대의 가장 흥미로운 문제</i>임

- Elecrow는 중국 회사인 것 같음
  - 그렇다면 어떤 답변도 기대하지 않음