▲

유튜브, 창작자 동의 없이 AI로 영상 수정 및 오해 소지 있는 요약 추가

 (ynetnews.com)
1P by GN⁺ 6일전 | ★ favorite | 댓글 1개
  • 유튜브가 일부 인기 채널 영상에 AI 기반 보정 기술을 적용하면서 창작자나 시청자에게 알리지 않은 사실이 드러남
  • 음악 유튜버 Rick Beato와 Rhett Shull이 자신의 영상에서 피부, 머리카락, 옷 주름 등이 미묘하게 달라진 것을 발견하며 문제 제기
  • 유튜브는 “일부 Shorts 영상에 한정된 실험”이라며, 전통적 머신러닝으로 영상 선명도와 노이즈를 개선했다고 설명
  • 그러나 전문가들은 “머신러닝도 AI의 일부”라며 용어 회피와 투명성 부족을 비판, 콘텐츠 신뢰성 훼손 우려 제기
  • 창작자 동의 없이 콘텐츠가 수정되는 이번 사례는 디지털 미디어의 진위성과 신뢰 문제를 드러내는 사건으로 평가됨

유튜브의 비공개 AI 영상 보정 실험

  • 유튜브가 일부 인기 크리에이터의 영상에 AI 기반 영상 향상 기술을 비밀리에 적용
    • 창작자나 시청자에게 사전 공지 없이 영상의 시각적 요소를 수정
    • Rick Beato와 Rhett Shull이 자신의 영상에서 피부 질감, 머리카락, 옷 주름, 귀 모양 등이 달라진 것을 발견
  • Beato는 “머리카락이 이상하게 보이고 화장을 한 것처럼 느껴졌다”고 언급
  • Shull은 “AI가 생성한 것처럼 보인다”며, 시청자와의 신뢰가 훼손될 수 있다고 지적

실험 확인과 유튜브의 해명

  • 유튜브는 일부 Shorts 영상에서 소규모 실험을 진행 중이라고 인정
    • Creator Liaison인 Rene Ritchie가 X(구 트위터)를 통해 “전통적 머신러닝으로 영상의 명확도와 노이즈를 개선하는 실험”이라고 설명
    • 스마트폰의 자동 보정 기능과 유사한 수준이라고 주장
  • 그러나 피츠버그대 Samuel Woolley 교수는 “머신러닝은 AI의 하위 개념”이라며, 유튜브의 설명이 오도적 표현이라고 비판

AI 전처리 확산과 신뢰 문제

  • 전문가들은 이번 사례가 AI가 콘텐츠를 사전 처리하는 광범위한 추세의 일환이라고 지적
    • 삼성은 AI로 달 사진을 선명하게 만드는 기능을 사용했고, 구글 Pixel의 “Best Take”는 여러 얼굴 표정을 합성해 하나의 완벽한 사진을 생성
  • Woolley는 “창작자의 동의 없이 콘텐츠를 수정해 배포하는 행위”라며, 시청자와 미디어 사이에 보이지 않는 조작층이 생긴다고 경고
    • 이는 콘텐츠 진위성과 투명성에 대한 우려로 이어짐

창작자와 전문가의 반응

  • Beato는 유튜브의 시도에 대해 “항상 새로운 도구를 실험하는 플랫폼”이라며 긍정적 태도를 보임
    • “유튜브는 내 인생을 바꿨다”며 비판을 자제
  • 반면 비평가들은 사전 고지 없는 수정이 위험한 선례를 남긴다고 지적
    • 유튜브는 오락뿐 아니라 뉴스·교육·정보 콘텐츠의 주요 플랫폼이기 때문에, 정확성과 진정성이 특히 중요하다고 강조

디지털 미디어의 향후 방향

  • 이번 사례는 AI가 사용자의 인식 이전 단계에서 콘텐츠를 재구성하는 미래를 예고
  • 시청자가 재생 버튼을 누르기 전 이미 AI가 개입한 영상이 제공될 수 있음을 보여줌
  • 투명한 AI 활용 공지와 창작자 동의 절차의 필요성이 부각됨
▲
GN⁺ 6일전  [-]
Hacker News 의견
  • 내가 팔로우하는 메이크업 인플루언서가 유튜브와 인스타그램이 본인 동의 없이 얼굴에 자동 필터를 적용하고 있다고 말했음
    립 메이크업 영상에는 입술이 커지고, 아이 메이크업 영상에는 눈이 커지는 식으로 AI가 콘텐츠 종류를 감지해 자동으로 필터를 입히는 현상임
    관련 영상은 여기에서 볼 수 있음. 크리에이터의 업로드를 동의 없이 수정한다는 게 충격적임
    • 영상 품질이 너무 낮아서 압축 아티팩트로 보임
      인플루언서가 비기술자라 AI 필터라고 착각한 듯함. 움직임 블록이 화면에서 떠다니는 건 고압축의 전형적인 현상임
      기술 포럼에서 이런 주장이 그대로 받아들여지는 게 이상함. 영상 전체가 세부 정보가 부족하고 압축 흔적이 뚜렷함
    • 이건 큰 법적 분쟁으로 번질 가능성이 있음
      이용약관상 플랫폼이 “원하는 대로 할 수 있다”는 조항이 있으니, 나중에 “사용자 설정”이라며 합리화할 수도 있음
    • 인스타그램 댓글 중 하나가 설명을 잘 해줬음
      “Meta가 자동 음성 번역을 할 때, 입 모양을 오디오에 맞추기 위해 AI 필터를 추가하는데, 이 과정에서 얼굴 전체에 이상한 필터가 덮이는 경우가 있음”
      콘텐츠 종류별로 필터를 다르게 적용한다는 건 음모론 수준의 과도한 추측 같음
    • 이런 기능을 끄는 옵션조차 없다는 게 문제임. 공식적으로 공지된 적도 없음
    • 정말 황당한 상황임
  • YouTube Shorts에 서버 측에서 적용되는 AI 필터가 너무 심함
    피부가 과하게 매끄럽고, 머리카락이 왁스처럼 보이며, 움직이는 물체 주변에 이상한 링이 생김
    처음엔 클라이언트 업스케일링인 줄 알았는데, 서버에서 처리되는 거라 끌 수도 없음
    사람들이 이런 품질에 익숙해지면, 나중에 AI 생성 콘텐츠가 섞여도 눈치채기 어려워질 것 같음
    • 일반 YouTube UI에서 같은 영상을 보면 다르게 보일 수도 있음. URL의 고유 ID를 복사해 일반 영상 주소에 붙여보라고 조언함
    • 이런 의도를 생각해본 적이 없었는데, 듣고 보니 의도적 전략일 수도 있겠다는 생각이 듦
    • 결국 AI가 만든 짧은 영상 피드로 완전히 대체될 거라 봄
      사람들은 무한히 스크롤하며 광고와 뇌를 녹이는 콘텐츠만 보게 될 것임
    • Shorts의 극단적 압축을 가리기 위해 필터를 쓰는 것일 수도 있음
  • 영상을 다시 인코딩한 후 손실을 확인할 때 나는 ffmpeg -i source.mkv -i suspect.mkv -filter_complex "blend=all_mode=difference" diff_output.mkv 명령을 씀
    이런 주장들이 많은데, 실제로 비교 영상(diff) 을 올린 사람은 아직 못 봤음. 누가 해주면 흥미로울 것 같음
    • Jill Bearup이 예전에 이걸 비교한 영상을 올렸음
      YouTube 영상에서 0:31에 Shorts와 원본을 나란히 보여줌
      Patreon에 올린 고화질 버전에서는 차이가 훨씬 뚜렷함
    • 나도 비슷한 방식으로 시각적 회귀 테스트를 하곤 함. 관련 글은 여기에 있음
    • 좋은 아이디어와 원라이너라 감사함
  • 나는 유튜브의 AI 요약문을 처음 보고 완전히 반대로 설명된 걸 본 뒤로는 무시하기로 했음
    • 클릭베이트를 완화해줬으면 좋겠음
      요즘은 썸네일을 캡처해서 ChatGPT에 질문하거나, 영상 URL을 전사 추출기에 넣어 Gemini로 분석함
      클릭베이트 제작자는 이제 “ChatGPT에게 물어볼 주제 제안자” 정도로 전락함
    • AI 요약문의 톤이 너무 인공적이라 싫음. 구조도 다 똑같고, 끝에는 항상 “~여정을 준비하라” 식으로 마무리됨
  • 유튜브가 왜 이런 무단 필터 적용을 하는지 이해가 안 됨
    크리에이터에게 알리지도 않고 이런 “개선”을 하는 건 현명하지 않음
    더 나은 플랫폼을 실험하는 사람들이 많아져야 함. 특히 허위 저작권 신고로 고통받는 중소 크리에이터를 위해서라도
    • 결국 이런 변화를 이끌 사람은 단 한 명의 야심가일 수도 있음
    • 아마도 참여율(engagement) 을 높이려는 시도거나, AI 투자금을 정당화하려는 의도일 수도 있음
      대안으로는 Fediverse의 PeerTube 같은 플랫폼이 있음
    • 플랫폼은 단순히 플랫폼 역할만 해야 함
      참여율을 높이는 건 크리에이터의 몫이지, 플랫폼이 개입하면 결국 사용자들이 떠나게 됨
    • 모든 콘텐츠를 AI처럼 보이게 만들어서 AI 콘텐츠를 정상화하려는 전략일 수도 있음
  • 이게 진짜 AI 필터인지, 아니면 고압축 알고리즘으로 인한 디테일 손실인지 궁금했음
    관련 예시는 이 글에 있음
    손실 압축과 적응형 양자화로 피부가 매끄럽게 보이는 현상이 생김
    • 실제로는 필터 적용 사례임. 예시는 이 인스타그램 영상에서 볼 수 있음
    • 하지만 어떤 사람은 여전히 압축 아티팩트라고 봄. 클라이언트 측에서 세부 복원을 시도하는 과정일 수도 있음
  • 요즘 유튜브에는 가짜 인물 영상이 넘쳐남
    과학자, 정치인, 경제학자, 기술 전문가들이 통째로 AI로 복제되어 등장함
    • 캐나다에서는 정치인 딥페이크 광고가 유튜브에 버젓이 올라옴. 유튜브가 광고 검열을 포기한 듯함
    • 실제 의사 영상을 가져다 AI로 제품을 홍보하게 만든 사례도 봤음
      관련 기사: The Guardian 보도
  • 유튜브는 사실상 AI 학습용 데이터셋임
    구글이 외부에 깨끗한 데이터를 제공할 이유가 없다고 봄
  • 유튜브에서 AI 생성 썸네일을 자주 봄
    예를 들어 이 채널은 실제 영상 프레임이 아닌, Stable Diffusion으로 생성한 듯한 요약 이미지를 씀
    • 이건 업로더가 선택할 수 있는 AI 썸네일 생성 기능임
      내 채널에서도 한 번 봤는데, 지금은 옵션이 사라졌음. 팔로우하는 채널 대부분이 이 기능을 쓰고 있음
      개인적으로는 마음에 들지 않음
  • 유튜브가 직접 손대지 말고, 사용자에게 AI 편집 권한을 줬으면 함
    예를 들어 “영어를 게일어로 바꾸기”, “아빠 농담을 lorem ipsum으로 교체하기”, “강아지를 외계 생명체로 바꾸기” 같은 프롬프트를 영상 밑에 입력할 수 있게 하면 좋겠음
    • 이런 기능이 언제쯤 가능할지 궁금함
      브라우저에서 로컬로 실행할 수 있다면 멋질 것 같지만, 그때쯤이면 아마 법적으로 금지될지도 모름
답변달기