▲

건강 검색 시 Google AI Overviews가 의료 사이트보다 YouTube를 더 많이 인용한다는 연구 결과

 (theguardian.com)
1P by GN⁺ 2시간전 | ★ favorite | 댓글 1개
  • 독일에서 수행된 연구에 따르면 Google의 AI Overviews가 건강 관련 질문에 답할 때 의료 기관보다 YouTube를 더 자주 인용함
  • 분석된 5만여 개의 건강 검색 중 YouTube가 전체 인용의 4.43% 를 차지하며, 병원·정부·학술 기관보다 높은 비중을 보임
  • 연구진은 YouTube가 누구나 콘텐츠를 업로드할 수 있는 비의료 플랫폼이라는 점을 지적
  • Google은 AI Overviews가 형식과 관계없이 신뢰할 수 있는 출처의 콘텐츠를 반영한다고 해명했으며, YouTube 내에도 병원과 의료 전문가의 영상이 포함된다고 설명
  • 이번 결과는 AI 기반 검색 요약의 신뢰성과 공공 보건 위험성에 대한 논란을 다시 불러일으킴

연구 개요

  • 독일 베를린에서 수행된 연구는 Google 검색을 통해 50,807개의 건강 관련 질의를 수집해 AI Overviews의 인용 출처를 분석
    • 연구는 SE Ranking이라는 검색엔진 최적화 플랫폼이 수행
    • 분석 결과, AI Overviews가 생성한 답변의 가장 많이 인용된 도메인은 YouTube로, 전체 465,823건 인용 중 20,621건을 차지
  • AI Overviews는 82% 이상의 건강 검색 결과에 등장
    • 연구진은 “YouTube는 의료 출판사가 아닌 일반 영상 플랫폼이며, 의료 자격이 없는 창작자도 콘텐츠를 올릴 수 있다”고 명시

주요 인용 출처 순위

  • 1위: YouTube – 4.43% (20,621건)
  • 2위: NDR.de – 3.04% (14,158건), 독일 공영방송으로 건강 관련 콘텐츠를 제작
  • 3위: Msdmanuals.com – 2.08% (9,711건), 의학 참고 사이트
  • 4위: Netdoktor.de – 1.61% (7,519건), 독일 최대 소비자 건강 포털
  • 5위: Praktischarzt.de – 1.53% (7,145건), 의사 경력 플랫폼

연구의 한계와 맥락

  • 연구는 2025년 12월 독일어 검색어를 기반으로 한 단일 시점 분석
    • 결과는 지역, 시기, 질문 표현 방식에 따라 달라질 수 있음
  • 연구진은 독일의 의료 체계가 EU 규제와 안전 기준이 엄격한 환경임을 언급하며, 이런 조건에서도 비의료 출처 의존이 높다는 점을 지적

Google의 입장

  • Google은 AI Overviews가 형식에 상관없이 신뢰할 수 있는 출처의 고품질 콘텐츠를 노출하도록 설계되었다고 설명
    • YouTube에는 병원, 클리닉, 의료 전문가가 제작한 영상이 포함되어 있다고 강조
  • Google은 연구 결과를 다른 지역에 일반화할 수 없다고 명시, 독일어 검색에 한정된 결과임을 지적
  • 또한, 보고서 데이터에 따르면 AI Overviews가 인용한 주요 도메인은 신뢰할 수 있는 웹사이트라고 주장

연구자 및 전문가 반응

  • 바젤대학교의 Hannah van Kolfschooten은 이번 연구가 “AI Overviews의 건강 관련 위험이 구조적임을 보여주는 실증적 증거”라고 평가
    • 잘못된 건강 정보가 드문 예외가 아니라 설계 구조에 내재된 문제라고 지적
    • YouTube 의존이 의학적 신뢰성보다 가시성과 인기 중심의 설계를 반영한다고 분석
  • SE Ranking 연구진은 YouTube 인용 중 상위 25개 영상의 96%가 의료 채널에서 제작된 것으로 확인했으나,
    • 이 영상들은 전체 YouTube 인용의 1% 미만에 불과하며, 나머지 영상의 출처 신뢰성은 불분명하다고 경고

배경 및 후속 논의

  • 이번 연구는 이전에 Guardian이 보도한 AI Overviews의 잘못된 건강 정보 제공 사례 이후 진행
    • 예시로, 간 기능 검사에 대한 잘못된 정보가 사용자에게 심각한 질환을 간과하게 만들 수 있었다는 지적이 있었음
    • 이후 Google은 일부 의료 검색에서 AI Overviews 기능을 부분적으로 제거
  • 이번 결과는 AI 기반 검색 요약의 신뢰성, 의료 정보 품질 관리, 공공 보건 위험성에 대한 논의를 확대시키는 계기
▲
GN⁺ 2시간전  [-]
Hacker News 의견들

  • 나는 Gemini를 자주 쓰는 사용자임. 그런데 최근에 답변의 주요 출처로 AI 생성 영상을 인용하는 걸 자주 봄. 이건 현실 왜곡의 악순환을 만들 위험이 있음
    러시아의 산업 기반과 군수 생산 능력에 대해 물었을 때, 답변은 설득력 있었지만 마지막에 첨부된 영상이 AI 생성물이었음. 그걸 보고 신뢰도가 확 떨어졌음
    Google은 이런 AI 영상 인용 금지를 최우선 과제로 삼아야 함. 요즘 YouTube에는 AI 생성 채널이 폭발적으로 늘었고, “Dead Internet Theory”가 현실이 되는 느낌임

    • 나도 그렇게 느낌. 음악 영상은 괜찮지만, 다른 영상들은 질이 심각하게 떨어졌음. Google이 YouTube를 망치고 있음
      이제는 AI를 쓰면서 그걸 명시하지 않는 사람은 속이는 사람으로 간주하고, 다시는 상호작용하지 않기로 했음. AI 없는 영상만 보여주는 확장 기능이 필요함
    • 그런데 그런 문제를 알면서도 계속 Gemini를 쓴다는 게 신기함. 사용자가 계속 쓰면 Google이 바꿀 이유가 없지 않음
    • 그 주제에 관심 있다면 Perun의 영상을 추천함. 출처 인용이 많아서 참고 자료를 영상 설명에서 확인할 수 있음
    • “공유된 현실의 붕괴를 막아야 한다”는 말이 인상적임. 사실 기반이 불확실한 AI를 참조점으로 삼을 수 없다는 점이 이미 문제의 본질을 드러냄. 이런 시스템을 신뢰하라는 서사는 설득력이 약함
    • 기회가 된다면 Kagi Research Agent를 써보길 권함. 이건 1차 출처로 직접 파고드는 방식으로 작동해서, 추론 과정에서 가설을 수정하는 걸 볼 수 있음

  • 나는 Gemini 설정에 “절대 영상 포함하지 말라”고 영구 프롬프트를 넣어둠. 그런데도 계속 영상을 붙임
    설령 영상 제작자를 믿는다 해도, 텍스트로 10분의 1 시간에 읽을 수 있는 걸 굳이 볼 이유가 없음. 내 경험상 텍스트가 99%의 경우 더 효율적임

    • 나도 그런 사람을 아는데, 그를 위해 영상 자막을 내려받아 문장 형태로 정리하고 AI로 기사처럼 다시 쓴 적이 있음. 꽤 괜찮게 작동했음
      나중에 Apple Shortcut으로 자동화하려 했지만 아직 못 했음. 긴 팟캐스트를 요약하는 데도 유용할 듯함. 누가 3시간짜리 팟캐스트를 매주 여러 개 듣겠음
    • 나도 비슷한 불만이 있음. “C++ 코드 파일 하나 생성해줘”라고 하면 꼭 불필요한 설명 문단을 덧붙임. 코드만 원했는데 토큰 낭비임
    • 얼마 전엔 가스레인지 분해법을 물었더니, Gemini가 유튜브 영상을 링크했는데 클릭하자마자 릭롤 당했음
    • 하지만 왜 그렇게 영상을 배제하려는지 이해가 안 됨. YouTube는 지식의 거대한 저장소임. 텍스트가 항상 더 빠르다고 단정할 수 없음. 그게 사실이라면 대학 강의도 필요 없을 것임

  • Guardian이 인용한 연구를 직접 보면, SEO 회사의 콘텐츠 마케팅 매니저가 진행한 연구였음. 출처 품질을 다루는 주제치고는 아이러니함
    연구 링크

  • Guardian 기사에 따르면 YouTube가 AI Overview 인용의 4.43%를 차지했다는데, 2~5위 출처를 합치면 거의 두 배임.
    YouTube의 접근성과 건강 주제 팩트체크 기능을 고려하면, Guardian의 보도는 과장된 면이 있음. 나도 Guardian을 좋아하지만 이번 건 나쁜 연구에 대한 나쁜 기사라고 생각함

  • Google이 YouTube를 우선시하는 건 당연함. 영상은 대부분의 검색 결과에서 수익성이 높은 매체임. 그런데 이미 ‘비디오 검색’ 탭이 있는데 굳이 일반 검색에까지 밀어넣는 건 이상함

  • “웹페이지는 다양한 출처에서 오지만, 영상은 대부분 YouTube에 있다”는 점을 간과하면 오해임. YouTube 영상도 Mayo Clinic 같은 기관에서 올릴 수 있음.
    즉 “의료 정보의 대부분이 Apache에서 나온다”고 말하는 것과 비슷한 착각임

    • 하지만 건강 관련 검색에서는 그 차이가 중요함. YouTube는 누구나 올릴 수 있는 일반 플랫폼이라, 자격 없는 사람의 영상도 섞여 있음
    • 실제로 신뢰할 만한 의료 기관이 통합된 공개 지식원이 없기 때문에, 각 기관이 분산되어 YouTube보다 낮게 보이는 것일 뿐임.
      특히 독일어 검색어로 조사했다면 영어권의 신뢰 가능한 출처가 덜 인용됐을 가능성도 큼
    • Guardian도 기사 하단에서 연구자들이 스스로 결과를 후퇴시켰다고 명시함.
      인용된 YouTube 영상 중 96%가 병원·클리닉 등 의료 채널에서 왔고, 대부분 공인된 출처임. 다만 전체 중 1% 미만만 분석했기 때문에 나머지는 다를 수 있음
    • 그래도 실제로 검색해보면 대부분 낯선 개인 채널임. 자격이 있더라도 사용자 입장에서는 확인이 어려움

  • YouTube 인용이 늘어난 건 품질 저하처럼 느껴짐. 의료 주제라면 논문 기반으로 작동하는 incitefulmed.com 같은 도구가 훨씬 유용했음

  • 최근 Gemini가 Reddit의 답변을 그대로 복사하듯 인용하는 것도 자주 봄. 링크 바로 위에 같은 내용이 반복됨

  • 참고로 YouTube의 공식 건강 정보 정책은 health.youtube과 지원 문서, 그리고 The Verge 기사에서 확인 가능함

  • 개인적으로 WebMD나 CDC, Mayo Clinic이 실제 의료 질문에 큰 도움이 된 적은 없음. 조회 수 많은 YouTube 영상을 인용하는 게 왜 문제인지 궁금함

    • 영상 기반 의료 조언은 대부분 “만병통치”식 민간요법을 권하는 경우가 많음.
      예를 들어 암 치료에서 “이버멕틴” 같은 약을 기적의 치료제라 주장하지만, 실제로는 의학적 근거가 없음.
      반면 화학요법은 힘들지만 검증된 치료임. 이런 “기적의 대체요법”이 유혹적인 이유를 Hank Green의 영상에서 잘 설명함
    • 의료 정보는 인터넷만으로는 진단에 필요한 맥락을 제공하기 어려움.
      그래서 “의사에게 가라”는 답이 답답해 보여도 현실적으로는 유일한 해결책임.
      요즘은 TikTok이나 YouTube에서 자가진단한 환자들이 많아져서, 의사가 설득하기 어려운 상황이 됨
    • 온라인 의료 조언이 나쁜 이유는 개인 맞춤형이 아니기 때문임.
      WebMD나 CDC, Mayo Clinic은 최소한 조심스러운 방향으로 안내하지만, YouTube는 무작위 보충제나 운동법을 추천하는 경우가 많음
    • WebMD나 NHS 같은 사이트는 항상 “의사와 상담하라”로 끝남.
      반면 YouTube에는 “의사가 말 안 해주는 진실”을 내세우는 창작자가 많음.
      나는 NHS나 CDC, Mayo Clinic을 YouTube보다 훨씬 더 신뢰함
답변달기