Hacker News 의견들

• 나는 Gemini를 자주 쓰는 사용자임. 그런데 최근에 답변의 주요 출처로 AI 생성 영상을 인용하는 걸 자주 봄. 이건 현실 왜곡의 악순환을 만들 위험이 있음
  러시아의 산업 기반과 군수 생산 능력에 대해 물었을 때, 답변은 설득력 있었지만 마지막에 첨부된 영상이 AI 생성물이었음. 그걸 보고 신뢰도가 확 떨어졌음
  Google은 이런 AI 영상 인용 금지를 최우선 과제로 삼아야 함. 요즘 YouTube에는 AI 생성 채널이 폭발적으로 늘었고, “Dead Internet Theory”가 현실이 되는 느낌임

  • 나도 그렇게 느낌. 음악 영상은 괜찮지만, 다른 영상들은 질이 심각하게 떨어졌음. Google이 YouTube를 망치고 있음
    이제는 AI를 쓰면서 그걸 명시하지 않는 사람은 속이는 사람으로 간주하고, 다시는 상호작용하지 않기로 했음. AI 없는 영상만 보여주는 확장 기능이 필요함
  • 그런데 그런 문제를 알면서도 계속 Gemini를 쓴다는 게 신기함. 사용자가 계속 쓰면 Google이 바꿀 이유가 없지 않음
  • 그 주제에 관심 있다면 Perun의 영상을 추천함. 출처 인용이 많아서 참고 자료를 영상 설명에서 확인할 수 있음
  • “공유된 현실의 붕괴를 막아야 한다”는 말이 인상적임. 사실 기반이 불확실한 AI를 참조점으로 삼을 수 없다는 점이 이미 문제의 본질을 드러냄. 이런 시스템을 신뢰하라는 서사는 설득력이 약함
  • 기회가 된다면 Kagi Research Agent를 써보길 권함. 이건 1차 출처로 직접 파고드는 방식으로 작동해서, 추론 과정에서 가설을 수정하는 걸 볼 수 있음

• 나는 Gemini 설정에 “절대 영상 포함하지 말라”고 영구 프롬프트를 넣어둠. 그런데도 계속 영상을 붙임
  설령 영상 제작자를 믿는다 해도, 텍스트로 10분의 1 시간에 읽을 수 있는 걸 굳이 볼 이유가 없음. 내 경험상 텍스트가 99%의 경우 더 효율적임

  • 나도 그런 사람을 아는데, 그를 위해 영상 자막을 내려받아 문장 형태로 정리하고 AI로 기사처럼 다시 쓴 적이 있음. 꽤 괜찮게 작동했음
    나중에 Apple Shortcut으로 자동화하려 했지만 아직 못 했음. 긴 팟캐스트를 요약하는 데도 유용할 듯함. 누가 3시간짜리 팟캐스트를 매주 여러 개 듣겠음
  • 나도 비슷한 불만이 있음. “C++ 코드 파일 하나 생성해줘”라고 하면 꼭 불필요한 설명 문단을 덧붙임. 코드만 원했는데 토큰 낭비임
  • 얼마 전엔 가스레인지 분해법을 물었더니, Gemini가 유튜브 영상을 링크했는데 클릭하자마자 릭롤 당했음
  • 하지만 왜 그렇게 영상을 배제하려는지 이해가 안 됨. YouTube는 지식의 거대한 저장소임. 텍스트가 항상 더 빠르다고 단정할 수 없음. 그게 사실이라면 대학 강의도 필요 없을 것임

• Guardian이 인용한 연구를 직접 보면, SEO 회사의 콘텐츠 마케팅 매니저가 진행한 연구였음. 출처 품질을 다루는 주제치고는 아이러니함
  연구 링크

• Guardian 기사에 따르면 YouTube가 AI Overview 인용의 4.43%를 차지했다는데, 2~5위 출처를 합치면 거의 두 배임.
  YouTube의 접근성과 건강 주제 팩트체크 기능을 고려하면, Guardian의 보도는 과장된 면이 있음. 나도 Guardian을 좋아하지만 이번 건 나쁜 연구에 대한 나쁜 기사라고 생각함

• Google이 YouTube를 우선시하는 건 당연함. 영상은 대부분의 검색 결과에서 수익성이 높은 매체임. 그런데 이미 ‘비디오 검색’ 탭이 있는데 굳이 일반 검색에까지 밀어넣는 건 이상함

• “웹페이지는 다양한 출처에서 오지만, 영상은 대부분 YouTube에 있다”는 점을 간과하면 오해임. YouTube 영상도 Mayo Clinic 같은 기관에서 올릴 수 있음.
  즉 “의료 정보의 대부분이 Apache에서 나온다”고 말하는 것과 비슷한 착각임

  • 하지만 건강 관련 검색에서는 그 차이가 중요함. YouTube는 누구나 올릴 수 있는 일반 플랫폼이라, 자격 없는 사람의 영상도 섞여 있음
  • 실제로 신뢰할 만한 의료 기관이 통합된 공개 지식원이 없기 때문에, 각 기관이 분산되어 YouTube보다 낮게 보이는 것일 뿐임.
    특히 독일어 검색어로 조사했다면 영어권의 신뢰 가능한 출처가 덜 인용됐을 가능성도 큼
  • Guardian도 기사 하단에서 연구자들이 스스로 결과를 후퇴시켰다고 명시함.
    인용된 YouTube 영상 중 96%가 병원·클리닉 등 의료 채널에서 왔고, 대부분 공인된 출처임. 다만 전체 중 1% 미만만 분석했기 때문에 나머지는 다를 수 있음
  • 그래도 실제로 검색해보면 대부분 낯선 개인 채널임. 자격이 있더라도 사용자 입장에서는 확인이 어려움

• YouTube 인용이 늘어난 건 품질 저하처럼 느껴짐. 의료 주제라면 논문 기반으로 작동하는 incitefulmed.com 같은 도구가 훨씬 유용했음

• 최근 Gemini가 Reddit의 답변을 그대로 복사하듯 인용하는 것도 자주 봄. 링크 바로 위에 같은 내용이 반복됨

• 참고로 YouTube의 공식 건강 정보 정책은 health.youtube과 지원 문서, 그리고 The Verge 기사에서 확인 가능함

• 개인적으로 WebMD나 CDC, Mayo Clinic이 실제 의료 질문에 큰 도움이 된 적은 없음. 조회 수 많은 YouTube 영상을 인용하는 게 왜 문제인지 궁금함

  • 영상 기반 의료 조언은 대부분 “만병통치”식 민간요법을 권하는 경우가 많음.
    예를 들어 암 치료에서 “이버멕틴” 같은 약을 기적의 치료제라 주장하지만, 실제로는 의학적 근거가 없음.
    반면 화학요법은 힘들지만 검증된 치료임. 이런 “기적의 대체요법”이 유혹적인 이유를 Hank Green의 영상에서 잘 설명함
  • 의료 정보는 인터넷만으로는 진단에 필요한 맥락을 제공하기 어려움.
    그래서 “의사에게 가라”는 답이 답답해 보여도 현실적으로는 유일한 해결책임.
    요즘은 TikTok이나 YouTube에서 자가진단한 환자들이 많아져서, 의사가 설득하기 어려운 상황이 됨
  • 온라인 의료 조언이 나쁜 이유는 개인 맞춤형이 아니기 때문임.
    WebMD나 CDC, Mayo Clinic은 최소한 조심스러운 방향으로 안내하지만, YouTube는 무작위 보충제나 운동법을 추천하는 경우가 많음
  • WebMD나 NHS 같은 사이트는 항상 “의사와 상담하라”로 끝남.
    반면 YouTube에는 “의사가 말 안 해주는 진실”을 내세우는 창작자가 많음.
    나는 NHS나 CDC, Mayo Clinic을 YouTube보다 훨씬 더 신뢰함