"Baby Peacock(아기 공작새)"에 대한 거의 모든 Google 이미지 결과는 AI가 생성한 것

 (twitter.com/notengoprisa)
1P by GN⁺ | ★ favorite | 댓글 1개

"구글은 죽었다"

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • “제품 X vs Y” 검색 결과가 이제 거의 다 AI 헛소리가 됐음
    죽은 인터넷이 커지는 걸 보니 Kagi에 가입하고 싶어짐. 언젠가는 사람이 만든 콘텐츠 인증이 필요해질 것 같음

    • Kagi도 안타깝게 만병통치약은 아님. Google 대안을 지원하려고 돈 내고 매일 쓰지만, 이미지 검색과 텍스트 검색 모두 결과가 AI 쓰레기로 가득 차는 문제는 여전히 심각함
      제품 비교도 대표적이지만, 더 걱정되는 건 의료 관련 검색임. 이번 주에 복용 중인 약에 대한 연구를 찾으려 했는데, 5년 전에도 검색엔진 최적화로 오염됐던 결과가 이제는 클릭을 유도하려는 GPT 생성 스팸 수백 페이지로 훨씬 악화됨
      결국 검색을 아예 포기하고 nih.gov에서 그나마 관련 있는 논문을 찾은 뒤, 인용 목록을 수동으로 따라가며 정보를 찾아야 했음
    • 어릴 때와 20대에 쓰던 인터넷을 기억하면서, 그 인터넷이 다시는 돌아오지 않는다는 걸 아는 감각이 정말 이상함
    • 죽은 인터넷이 커지는 걸 지켜보는 건 꽤 초현실적임
      광고 때문에 인터넷이 상업화되고, 사용자에게 적대적인 플랫폼으로 중앙집중화된 것이 확실히 불을 붙였다고 봄. 예전 인터넷은 지금도 훨씬 나아 보이지만, 지난 15년 동안 사용자 대부분을 잃었음
    • 모든 검색어 끝에 “Reddit”을 붙이면 도움이 되지만, Reddit 콘텐츠 대부분도 AI 생성물이 되는 건 시간문제일 듯함
    • Kagi에서 “baby peacock”을 검색해도 Google과 거의 같은 결과가 나오고, 대부분 AI 이미지임

  • 미칠 지경임. 인터넷은 죽었음
    최근 집을 샀고, 몰딩을 페인트칠하기 전에 어떻게 준비해야 하는지 같은 집수리 작업을 검색해 봤음. 거의 모든 결과가 AI 생성 콘텐츠 농장이고, 문단마다 광고가 끼어 있으며, 내용과 무관한 자동재생 영상이 페이지를 따라다니고, 쿠키 동의 모달이 뜨고, 곧바로 “친구가 되어달라”는 뉴스레터 가입 모달까지 뜸
    좋든 싫든 이제 진짜 정보를 찾을 수 있는 곳은 Reddit 정도밖에 없어 보임

    • 이런 검색에는 YouTube와 TikTok이 가장 나음. 영상은 아직 AI로 완전히 범람하지 않았고, 손으로 하는 작업에 관한 건 거의 뭐든 찾을 수 있음
      텍스트 콘텐츠를 영상보다 훨씬 선호하지만, 사람이 직접 쓴 진짜 텍스트 콘텐츠는 거의 죽었음. Reddit은 현재로서는 드문 예외일 수 있음. 아직 살아 있는 오래된 포럼들도 분야별로 남아 있지만, 찾기가 극도로 어려워지는 편임
    • 범용 주택 유지보수 책을 사는 게 나음
      예를 들어 https://archive.org/details/stanleyhomerepai0000fine/page/14...는 2014년 책 Stanley Home Repairs의 “Painting Trim the Right Way” 장으로 연결됨
      중고서점도 볼 만함. 집수리는 크게 변하지 않았음
      Wine을 켜고 Broderbund가 낸 CD-ROM “Black & Decker Everyday Home Repairs”도 시도해볼 수 있음: https://archive.org/details/BlackDeckerEverydayHomeRepairsBr.... https://www.goodreads.com/book/show/3424503-everyday-home-re...에 따르면, 물 새는 수도꼭지 수리부터 원목 바닥 보수까지 100가지가 넘는 흔한 가정 문제를 단계별로 안내하고, 애니메이션과 내레이션도 제공하며, 예상 시간·비용·필요 재료와 도구 목록까지 포함한다고 함
      실제로 꽤 괜찮아 보임
    • 1939년에 지어진 집을 소유하고 직접 고치는 입장에서는, 수리 작업을 어느 정도 진행한 뒤에야 주택 참고서 라이브러리를 갖췄는데 드라이버를 들기 전에 했어야 했다고 봄
      Taunton Press의 Renovations(https://www.bookfinder.com/search_s/?title=Renovation%205th%...)는 집수리 프로젝트를 시작할 때 가장 먼저 보는 자료임. 18장은 전부 페인트칠에 관한 내용임. Taunton의 다른 책들도 훌륭하지만, Renovations의 범위는 비교가 안 됨
      요즘 사는 평평한 흰색 MDF 몰딩은 이미 프라이머 처리되어 있어서 바로 칠할 준비가 되어 있음
    • 오래된 차와 새 차가 있는데, 오래된 차는 예전 인터넷 시절에 존재했기 때문에 어떤 수리든 방법을 찾을 수 있음. 당시에는 사람들이 온갖 작업기를 남겼음
      새 차에 관한 작업 정보는 거의 없고, 대부분은 아무것도 모르는 사람이 형편없는 자가수리를 촬영한 YouTube 영상뿐임
    • 집수리에는 YouTube가 가장 좋은 자료라고 봄. 물론 텍스트와 사진을 원했다면 이해됨

  • “콘텐츠” 생산과 수익화 중심으로 돌아가는 인터넷 경제에서는 아마 처음부터 이렇게 될 가능성이 컸음
    기존 콘텐츠에 광고를 붙이는 것으로 시작했고, 이후 소셜 네트워크와 소셜 미디어로 넘어갔는데, 이는 결국 더 많은 콘텐츠 생산을 크라우드소싱해 그 옆에 광고를 보여주는 엔진이었음. 돈이 걸려 있으니 콘텐츠 생산은 중요한 사업이 됐고, 기술은 벌어들일 돈보다 더 싸게 콘텐츠를 만드는 방식으로 그 수요를 충족하고 있음
    원래도 사람이 만든 바람직하지 않은 콘텐츠를 관리하는 문제가 이 사업 모델을 침식하기 시작했는데, 이제는 생성 도구가 관리 속도보다 더 빠르게 원치 않는 콘텐츠를 만들어냄. 어느 정도 포화되면 사람들은 흥미를 잃고, 예전에는 알고리즘 휴리스틱으로 좋은 콘텐츠와 나쁜 콘텐츠를 가르던 도구들도 쓸모없어질 것임. 보이는 유일한 탈출구는 사람이 만든 콘텐츠를 사람이 큐레이션하는 쪽인데, 업계가 요구하는 규모에서 그런 사업 모델이 있을지는 모르겠음

    • 블로그를 향수 어린 눈으로 보는 사람이 많지만, 블로그는 인터넷이 오래 살아남는 콘텐츠에서 콘텐츠 농장식 기사 양산으로 바뀐 초기 사례였음
      초기 인터넷은 도서관을 둘러보는 느낌에 가까웠음. 대부분 사이트가 매일, 심지어 매달 업데이트되리라 기대하지 않았고, 글은 거의 항상 최신순이 아니라 내용별로 정리되어 있었음
      블로그가 새것에 과도하게 집중하면서 많은 것이 바뀌었고, 여러 사이트가 오래 남는 자료 라이브러리를 키우는 대신 새 조회수를 뽑아내는 쪽으로 전환하면서 눈에 띄게 나빠졌음. 온라인 토론도 포럼에서 Reddit/HN식 추천 구조로 바뀌며 비슷한 과정을 겪었음. 오래된 포럼에서는 10년 넘게 이어진 토론도 아직 남아 있는데, Reddit이나 HN에서는 몇 시간만 지나면 글이 페이지에서 밀려나고 토론이 죽음
    • 인간의 신뢰는 100명을 넘기도 거의 어려운데, 인터넷 전체 규모로는 더더욱 불가능하니 그런 사업 모델은 없다고 봄. 인간은 원래 이해하고 속하도록 만들어진 부족 규모로 되돌아갈 것 같음
      비공개 단체 채팅은 우리가 인정하는 것보다 훨씬 더 인기 있고 보편적이며, 이런 환경에서는 그 흐름이 더 빨라질 것임
    • 열린 시스템에서는 사람 큐레이션이 가능하지만, 거대한 몇 개의 사일로가 있으면 알고리즘 효율성이 그 안에서 작동하고 지금 같은 결과가 나타남
      사람들이 흥미를 잃고 쓰레기 콘텐츠 소비를 멈추길 바라지만, 반대편의 도박은 사람들이 점점 더 낮은 품질의 알고리즘 공급 콘텐츠에 익숙해지고 업계가 어떤 수단으로든 끝없이 이익을 짜내는 것임. 케이블 TV 역사를 보면 한계점은 있어 보임
    • 사람이 만든 콘텐츠를 사람이 큐레이션한다는 건 사실상 리트윗임
      지루해진 소수의 대학생 같은 작은 단일문화 집단은 언제나 알고리즘을 파악해 플랫폼을 포르노와 스팸으로 장악하고 자원을 갉아먹을 것임. 약한 집단을 돕기 위해 만들어진 더 나은 도구와 금전적 인센티브 연결은 오히려 격차를 키움. 금융 인플루언서들은 소수의 콘텐츠 시장 인플루언서에게 굴욕당하려고 돈을 내는 게 아니라 대중에게 인정받으려고 돈을 내기 때문에 이게 문제가 됨
      하지만 그게 왜 문제인가? “바람직하지 않은 콘텐츠” 생산자들은 시장이 가장 가치 있게 여기는 것에 최적화할 뿐임. 그게 문제라면 시장의 존재 자체가 문제임. 그렇다면 어떻게 해야 할까? 그냥 파괴하는 것도 말이 될 수 있음
    • Gutenberg 이후 출판은 계속 콘텐츠 수익화로 움직이지 않았나 싶음. 가톨릭 교회 역사를 보면 그보다 전에도 그랬을 가능성이 있음

  • 이미지뿐만이 아님. 흔한 질문으로 볼 수 있는 것을 Google에서 검색하면 상위 3~5개 결과에 생성 AI 단어 샐러드가 자주 뜸
    처음 읽기 시작할 때는 바로 알아차리지 못함. 그러다 명백히 생성 AI가 아닌 것들까지 의심하게 됨. 사람은 어떤 식으로 틀릴 수 있는지, 틀릴 때 어떤 방식으로 틀리는지, 틀렸을 때 어떤 말투가 되는지, 얼마나 틀릴 가능성이 있는지, 어떤 형식과 플랫폼에 오류가 존재하는지, 얼마나 자주 틀리는지, 다른 사람이 어떻게 반응하는지에 대한 감각이 있음. AI는 완전히 다른 존재임. 그럴듯하게 들리는 AI가 언제 틀렸는지는 어떤 직관이나 경험으로도 알 수 없음
    전달된 정보의 품질을 무의식적으로 평가하던 휴리스틱 전체가 하룻밤 사이에 무력화되는 건 광기와 불행의 처방일 수 있음. 평생 기술 때문에 이렇게 진심으로 슬펐던 적은 거의 없음

    • 솔직히 이게 공개 인터넷의 끝이라고 봄. 실패한 건 Google이 아니라 공개 인터넷의 실체임
      뭔가 도움이 필요하거나 질문이 있으면 Google을 쓰지도, 공개 포럼에 올리지도 않음. 모두가 실제 사람이고, 아무도 돈을 벌지 않고, 나중에 계정을 팔려고 인터넷 점수를 모으려고 ChatGPT를 복붙하지 않는 비공개 단체 채팅에서 물어봄
      바뀔 수 있는 길은 하나뿐인데 사람들이 좋아하지 않을 것임. 인터넷의 모든 콘텐츠가 법적 신분증과 연결되는 것임. Facebook의 모든 게시물과 모든 댓글이 실제 사람에게 귀속될 수 있어야 함
    • 휴리스틱이 그렇게 다르다고 보진 않음. 검색엔진 최적화 스팸과 헛소리 콘텐츠는 예전에도 있었고, Google과 YouTube 모두 클릭에 최적화하고 YouTube 추천 시스템을 조작하던 인간 “콘텐츠 창작자”들로 가득했음
      AI 콘텐츠도 크게 다르지 않음. 다만 이제 그런 콘텐츠를 만드는 게 100배 쉬워져 훨씬 많이 보일 뿐임. 근본적으로는 AI 문제가 아니라 인센티브와 광고 기반 사업 모델 문제임. AI가 서비스 악화 문제를 훨씬 더 눈에 띄게 만들었지만, 그 문제는 원래 있었음
      해결책은 모르겠음. 짐작하건대 저품질 콘텐츠가 범람하면서 공개 인터넷은 시간이 갈수록 덜 중요해지고, 많은 소통은 사람의 신원과 자격 검증에 크게 의존하는 작은 커뮤니티로 옮겨갈 것임
    • 찬물을 끼얹으려는 건 아니지만, 그래도 사생활 상실이 훨씬 더 슬픔

  • 왜 그런지 설명하기 어렵지만, 아기 공작이 어떻게 생겼는지 몰라서인지 이 사례가 AI의 어두운 면을 정말 강하게 체감하게 만들었음
    검색 결과를 어느 정도 신뢰하는 데 익숙해져 있었음. 이상한 결과나 거의 말이 안 되는 결과도 있긴 했지만, 관련 이미지의 바다 속에서 드문드문 있었음. 이제는 내가 모르는 것에 대해 완전히 눈이 멀 수 있음. Google이 “그냥 존재하는 것”으로 자란 사람으로서 정말 무섭다

  • Twitter 계정이 없어서 단일 게시물 말고 더 보고 싶다면 여기서 볼 수 있음: https://xcancel.com/notengoprisa/status/1842550658102079556

  • Google이 계속 관련성을 유지하려면 어떻게든 이 문제를 해결해야 하지 않나? 이미지를 검색하는 것과 이미지를 생성하는 것이 같은 결과를 낸다면, 더 이상 이미지 검색의 의미가 뭔가?

    • 일반 검색에도 똑같이 말할 수 있음. 뭘 검색하든 광고 한 페이지가 나오고, 그다음에는 콘텐츠 농장 몇 페이지, 그다음에는 “전문가처럼 들리지만 결국 콘텐츠 농장”인 페이지들이 이어짐
      광고로 인터넷을 재정 조달한 탓에 좋은 품질의 콘텐츠를 찾기가 정말 어려워졌음. 콘텐츠 창작자나 Google이 아니라면 인센티브가 완전히 어긋나 있음
    • 목표는 워터마킹인 것 같지만, 웹이 관리된 쇠퇴 외의 상태라고 생각할 수 있는 사람은 없을 듯함. AI가 AI를 먹이는 구조가 결국 모든 걸 끝낼 것임. Platformer가 가장 잘 설명했다고 봄: https://www.platformer.news/google-io-ai-search-sundar-picha...
      다음에 무엇이 올지가 문제인데, 아무도 답을 갖고 있지 않은 것 같음
    • “해결”이 무슨 뜻인지 모르겠음. 이건 이미 문제를 해결하는 중임. 사람들이 충분히 괜찮다고 여기는 것을 보면, 그걸로 끝임
      근거는 지구상의 다른 모든 뉴스와 소셜 미디어임
    • Google은 사람들이 아기 공작이 AI 생성이라는 걸 알아차리지 못하게 만드는 쪽으로 해결할 가능성이 더 큼
    • 대형 기술 기업이 더 엄격한 AI 규제를 로비하는 이유 중 하나가 이런 것이라고 봄. 그들은 AI의 지배를 두려워하는 게 아니라, AI가 자기 사업을 파괴하는 걸 두려워함

  • 가장 심한 건 Snopes의 “Video Genuinely Shows White ‘Baby Peacock’?” 제목을 물음표만 잘라 복사한 결과임. 그 페이지는 해당 사진이 진짜 아기 공작이 아니라는 내용임
    더 정확한 용어인 peachick으로 검색하면 100% 실제 이미지가 나오는 듯함. 다만 페이지 절반은 여전히 “baby peacocks”라고 부름

    • 첫 결과가 Adobe Stock임. Pinterest나 TikTok보다는 기준이 높을 거라고 생각할 법한 곳인데, 현실은 이렇음

  • 가까운 미래에는 YouTube 영상과 팟캐스트의 상당 부분이 AI로 생성될 가능성이 큼. 예를 들면 Notebook LM 같은 도구를 통해서임
    다만 청중이 정말 그런 AI 생성 콘텐츠를 즐길지는 확신이 없음. 개인적으로는 사람이 만든 콘텐츠를 더 선호함. 더 진짜 같고 몰입된다고 느껴짐
    AI 도구에는 다른 플랫폼이 AI 생성 콘텐츠를 식별할 수 있도록 신뢰할 만한 워터마크 같은 강력한 탐지 장치가 꼭 필요함. 안타깝게도 현재 AI 생성 오디오 탐지 도구는 아직 부족함: https://www.npr.org/2024/04/05/1241446778/deepfake-audio-det...
    방금 Notebook LM이 생성한 “팟캐스트” 목록도 정리했음: https://github.com/ListenNotes/notebooklm-generated-fake-pod...
    AI가 만든 팟캐스트를 듣고 싶은지 생각해볼 필요가 있음. 사람들이 자기 자신이 만든 프로그램은 괜찮게 받아들일 수 있지만, 다른 사람이 AI로 생성한 “팟캐스트”는 덜 좋아할 것이라고 봄

    • 사람이 만든 콘텐츠가 더 진짜 같고 몰입된다고 생각하고 싶지만, 그게 얼마나 오래 사실일지 의문임
      인간 제작 콘텐츠를 더 좋아하고 “싶지만”, AI가 사람의 몰입을 더 잘 최적화할 수 있을 것 같음. 특히 TikTok 영상 같은 단순한 도파민 유발 콘텐츠에서는 더 그럴 수 있음. 우리는 스스로 생각하는 것보다 덜 복잡함
      AI 도구의 탐지 장치는 안타깝게도 절대 제대로 작동하지 않을 것임. 악의적 행위자를 배제할 방법이 없고, AI가 사람인 척하는 데는 돈이 많이 걸려 있음. 오히려 사람이 만든 콘텐츠에 워터마크나 서명을 해야 할지도 모름
    • 여기서 이분법으로 나누는 건 별로 도움이 안 됨
      예를 들어 10년 전에도 내레이션이 전부 TTS인 YouTube 영상을 봤음. 제작자는 자기 목소리를 쓰고 싶지 않아서 대본을 쓰고 TTS 시스템에 넣었음. 당시 기술 수준상 소리는 끔찍했지만, 사람들은 영상을 즐겼고 조회수도 높았음. 이걸 AI 생성이라고 부를 건가?
      지금은 생성 AI 없이도 훨씬 나은 TTS가 있음. 그런 영상은 이제 보기에 더 나아졌을 것임. 톤 변화가 적어서 사람이 아니라는 걸 알 수도 있겠지만, 아마 1분 이상 들어야 구분될 것임. 이건 AI 생성인가?
      이제 생성 AI로는 AI인지 식별하지 못할 수도 있는 음성이 가능함. 그래도 사람이 대본을 썼다면 괜찮은가? 이건 AI 생성인가?
      마지막으로 같은 영상에서 제작자가 대본을 직접 쓰지만 글을 잘 못 쓴다고 느끼거나 영어가 모국어가 아니라 문법 오류가 많다고 해보자. 그래서 GPT에 대본을 넘겨 문법만 고치는 게 아니라 “인기 영상의 대본이 될 것” 같은 목표를 주고 개선하게 함. 이후 자신이 전달하려던 핵심이 전달됐는지 검토하고 음성 생성을 진행함. 이건 AI 생성인가?
      내게는 이 모든 경우가 괜찮고, 완전히 인간 작업 흐름으로 만든 것보다 열등하지 않음. 제작자가 인간이고, 자신이 전달해야 할 것을 전달한다고 느낀다면 충분함
      블로그 글 초안을 GPT에 보내 대신 써달라고 하고 싶음. 아직 하지 않는 이유는 결과물이 내 “목소리”를 갖지 않기 때문임. 말하려던 내용을 담을 수는 있지만 문체가 완전히 다름. GPT/Claude가 내 스타일을 더 잘 흉내 낼 수 있다면 바로 쓸 것임. 끝없는 편집을 좋아하는 사람은 거의 없고, 특히 작가도 마찬가지임
    • 차이를 구분할 수 없게 되기까지 얼마나 걸리느냐가 문제임
    • Listen Notes에서는 지난 주말에만 Notebook LM으로 생성된 가짜 팟캐스트 500개 이상을 삭제했음
      사기꾼과 블랙햇 검색엔진 최적화 업자들이 벌써 Notebook LM을 활용해 가짜 팟캐스트를 대량 생산하고 여러 플랫폼에 배포하는 걸 보니 실망스러움
    • 개인적으로는 무제한 저질 콘텐츠 기계에 반대함

  • Google이 이미지 검색에서 실제 이미지로 이동하거나 다운로드하기를 계속 점점 더 어렵게 만들자, 운영체제 단축키로 Google 이미지 저장소를 검색하고 클립보드에 빠르게 복사할 수 있는 이미지 검색 도구를 만들었음. 사용자 지정 Google Search Engine ID를 사용함
    약 1년 전부터 결과의 90%가 AI 생성물이라는 걸 알게 돼서 “No AI” 플래그를 추가했음. 기본적으로 2022년 이전 결과로 제한하는 빠르고 거친 필터임. 완벽하진 않지만 임시방편으로는 작동함
    https://github.com/scpedicini/truman-show

답변달기