▲

인터넷을 더 이상 신뢰할 수 없다

 (nicole.express)
1P by GN⁺ 12시간전 | ★ favorite | 댓글 1개
  • 일본 세가 제네시스용 재발매 게임 ‘Phantasy Star Fukkokuban’ 을 검색하던 중, 실제 존재하지 않는 AI 생성 허위 기사를 발견한 사례를 중심으로 인터넷 신뢰 붕괴를 다룬 글
  • 검색 결과 상위에 노출된 사이트가 그래픽 향상·날씨 효과 등 사실과 전혀 다른 내용을 포함한 글을 게시했으며, 이는 대형 언어 모델(LLM) 이 만들어낸 허구로 드러남
  • 작성자는 ChatGPT에 동일 게임을 설명하도록 요청했을 때도 잘못된 플랫폼·내용을 제시하는 등, 훈련 데이터 부족으로 인한 환각(hallucination) 현상을 직접 확인함
  • 이러한 자동 생성 콘텐츠는 SEO 목적의 광고 사이트에 대량 유입되어, 정보 검증 없이 그럴듯한 거짓 정보를 퍼뜨리는 구조를 강화함
  • 결과적으로 인터넷의 공유 지식 기반이 훼손되고 있으며, 신뢰할 수 있는 정보는 LLM 이전 시대의 평판 있는 사이트에 의존할 수밖에 없다는 결론을 제시함

Phantasy Star Fukkokuban 사례

  • 1994년 일본에서 발매된 세가 제네시스용 ‘Phantasy Star Fukkokuban’ 은 원래의 마스터 시스템 게임을 그대로 담은 재발매판임
    • 일부 제네시스 콘솔에서는 마스터 시스템 게임을 실행할 수 없어, 해당 카트리지도 작동하지 않음
    • 작성자는 이 게임의 발매일을 확인하려다 검색 결과 상위에서 허위 정보를 담은 사이트를 발견함
  • 문제의 사이트 ‘Press Start Gaming’은 그래픽 향상·날씨 효과·주야 변화 등을 언급했으나, 실제 게임에는 존재하지 않음
    • 기사 첫 문장이 “Game data not found”였음에도 불구하고, AI가 생성한 그럴듯한 설명문이 이어졌음

대형 언어 모델의 환각 문제

  • LLM은 다음 토큰 예측을 기반으로 작동하며, 훈련 데이터에 없는 희귀 주제에 대해 그럴듯한 허구를 만들어냄
    • ‘Phantasy Star’ 시리즈와 ‘Fukkokuban(복각판)’이라는 단어의 의미를 결합해, 존재하지 않는 리메이크판을 상상함
  • 작성자가 ChatGPT에 동일 게임 설명을 요청했을 때, 세가 새턴용 컴필레이션으로 잘못 인식하는 답변을 받음
    • 실제로는 ‘Phantasy Star Collection’이라는 다른 게임과 혼동된 것으로 보임
  • 이와 유사하게, 작성자가 다룬 또 다른 희귀 게임 ‘Mahjong Daireikai’ 에 대해서도 일본어권 웹에서 AI가 생성한 허구 설명이 존재함

인터넷 신뢰의 붕괴

  • ‘Press Start Gaming’ 사이트는 광고 수익 목적의 자동화 콘텐츠 플랫폼으로 추정됨
    • 사이트 하단에는 “©2025 Cloud Gears Media”라는 문구가 있으며, 실제 기업과의 연관성은 불분명함
    • 이러한 사이트는 사실 전달보다 검색 노출(SEO) 을 우선시함
  • LLM의 도입으로 허위 정보 생산 비용이 급감했고, 검증 없는 콘텐츠가 대량 확산됨
    • 과거에는 저임금 필진이라도 최소한의 사실 확인을 했지만, 이제는 AI가 완전한 허구를 생성함
  • 작성자는 “이제는 새로운 사이트를 신뢰하기 어렵다”며, AI 이전에 평판을 쌓은 매체만 의존하게 되었음을 언급함

AI 시대의 정보 생태계 훼손

  • 작성자는 “인터넷의 공유 지식(common)”이 이미 돌이킬 수 없을 정도로 훼손되었다고 평가함
    • 신뢰할 수 있는 정보원조차 AI 콘텐츠로 오염될 위험이 있음
    • 예시로 Ars Technica가 AI 생성 인용문이 포함된 기사를 게재 후 정정 및 철회한 사례를 언급함
  • LLM이 더 많은 데이터를 통합하게 되면, 언젠가는 정확도가 향상될 수 있으나, 현재의 피해는 이미 진행 중임
  • 작성자는 “이 글은 단순한 분노의 토로(rant)”라며, 인터넷 신뢰 상실의 현실적 체감을 강조함

결론

  • AI와 SEO 중심의 콘텐츠 생태계는 정보의 진위보다 생산 효율을 우선함
  • 결과적으로, 사실 검증 없는 자동 생성 글이 검색 상위에 노출되어 사용자 학습과 탐구의 기반을 훼손함
  • 작성자는 “인터넷을 더 이상 신뢰할 수 없다”는 선언으로 글을 마무리하며, 디지털 지식의 신뢰 회복이 시급함을 시사함
▲
GN⁺ 12시간전  [-]
Hacker News 의견들

  • 친구들과 함께 우리 마을에 메시 네트워크를 구축 중임
    오픈 인터넷은 이미 한참 전부터 하락세였지만, LLM이 그 종말을 가속화하고 있음
    90~2000년대 초반의 인터넷은 이제 죽었음을 받아들였음
    앞으로는 신뢰할 수 있는 로컬 네트워크가 대안이라 생각함
    돈벌이에만 몰두한 사람들 때문에 배타적인 공간으로 물러나야 하는 현실이 슬픔

    • 문제를 잘못된 계층에서 해결하려는 것 같음
      핵심은 네트워크가 아니라 콘텐츠 품질임
      신뢰할 사람들만 초대하는 포럼을 만들면 충분함
    • 1985년에 처음 온라인에 접속했는데, 지역 기반 인터넷은 한 번도 유용하다고 느낀 적이 없음
    • 전 세계에 흩어진 친구들과 Wireguard 메시 서비스를 구축하려고 조사 중임
      시도에 행운을 빔
    • 나도 같은 생각으로 몇 달 전부터 비슷한 프로젝트를 진행 중임
      현재는 네트워크 기반 MP3 플레이어를 다듬는 중이며, 아직 초기 단계지만 낙관적임
      프로젝트 링크
    • 그냥 기존 웹에서 초대 전용 사이트를 만들면 훨씬 간단함

  • 요즘 온라인의 잘못된 정보가 예전보다 훨씬 많아진 이유가 예측 시장(prediction markets) 때문일 수 있다는 생각이 있음
    돈을 걸기 위해 사람들의 인식 자체를 왜곡시키는 구조임
    2023년의 LK99 초전도체 사건 이후 이런 현상이 급격히 늘었음

    • 대부분의 사건은 영향력을 미치기 어려워서, 잘못된 베팅을 하면 오히려 역효과가 날 수 있음
    • 실제로는 시장 규모가 작음
    • 흥미로운 가설이지만 동의하지 않음
      예측 시장은 정보를 돈으로 거래할 수 있게 하지만, 고의적 허위 정보를 퍼뜨릴 만큼 규모가 크지 않음
      오히려 정치인, 인플루언서, 광고 수익을 노리는 참여형 허위 정보가 주된 원인이라 생각함
    • LK99는 반도체가 아니라 초전도체였음
    • 이미 신뢰할 정보원을 갖고 있지 않다면, 웹 기사로 세상을 잘못 판단하는 건 시간문제임

  • 인터넷의 신뢰 붕괴가 문제임
    예전엔 가끔 잘못된 정보에 속는 정도였지만, 지금은 봇이 재생산한 콘텐츠가 넘쳐남
    사람 대 봇의 비율이 거의 0에 가까움
    결국 우리는 웹을 태워버린 셈임

    • 나도 같은 결론에 도달한 뒤로 우울했음
      이제는 조종하던 사람들조차 무슨 일이 벌어지는지 모를 것 같음
    • 그래서 ‘죽은 인터넷 이론’이 이제 현실이 되었음
    • 이런 오염된 데이터가 미래의 AI 모델까지 망치게 됨
      그래서 지금의 모델이 오히려 가장 덜 편향된 버전으로 남을 수도 있음

  • HN을 어떻게 보호할 수 있을까 고민했지만, 결국 초대 기반 시스템 외엔 답이 없을 듯함
    요즘은 댓글이 사람의 것인지조차 의심스러워서 감정적으로 지침

    • 초대 기반이라면 이미 lobste.rs가 그 예시임
    • 하지만 HN은 이미 AI 산업 종사자들로 가득함
      AI를 종교처럼 믿는 분위기라, 봇 계정과 AI 필터링된 댓글이 섞여 있음
      Mastodon 같은 Fediverse는 아직 건강하지만, 언젠가 그곳도 오염될 것임

  • 인터넷의 신호 대 잡음비(SNR) 가 사상 최저임
    해결책은 인간 인증된 디지털 서명뿐이라 생각함
    eIDAS 같은 제도를 통해 익명성을 유지하면서도 인간임을 증명할 수 있어야 함

    • ‘공유지의 비극’은 실제 역사를 설명하지 못하는 허구 개념임
      관련 토론 링크
    • 인간 인증된 게시물만 보여주는 검색 엔진이 흥미로울 것 같음
      익명성은 유지하되 Sybil 공격을 막는 구조가 필요함
    • 결국 인간이 AI를 다시 사용하게 되므로, 근본적 해결은 아님
    • 맞음, SNR은 낮아지고 있음
    • 신뢰 트리(tree of trust) 구조로, 가까운 노드일수록 신뢰를 높이는 방식이 가능함

  • Intel i7-4790T 관련 영상을 찾다가 충격을 받았음
    최근 영상 대부분이 LLM이 생성한 스크립트를 읽는 ‘슬롭(slop)’ 콘텐츠였음
    제품은 소매로 판매된 적도 없는데, 유튜브 채널들이 하루에도 수십 개씩 올리며 Amazon 제휴 링크로 수익을 노림
    예시 영상1 / 예시 영상2

  • 가짜 콘텐츠 제작 비용이 0에 가까워진 지금, 확장 가능한 신뢰 메커니즘이 필요함
    개인적으로는 Web of Trust 구조가 매력적으로 보임
    일부는 배제되겠지만 어쩔 수 없는 일임
    나는 Gemini 프로토콜 기반의 보조 아카이버를 구축 중임
    robots.txt로 허용된 웹만 기록할 예정임

    • Web of Trust가 보편화되면 신뢰의 위임과 철회가 가능해져 배제는 줄어들 것임
      개인뿐 아니라 사이트 간에도 신뢰망을 형성할 수 있음
      지역 커뮤니티나 취미 그룹 단위로 시작해 점차 확장되는 구조가 될 수 있음

  • 최근 Hollow Knight 신작 정보를 찾다가, LLM이 만든 가짜 공략 사이트를 여럿 봤음
    출시된 지 6개월밖에 안 돼서 실제 정보가 많지 않은데, 광고 수익을 노린 듯함
    이런 니치 주제에서조차 가짜 콘텐츠를 만드는 게 과연 수익이 되는지 의문임

    • 제작비가 거의 없으니, 오염을 통한 탐색처럼 행동하는 것일 수도 있음
      ‘헛소리 비대칭 이론’이 실전에서 작동하는 셈임
    • VLCOL 국가(저비용 지역)에 살고 무료 도구를 쓴다면, 아주 작은 수익만으로도 충분히 가치가 있음

  • SEO가 나쁜 웹사이트일수록 오히려 신뢰할 만함

  • 인터넷의 미래는 초대 기반 커뮤니티로 갈 것 같음
    다음 세대의 포럼이 나올지, 아니면 PHPBB 시절로 돌아갈지 궁금함

    • 하지만 그런 공간도 곧 봇 침투와 정치적 편향으로 오염될 것임
      게임이나 스팸의 대상이 되지 않는 콘텐츠만이 살아남을 수 있음
    • lobste.rs가 이미 그런 형태에 가까움
      HN과 비슷한 분위기지만 초대 전용 구조로 운영됨
답변달기