Ask HN: AI 생성 글을 표시하는 플래그를 추가해야 할까?

 (news.ycombinator.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • AI 생성 글의 순위를 낮추지 않고 표시만 추가해, 이를 읽고 싶지 않은 사용자가 건너뛸 수 있게 하는 기능을 제안함
  • 기존 투표 시스템만으로 충분한지, 생성형 AI 시대에 맞춰 HN이 오랫동안 유지해 온 기본 원칙을 바꿔야 하는지가 쟁점임

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • dang: HN 자체에는 생성형 AI 텍스트 금지 규칙이 이미 있음: https://news.ycombinator.com/newsguidelines.html#generated, https://news.ycombinator.com/item?id=47340079
    글 본문에는 아직 같은 규칙이 없지만, 커뮤니티는 대체로 그런 글을 원하지 않거나 낮게 평가하는 듯함. “프롬프트만 보여 달라” 같은 반응을 https://news.ycombinator.com/genai-pushback에 모아 둔 이유도 생성형 AI 글이 신고된 까닭을 묻는 사용자에게 보내기 위해서임
    지금은 AI가 인간에게서 학습하는 동시에 인간 집단도 AI의 문체를 학습하는 흥미로운 군비 경쟁이 벌어지고 있음. 독자는 LLM 같은 문체에 알레르기처럼 반응하고, 그런 순간 글은 곧바로 낮은 지위의 범주로 밀려남. AI와 인간이 서로 적응하면서 어디에 도달할지는 알 수 없음
    반대로 글을 높은 지위로 분류받고 싶다면 직접 쓰면 됨. pg가 이를 “writes and write-nots”라고 표현한 적도 있음: https://paulgraham.com/writes.html
    LLM 기술 자체를 부정하는 것은 아니며 HN도 크게 의존하고 있음. 핵심은 어떻게 활용할지, 다른 인간에게 공개하는 글에 써야 할지임: https://x.com/paulg/status/2058871512451412457
    단순 표시용 신고는 사실상 태그 기능이라 HN이 계속 거부해 왔지만 완전히 배제하지는 않음. 대신 신고할 때 이유를 요구하고 생성형 AI 의심, 스팸, 주제 이탈, 공격성 등을 선택하게 할 가능성이 큼. 일반 투표만으로는 언제나 부족함: https://hn.algolia.com/?dateRange=all&page=0&prefix=false&sort=byDate&type=comment&query=%22upvotes%20alone%22%20by:dang
    생성형 AI 시대에 HN이 바뀌어야 하느냐는 질문에는 https://news.ycombinator.com/item?id=48887149로 답하고 싶으며, 이는 https://news.ycombinator.com/item?id=3742902에 대한 오마주임

    • grayclhn: 이를 알레르기나 지위 문제로만 분류하기에는 너무 단순함. 업무에서 AI 생성 문서 수백 개를 검토하고 직접 생성도 많이 해봤지만, 가장 큰 문제는 깊이 있는 피드백이 불가능하다는 것임
      오해나 공백이 작성자의 이해 부족 때문인지, AI가 이해하지 못한 것인지, 작성자가 제대로 검토하지 않은 것인지 알 수 없음. 놀라운 발상이 있어도 작성자의 통찰인지, 더 설명할 수 있는지, 어디서 나온 것인지 확인하기 어려움
      인간 공동 작성자가 충분히 손보면 자신의 관점과 이해를 정확히 반영할 수 있지만 실제로는 드물며, 작성자가 실질적으로 존재하지 않아 내용과 더 깊이 교류할 수 없다는 점은 토론 사이트에 특히 큰 문제임
    • Springtime: 이는 순수성 검사가 아니라 작성자가 정확성 검증의 부담을 독자에게 떠넘긴다는 문제임. AI 사용 여부와 인간이 검토한 범위를 밝히지 않으면 독자는 문장마다 사실성을 조사해야 하고 더욱 의심하게 됨
      알려진 전문가의 글이라면 믿고 배우려는 태도로 읽을 수 있지만, AI가 남용하는 진부한 표현은 얼마나 인간의 검토를 거쳤는지 알 수 없다는 신호가 됨. 결국 “사람이 전부 분석해야 가치가 드러날지도 모르는 글”로 미뤄 두거나 바로 거부하게 됨
    • bhaney: 신고 사유에 “생성형 AI라고 생각함”이 들어간다면 AI 생성 글 자체가 신고 대상이라는 뜻인지 궁금함. 지금부터 의심되는 글을 신고해야 하는지, 사유 선택 기능이 생길 때까지 기다려야 하는지도 불분명함

  • IgorPartola: AI 생성 표시를 붙이면 신뢰를 잃으니 누구도 자발적으로 표시하려 하지 않을 것임. 커뮤니티가 단서와 추측으로 신고할 수는 있지만 정확하지 않고 추가 노동도 듦
    블로그 시대는 사실상 끝났고 꼭 나쁜 일만은 아님. AI 이전부터 블로그 스팸과 기업 블로그가 양질의 블로그를 망쳤으니, 진짜 질문은 무엇이 블로그를 대체하느냐임
    AI 글이 인간 글과 구분되지 않으면서 정확하고 흥미롭다면 작성 주체가 중요한가? 피해야 할 것은 AI 생성 자체가 아니라 낮은 품질 아닌가

    • freehorse: 인터넷에 스팸이 많아도 HN을 찾는 주된 이유는 흥미로운 콘텐츠를 발견할 수 있어서임. 지금의 기계 생성 콘텐츠는 낮은 품질이라고 보기 때문에, 시간을 낭비하기 전에 읽을지 직접 선택하고 싶음
      완벽히 구분할 수 없는 미래가 올 수 있지만 불확실한 미래 때문에 지금 아무것도 하지 말자는 주장은 좋지 않음. 현재 AI 콘텐츠는 꽤 식별 가능하고, AI처럼 보이지 않게 손봤다면 적어도 인간의 노력이 더 들어간 글임
    • asdff: AI 글이 정말 훌륭하다면 곧 구식이 될 모델의 장문 출력물을 보관할 이유가 없음. 프롬프트만 공개하면 6개월 뒤 더 크고 좋은 모델로 더 나은 글을 생성할 수 있음
    • dgellow: 중요한 것은 인간과 상호작용한다는 사실임. LLM이 인간처럼 보이는 콘텐츠를 만들고 이를 밝히지 않는다면 본질적으로 기만적임
      사람이 키보드로 직접 입력했는지는 중요하지 않지만, 내용을 인간이 빚었는지는 중요함. LLM은 단순히 타이핑하는 것이 아니라 문체, 어조, 목소리, 구성까지 결정하며, 그것들이 인간 간 소통의 핵심임

  • Retr0id: 투표자 중 상당수는 AI 생성 문장을 알아보지 못하고, 알아보더라도 신경 쓰지 않거나 전제가 충분히 흥미로우면 넘어감. 좋음/나쁨과 AI/인간이라는 2차원 투표를 도입하면 글에서 AI가 얼마나 쓰였는지를 둘러싼 메타 논쟁을 줄일 수 있을 듯함

    • DaiPlusPlus: 읽을 만큼 흥미롭지만 직접 쓸 만큼은 흥미롭지 않은 글의 집합은 생각보다 작을 듯함
    • andrewmutz: 좋음/나쁨만으로 충분하지 않은 이유가 무엇인지 모르겠음. 훌륭한 글을 만드는 과정에서 AI를 썼다고 해서 무엇이 나쁜가
    • ryandrake: 온라인 AI 사용이 지금처럼 빠르게 늘면 연말에는 인터넷과 HN 링크 대부분이 AI 저품질 콘텐츠가 될 수 있음. 그때 “이 글은 AI가 썼다”는 말은 “작성자가 맞춤법 검사기를 썼다” 정도의 정보밖에 주지 못함

  • minimaxir: AI 표시 기능은 이론보다 현실에서 훨씬 위험함. 소셜 미디어에서는 누군가 악의적으로 “AI?”라고 던지면 오탐으로 인한 소동이 벌어지고 원 작성자가 자신을 증명해야 함
    블로그 글은 인간 작성임을 입증할 구체적 방법도 부족하며 편집 이력 제출을 요구하는 것도 부당함. HN이 이 기능을 도입하면 득보다 실이 클 가능성이 높음

  • shantnutiwari: 반대함. HN 상위권 글마다 “이건 LLM이다”라는 댓글이 몇 개씩 붙는데, 이제는 “이 글이 싫으니 LLM일 것”을 대신하는 표현이 됨: https://news.ycombinator.com/item?id=48063759
    이런 댓글은 추천을 조금씩 받으니 게으른 카르마 농사처럼 느껴짐. 글 100개를 LLM이라고 몰면 한 번쯤 맞힐 수 있고, 점성술사처럼 그 한 번으로 성공을 자랑할 수 있음. 이런 저노력 댓글을 억제할 방법이 필요함

  • dawnerd: YC가 AI에 투자하는 만큼 그런 조치를 기대하기 어려움. 여기에는 그냥 굴복하고 받아들여야 한다고 보는 사람도 너무 많으며, 개인적으로는 가해자의 논리처럼 느껴짐

    • dang: https://news.ycombinator.com/item?id=48887149를 읽어 보고, 편집을 마친 뒤에도 이 답이 바뀌지 않는지 궁금함
    • xdennis: HN은 AI 댓글을 금지하고 있으므로 YC의 투자를 근거로 한 음모론적 추정은 특히 가치가 낮음

  • nunez: 한 달 전에도 같은 기능을 요청했음: https://news.ycombinator.com/item?id=48296731
    충분한 사용자가 AI 콘텐츠라고 신고하면 글 제목 끝에 [AI Generated] 표시를 붙이면 좋겠음

  • CM30: AI 생성 콘텐츠는 보통 직접 만든 작업보다 투자가 적으므로 표시가 유용하지만, 잘 처리할 방법은 불분명함
    온라인에서는 긴 대시를 썼거나 그림 속 손이 어색하다는 이유만으로 인간 작품까지 AI로 몰리는 마녀사냥과 오탐이 많음. 경계심이 강한 사용자들이 최악부터 가정하면 사이트 절반에 AI 표시가 붙을 수도 있음
    작성자가 자진 신고하면 신뢰와 독자를 잃으므로 거짓말할 유인이 크고, AI 탐지 도구도 오탐이 많아 믿기 어려움. 신고 사유로 AI 콘텐츠를 추가하되 일반 제출물에는 선의를 가정하고, 사이트 전체가 지나치게 편집증적이거나 제한적으로 변하지 않았으면 함

  • Debugreality: AI의 도움 없이는 세상에 나오지 못할 발상도 있음. 수십 년간 생각해 온 민주주의 구상을 최근 백서로 공개했는데, AI가 아이디어 확장과 문서 구조 및 본문 작성에 도움을 줬음
    학자가 아니라서 AI 없이는 완성하지 못했을 가능성이 크며, 머릿속에만 있다가 사라지는 것보다 공개되는 편이 낫다고 봄. 직접 쓴 학술적 문서가 더 좋겠지만, 대부분 AI가 작성했더라도 이틀 동안 모든 문단에 동의하는지 확인하고 문제를 수정했음
    품질을 판단할 때는 AI 사용 여부보다 투입된 인간의 노력을 보는 편이 적절함

    • Aachen: 구조를 잡는 데 LLM을 쓰는 것은 괜찮지만, 실제로는 초안을 쓰기 위한 동기 문제에 가깝고 LLM은 관심 있게 대화해 주는 상대 역할일 뿐임
      본문을 LLM에 쓰게 하기보다는 핵심 통찰만 직접 적은 버전을 훨씬 선호함. 여러 쪽의 문장에서 요점을 찾아 헤매고 싶지 않음. 특히 아이디어를 “살찌우는” 데 LLM을 쓰면 사람을 지루하게 만드는 가장 확실한 길임
      통찰을 장황한 문서로 만드는 작업은 법제화 단계에서나 필요함. “데이터를 어떻게 쓰는지 알려라”와 GDPR의 관련 조항을 비교하면 됨

  • lazyasciiart: [1997] 같은 제목 표식을 붙이면 어떨까. 독자가 관심을 가질 수도, 없을 수도 있는 콘텐츠지만 출처를 알면 다르게 받아들일 수 있음

    • sph: 가장 좋은 해결책 중 하나임. 제목 끝에 [AI]를 붙이면 되지만 AI 자체에는 정당한 용도가 있으니 아마 [SLOP] 이 더 적절할 수도 있음

  • teo_zero: AI 생성 글을 못 견디는 사람이 있듯 문법 오류를 못 견디는 사람도 있음. AI generated 표시가 생긴다면 lousy with mistakes 표시도 원하게 됨

  • DevKoala: 글이 유익하고 사실에 근거하며 편향되지 않았는지만 중요함. 어떻게 작성됐는지는 신경 쓰지 않음

  • thinkingemote: HN에서 원하는 글 상당수가 LLM에 관한 것이고, 그중 다수는 LLM으로 작성됨. 읽기 끔찍하고 영감을 주는 보석도 거의 없어 관련이 있으면 훑어보기만 하며, 진짜 가치는 대개 댓글에 있음
    LLM 문체를 쉽게 감지한다면 소비자용 LLM 이전의 AI 연구자와 창업자 논문도 살펴볼 만함. 그 문체가 현재 LLM 산문과 놀라울 만큼 비슷함

  • rddbs: AI가 쓴 글보다 AI 관련 글 자체를 숨기고 싶음. 이제 HN 콘텐츠 대부분이 AI 이야기처럼 느껴져 지침. 균형을 되찾게 해 줄 브라우저 확장 같은 방법이 궁금함

    • insin: 만든 HN 확장 기능에는 기본 AI 키워드·도메인 필터를 개인 필터와 분리된 토글로 제공함. 최근 모델 이름은 추가할 필요가 있음: https://soitis.dev/comments-owl-for-hacker-news
    • dijksterhuis: 정규식 필터를 쓰는 HN 복제 사이트나 AI로 AI 글을 감지하는 도구 등이 이미 나왔지만, 이런 스레드도 함께 걸러지는 등 완벽하지 않음
      직접 첫 단계로 첫 화면의 AI 관련 글을 모두 숨기고, 두 번째로 남은 흥미로운 글을 찾음. 요즘은 안타깝게도 남는 글이 없는 날이 많음

  • mattas: 이쯤 되면 not AI 표시를 추가하는 편이 더 적절할지도 모름

  • ramon156: 개인용 확장을 만들어, AI 생성 정보를 주로 올리는 사람을 내 피드에서 차단함. 개인적으로는 잘 작동하지만 전체 서비스에서도 유효할지는 모르겠음
    사람들이 직접 판단하도록 태그만 제공해도 충분할 수 있음. DeArrow와 SponsorBlock 같은 YouTube 관련 확장은 집단 참여 방식을 잘 구현함

    • arjie: 차단 목록을 공개했다면 받아 보고 싶음

  • cloudpilot: AI의 도움으로 앱을 만들었지만 메시지를 직접 작성했는데도 신고당함

  • jaredcwhite: AI 생성 텍스트는 아예 나타나지 않아야 한다고 강하게 믿음. 다만 명백한 LLM 흔적 외에는 입증하기 어렵고, 진짜 인간 작성의 증거를 요구하는 일도 쉽지 않음
    갈수록 정당하게 공유되는 글이라면 인간이 썼다는 전제가 성립하는 커뮤니티를 선호하게 됨

    • ldoughty: 인간이 초안을 쓰고 AI로 개선하거나 교정했다면 AI 생성으로 봐야 하는지, 두 경우를 어떻게 구분할지가 문제임. AI의 도움을 전혀 허용하지 않으면 완벽하지 않은 영어로 글 쓰기가 불편한 사람을 차별할 수도 있음
      원칙에는 동의하지만 공정하게 구현하기 어렵고 차별 위험이 큼. 오타를 고치고 편집 흔적을 남기면 오히려 인간처럼 보인다는 역설도 있음
    • stackghost: 정당한 공유물이 인간 작성이라는 전제가 성립하는 커뮤니티를 찾기 어려움

  • shahzaibmushtaq: AI는 인간 지능(HI)보다 우월하지 않으며 앞으로도 그럴 수 없음. 자신의 작업이 AI로 생성됐는지, 어느 정도 비율로 사용됐는지 밝히는 것은 저자와 작성자의 책임임

  • KingOfCoders: 글은 훌륭하거나 그렇지 않을 뿐임. 인간, AI, 고양이 중 누가 썼는지는 신경 쓰지 않음

    • pillmillipedes: AI나 고양이가 쓴 훌륭한 글의 예시를 보여 줄 수 있는지 궁금함

  • amelius: Unicode가 Latin-1 문자와 같지만 AI 도구 전용으로 예약된 코드 영역을 추가하면 좋겠음. AI 생성물에 일종의 고정 표식 비트를 남길 수 있음
    지금도 AI 회사가 ASCII 0x20 대신 특수 공백 문자를 쓰도록 요구하면 비슷하게 구현 가능하며, 생성 데이터를 다시 학습하는 문제를 피하는 데도 도움 됨

  • nickandbro: 순수 텍스트 글에서 긴 대시 개수라도 셀 것인지, 실제로 어떻게 강제할지 모르겠음. 목적에 맞춰 만든 AI 탐지기조차 오류가 매우 많음

  • warshinder: 먼저 댓글을 확인함. 누군가는 항상 AI 글인지, 읽을 가치가 없는지, 로딩되지 않는지 알려 줌
    초기 HN에서는 제출자가 접속 폭주를 피하는 데도 도움이 됐고, 유료 장벽이 있으면 누군가 보관된 버전을 댓글에 올려 줌

  • CqtGLRGcukpy: 누군가 AI 생성이라고 여긴 글이 실제로는 아닐 수 있으며, AI 판별기도 확정적으로 말할 만큼 신뢰할 수 없음

    • esjeon: 인간이 직접 쓴 글을 AI 생성이라고 부르면 심각한 모욕이 됨. AI 표시 기능이 생성 콘텐츠를 그대로 두는 것보다 커뮤니티에 더 큰 피해를 줄 수 있음
    • bakugo: 애매하면 작성자에게 유리하게 판단해야 하지만, 대부분은 그리 어렵지 않게 구분할 수 있음. 최신 코딩 특화 모델은 신중히 지시하지 않으면 독특하고 즉시 알아볼 수 있는 방식으로 글을 쓰며, AI 글을 읽느라 시간을 낭비하지 않게 해 준다는 점에서는 오히려 좋음
      현재 첫 화면 1위인 얄팍한 광고성 글이 좋은 예임: https://news.ycombinator.com/item?id=48884853

  • aryehof: 특정 인간의 관점을 AI 생성이라고 암시하는 것만으로 손쉽게 묵살하거나 침묵시킬 수 있게 될까 두려움

  • rdataguy: AI 생성 여부를 항상 쉽게 알아낼 수 없고 기능이 악용될 수도 있음. 그래도 집단지성이 충분한 양을 판별한다면 유용할 가능성은 있음

  • itsgrimetime: AI 글에 표시를 붙이는 데 반대하지 않지만, 작성 방식과 무관하게 내용 자체를 더 깊이 다뤘으면 함. 최근에는 제출물이 무엇을 말하는지보다 작성 방식만 보고 즉시 거부하거나 비판하는 일이 늘어난 듯함

  • Xotic007: AI 표시가 생기면 제작자가 피해야 할 명확한 탐지 목표만 제공하게 됨. 결과적으로 노골적인 AI 문체는 줄겠지만, 탐지를 우회하기 어렵지 않아 제작 노력은 거의 늘지 않을 것임

  • deevus: 직접 쓴 Show HN 글이 자동 중재에 걸렸음. 솔직히 거절 민감성이 자극돼 그 뒤로 HN에 글을 올리지 않고 있음

  • edoceo: 제출 글에 비추천 기능만 추가하면 되지 않을까

    • jagged-chisel: 이미 flag가 있음
    • JimsonYang: HN은 오랜 기간 활발히 활동한 회원에게만 제한적으로 비추천을 허용함. 긍정적 토론을 장려하려고 그렇게 설계했을 것임

  • Esophagus4: 참고할 만한 개념은 https://en.wikipedia.org/wiki/Evil_bit임

  • atomicthumbs: 기계가 쓴 글을 읽으라고 권하는 것은 상대의 시간을 존중하지 않는 행동임. 직접 쓸 만큼 신경 쓰지 않았다면 다른 사람이 읽을 이유도 없으므로 가치는 0임

  • mleroy: AI 콘텐츠를 추적해 신고하는 대신 작성자가 자발적으로 원본 콘텐츠임을 표시하게 하면 됨. 링크에 [Handmade], [Craft-Article], [Artisan-Thinking] 같은 태그를 붙일 수 있음

  • jeremyjh: 제출 글은 비추천할 수 없고, 아무도 직접 쓰지 않은 글을 읽는 데 거부감이 없는 사람도 많아서 일반 투표만으로 부족함
    글쓰기 외 과정에 상당한 노력이 들어갈 수 있으므로 AI 작성이라고 해서 가치가 없다고 단정할 수는 없음. 그래도 진정한 인간 간 소통을 존중하는 규범을 세우기 위해 불이익을 주는 쪽에 기움
    여러 용도로 AI를 많이 써서 생성 콘텐츠를 자주 읽는데, AI 특유의 목소리는 알아챌수록 더 거슬림. 내 프롬프트에 대한 답변과, 프롬프트·수정 횟수·인간 검토 여부를 전혀 모르는 글을 읽는 것은 크게 다름
    보통 인간이 쓴 글은 작성자가 독자보다 최소 5배의 노력을 들이지만, AI 글은 독자가 작성자보다 더 많은 시간을 쓰는지 알 수 없어 견디기 어려운 방해 요소가 됨

    • visarga: AI 특유의 단서가 보이면 나도 거슬리지만, 최종 글보다 10배 많은 내용을 직접 입력한 뒤 표현만 바꾼 경우도 AI 생성인지 애매함. 댓글에는 AI를 쓰지 않고 블로그에 올릴 긴 글의 형식을 정리할 때만 사용함

  • nyellin: AI 여부 표시를 도입하면 모든 글의 댓글이 AI가 썼는지, 어느 정도 썼는지를 따지는 논쟁으로 변할 것임. 내용 자체로 평가하게 두는 편이 낫다

  • lukasbm: 누구도 필터링하지 않은 챗봇 출력을 읽는 것을 좋아하지 않지만, 이를 확실히 탐지하는 것도 불가능함

답변달기
GeekNews BeeBS 게시판 오픈! 자유로운 이야기와 소소한 일상을 함께 나눠보세요.