Hacker News 의견들

• 얼마 전 부모님이 AI로 만든 가짜 유튜브 영상에 속았음. ‘인종차별 경찰’이 나쁜 행동을 하는 영상이었는데, 처음엔 나도 진짜처럼 보여서 헷갈렸음. 검색해보니 출처는 없고 재업로드만 있었음. 채널 설명에 “일부 영상은 AI로 재현된 실제 사건”이라고 써 있었지만, 전혀 믿기지 않았음. 이런 콘텐츠가 유튜브 광고 수익을 위해 분열을 조장한다는 게 너무 슬픔

  • 인종차별 콘텐츠는 수요가 공급을 초과함. 현실만으로는 분노를 유지하기 어렵기 때문에 이런 영상이 계속 만들어짐
  • AI 영상은 계정의 게시 이력만 봐도 티가 남. 너무 자주, 반복적으로, 주제나 배경이 일관되지 않게 올라옴. 기술이 발전해도 이런 패턴은 사라지지 않을 것 같음
  • 요즘 RealOrAI 서브레딧에 너무 많은 시간을 쓰고 있음. 틀릴 때마다 불안해서 더 많이 보고, 더 잘 구분하려고 함. 하지만 이제는 진짜와 가짜를 구분할 수 없는 현실을 받아들여야 할지도 모름
  • 사실 이런 걱정은 새롭지 않음. 예전에도 조작된 사진이나 맥락 없는 영상으로 분열을 일으키는 건 흔했음. AI는 단지 그걸 더 쉽게 만든 것뿐임
  • Google이 AI 콘텐츠가 포함된 영상을 자동으로 표시해줬으면 좋겠음

• “소셜 네트워크가 아니다”라는 말에 완전히 공감함. 예전엔 ‘소셜 미디어’가 현실 친구들과 교류하는 공간을 의미했는데, 지금은 Reddit 같은 포럼까지 다 포함하는 말이 되어버림. 그 결과, 진짜 사회적 교류의 공간은 거의 사라졌음

  • 지금 그 역할을 하는 건 Discord임. 초대 기반 커뮤니티라서 공공 피드가 없고, 실제 사람이 직접 모더레이션함. 예전 IRC 친구들도 다 Discord로 옮겼음. 언젠가 상장되면 대체재로 Matrix 같은 걸 쓸 것 같음
  • 원래 “social media”는 친구들과 직접 콘텐츠를 공유하는 네트워크였음. 하지만 Facebook이 ‘리쉐어’ 중심으로 바꾸면서, 이제는 친구 소식보다 랜덤 콘텐츠 소비 플랫폼이 되어버림. HN은 친구 기능이 없으니 그냥 포럼에 가까움
  • TikTok이나 Instagram도 ‘소셜’이라 부르지만, 대부분은 아무것도 올리지 않음. 그냥 미디어 소비 플랫폼일 뿐임
  • 사실 나도 Discord를 안 써봐서 잘 모르겠음. 그냥 IRC를 기업이 운영하는 버전처럼 보여서, 왜 그렇게 인기인지 이해가 안 됨
  • Meta가 밝히길, 사용자의 10% 미만만 실제 아는 사람과 상호작용한다고 함. 지금의 소셜 미디어는 ‘스크롤 엔터테인먼트’일 뿐임

• ‘em dash(—)’를 아무도 안 쓴다는 건 오해임. 나는 예전부터 자주 써왔음. “you’re absolutely right” 같은 표현도 친구들끼리 비꼬는 농담으로 자주 씀. 영국에서 자란 우리끼리는 자연스러운 표현임

  • 요즘은 좋은 타이포그래피만 써도 LLM이 쓴 글로 오해받는 게 짜증남. 난 예전부터 en dash, em dash를 써왔음. Compose key를 쓰면 입력도 쉬움
  • em dash 자체가 문제는 아님. 영어가 모국어가 아니라서 블로그 쓰며 연습했는데, 띄어쓰기 여부에 따라 인상이 달라서 여러 방식으로 써봤음. 결국 대부분의 사람은 일관되지 않음. 너무 완벽한 문법을 쓰는 사람이면 오히려 AI일 가능성이 높음
  • 영국식 예의 때문인지 “you’re right, but…” 같은 표현을 자연스럽게 씀
  • 우리 서점 뉴스레터에서도 em dash를 씀. 세미콜론보다 시각적으로 깔끔하고, 문장 구분에도 유용함
  • iOS에서는 “-” 키를 길게 누르면 쉽게 입력돼서 자주 씀

• 이미지가 AI로 생성됐는지 확인하는 간단한 방법이 있음.

  • OpenAI는 C2PA 메타데이터를,
  • Gemini는 SynthID 워터마크를 사용함.
  • SynthID는 이미지뿐 아니라 텍스트에도 적용되고, 코드도 공개됨
  • 하지만 이미지2이미지 모델로 노이즈를 추가하거나 제거하면 SynthID도 지울 수 있음
  • 실제로 OpenAI 블로그의 이미지도 검증 사이트에 올려봤는데 메타데이터가 없었음. 이런 점은 신뢰를 떨어뜨림
  • 다만 C2PA의 목적은 ‘진짜임을 증명’하는 것임. 모든 콘텐츠를 검증할 수는 없지만, 인증된 이미지는 법적 증거로도 쓸 수 있음

• 지금의 문제는 결국 플랫폼 인센티브 구조 때문임.

  • YouTube는 조회수, LinkedIn은 자기 PR, HN은 스타트업 홍보가 동기임.
  • 인간 간의 순수한 상호작용만 존재하는 AI가 쓸모없는 커뮤니티를 만들 수 있을까?
  • 아마도 소규모 친구 그룹 정도가 유일한 해답일 것 같음
  • 예전엔 무료 phpBB 포럼이나 IRC에서 똑똑한 사람들과 대화할 수 있었음. 하지만 운영비와 모더레이션 부담이 컸다는 걸 이제야 깨달음
  • 이런 커뮤니티는 던바의 수(Dunbar’s number) 로 제한되어야 함. 그 이상 커지면 규칙과 관리자 없이는 유지 불가함
  • 요즘은 부정확한 영상도 결국 조회수와 광고 수익으로 이어짐. 플랫폼은 책임지지 않음
  • 광고를 완전히 금지하고, 글로벌 피드 없이 친구 중심 피드만 보여주는 구조라면 가능할지도 모르지만 UX는 나빠질 것임
  • 결국 문제의 근원은 광고 기반 인터넷 모델임. 트위터의 문제도 엘론 머스크보다 이 구조적 한계가 더 큼

• 오픈소스 코드를 공개할 때 AI 사용 여부를 밝힐 의무는 없다고 생각함. 그런 요구는 창작 의욕을 꺾을 뿐임. 사람들은 자신이 쓴 코드를 공유하고 싶지, ‘AI 안 썼다’는 증명을 하고 싶진 않음

  • 하지만 어떤 경우엔 작성자가 “AI 안 썼다”고 계속 주장하면서도 코드에 AI 생성 흔적이 남아 있어서, 마치 가스라이팅당하는 기분이 들기도 함

• AI를 금지한 소셜 미디어 플랫폼이 있을까 궁금함. 이미지 메타데이터나 사용자 행동 분석으로 막을 수 있을지도 모르겠음

  • 그런 플랫폼이 생기면 적대적 학습(Adversarial training) 의 천국이 될 것임
  • Bluesky는 공식적으로 금지하진 않지만, 커뮤니티가 AI에 매우 적대적이라 거의 없음
  • 새로 부활하는 Vine은 AI 콘텐츠를 명시적으로 금지할 예정이라고 함
  • Mastodon.art 같은 곳은 AI를 명확히 금지함
  • 결국 사회적 압력만으로도 AI를 막는 커뮤니티가 존재할 수 있음

• 언젠가 온라인 콘텐츠가 전부 AI로 만들어지면, 인간이 현실을 다시 찾게 될 것이라 기대함

  • 이미 그런 변화가 조금씩 있음. 예전엔 “사진 없으면 안 믿어”였는데, 이제는 사진도 조작 가능하니 진짜 추억용 사진만 찍음
  • 하지만 오히려 많은 사람들이 AI와의 상호작용으로 만족하게 될 가능성도 큼
  • 지금도 휴대폰을 못 놓는데, AI가 최적화된 콘텐츠를 만든다면 더 빠져들 것임
  • 그래도 그 생각 자체는 참 따뜻함

• 이제는 우리가 튜링 테스트를 넘어선 시대에 있음. 인간과 AI를 구분 못 한다면, 그건 AI가 똑똑해진 게 아니라 우리의 온라인 대화가 피상적이기 때문일 수도 있음

  • 하지만 진짜 튜링 테스트는 단순히 속는 게 아니라, 대화형 검증자(interrogator) 가 구분 못 해야 함. 지금의 LLM은 그 수준엔 아직 못 미침
  • 텍스트는 정보량이 적고, ‘사람이 썼다’는 신뢰감이 있어서 쉽게 속음. 그래서 텍스트 기반 AI가 특히 위험함. 나도 요즘 전화 통화 중에 상대가 사람인지 로봇인지 헷갈릴 때가 있음
  • 결국 “한쪽 손에는…” “다른 한쪽 손에는…” 식의 균형 잡힌 시각이 필요함

• 나는 ‘카펫 효과’ 라고 부름. 완벽하게 정렬된 영상이나 대화 구조를 보면 인위적인 느낌이 남. 모로코 카펫처럼 일부러 불완전함을 남겨야 인간적임. 하지만 이런 ‘티’도 곧 사라질 것 같음