GN⁺ 4시간전 | parent | ★ favorite | on: 뜨개질 헛소리(katedaviesdesigns.com)
Hacker News 의견들
  • 거의 모든 종류의 AI 생성 콘텐츠를 볼 때마다 이제는 깊고 울림 있는 슬픔부터 듦
    AI의 성장은 팔다리를 잃는 일처럼 느껴지기도 함. 처음엔 충격과 상실감, 빼앗긴 것에 대한 감각이 오고, 그 뒤로도 몇 달 몇 년 동안 사소한 일상과 마주칠 때마다 “아, 이것도 영원히 바뀌었구나”라고 깨닫게 됨
    매일 밧줄을 조금씩 더 내려보내는 어두운 우물의 깊이를 재는 느낌인데, 돌아오는 것은 거대하고 가늠할 수 없는 공허 속에서 의미 없이 흔들리는 감각뿐임

    • 오히려 반대로 비AI 콘텐츠를 더 소중하게 여기게 됨
      좋은 예술에는 이미 예술가인 사람이 AI를 매체로 쓸 때가 아니라면 재현하기 어려운 것이 있는데, 바로 의도성
      예를 들어 Floor796[0]을 보면 작은 디테일 하나하나가 중요함. AI로 개별 캐릭터나 전체를 만들 수는 있겠지만, 결국 아무 이유 없이 들어간 디테일을 발견하게 됨. 그걸 수동으로 지우거나 프롬프트와 입력 이미지를 바꿔도, AI는 계속 새 이상한 요소를 슬쩍 끼워 넣을 것임
      프롬프트가 길어질수록 모든 것이 더 의도적으로 바뀌고, 사실상 그 프롬프트 자체가 작품이 되어감
      [0] https://floor796.com/
    • 인터넷을 스스로 망가뜨린 자해적 상실을 영원히 애도하게 될 것 같음
      그 짧았던 찬란한 순간을 아예 겪지 않았으면 좋았겠다는 생각이 들 정도로, 이 상실을 극복하지 못할 것 같음. 그것이 계속 남아 있을 거라고 믿었던 어린 시절의 자신이 안쓰럽다
    • 가장 슬픈 건 사실상 아무도 신경 쓰지 않는다는 걸 깨달은 순간이었음
      세상에 진실이나 품질에 무심한 사람이 많다는 건 알았지만, 이렇게 많을 줄은 몰랐음
      특히 친구, 가족, 동료들 사이에서도 그랬음. 누군가는 이제 일상적인 연락에 AI 생성 문장을 보내고, 누군가는 자기 일을 홍보하려고 AI 생성 잡탕 이미지를 쓰고, 누군가는 아무 질문이나 ChatGPT에 던짐
      아름다움, 진실, 개인적 표현, 전문가 작업의 품질은 안중에 없고 오직 “이거 처리해줘” 기계에만 매달리는 느낌임
    • AI의 성장은 목적도 효용도 없어 보이는, 이상하게 뒤틀리고 설명할 수 없는 위치에 붙은 새 팔다리를 얻는 일처럼 느껴지기도 함
  • 경제학자 입장에서는 바로 묻게 됨. 이런 일을 할 금전적 유인이 어디에 있나? 프로그래머가 “스택이 뭐냐”고 묻는 것과 비슷함
    가능성은 몇 가지 있음. 1) 자금세탁: 대형 콘텐츠 팜이 실제로는 다른 수익원을 숨기면서 xyz만큼 매출을 낸다고 주장할 수 있음
    2) 광고 사기: 팟캐스트 차트나 검색 최적화 결과를 끌어올려 클릭을 유도하고 광고를 팔 수 있음. 봇 팜이 클릭을 만들어 가짜 광고 판매처럼 꾸밀 수도 있음
    3) 뜨개질 제품 판매 틈새시장을 장악하려는 시도, 혹은 장악한 것처럼 보이게 해서 나중에 사업을 더 높은 배수로 팔려는 시도
    4) 선거나 더 수익성 높은 분야로 옮기기 전에, 무해해 보이고 숨어 있는 주제로 1~3번을 수행하는 더 큰 엔진을 시험하는 것. 규제 측면에서도 어디까지 가능한지 보는 셈임
    이런 걸 만들 유인이 더 있다면 같이 떠올려볼 만함

    • 질문을 잘 모르겠음. 매주 수천 개의 팟캐스트를 AI로 생성할 금전적 유인이 뭐냐는 뜻이라면, 당연히 스트리밍 수익이나 광고 수익 아닌가?
    • 기사 읽어봤나? 인원이 300명에서 8명으로 줄었고, 하루 팟캐스트 수는 늘었으며, 청취자 수도 늘어난 것처럼 보임
    • 팟캐스트 네트워크는 이미 확립되고 검증된 사업 모델임. 에피소드를 만드는 데 돈을 쓰고, 광고로 돈을 범. 다양한 타깃층을 겨냥한 여러 팟캐스트를 만들면 더 넓은 청취자에게 닿고, 매출도 커지고 안정적이 됨. 복잡한 이야기가 아님
      잡탕 네트워크를 시작하는 구체적 유인은 제작비 절감으로 마진을 높일 수 있다는 약속과, 제작 시간이 줄어 더 빨리 성장할 수 있다는 약속임. 귀찮은 창작자들에게 돈을 줄 필요가 없고, 이론상 에피소드 하나를 듣는 데 걸리는 시간 정도, 혹은 그보다 짧은 시간에 만들 수 있음
      몇 년 전에 AI 잡탕 네트워크를 시작하는 걸 검토한 적이 있음. 당시 기술은 아직 준비가 덜 됐음. 동기는 훨씬 원초적이었는데, 그냥 숫자가 올라가는 걸 보고 싶었음
  • 아직 아무도 Gary Larson의 Far Side 만화 “Bullknitters”를 올리지 않았다는 게 스캔들임
    https://www.instagram.com/p/C2OQtokvzCa/
    또는 구글 이미지 검색으로 볼 수 있음

    • 관련해서 Four Yorkshiremen: https://www.youtube.com/watch?v=ue7wM0QC5LE
    • 개인적으로는 현재 최상단 댓글이 제목과 살짝 연결될 뿐인 오프토픽 참조라는 게 더 스캔들임
      기사 자체는 사실 뜨개질에 관한 글이 아님. 뜨개질은 저자가 AI 팟캐스트 세계로 끌려 들어가게 된 계기였고, 그 결과물이 내용 면에서 상당히 빈약하다는 걸 발견한 것에 가까움
      뜨개질이라는 단어를 거의 어떤 취미로 바꿔도 글은 거의 그대로 읽힘
      이 글은 영혼 없고 내용 없는 AI 팟캐스트 세계, 그리고 AI 출력물이 의미 있는 콘텐츠가 아니라 청취자의 감정을 확인해주는 방향으로 작동한다는 이야기임
  • 요약은 있는데 본문은 없는 현상이 흥미로움. 여러 형태로 봤는데 왜 그렇게 되는지 잘 모르겠음. 요약은 프롬프트에 강하게 묶이고, 나머지는 아닌 걸까?
    Reddit에서 이상한 봇들을 본 적이 있음. 누가 뉴스 기사 같은 것과 관련해 질문하면 어떤 계정이 답은 하지 않고 기사 일부를 요약한 듯한 답을 달았음. “그건 내가 물은 게 아닌데”라고 답하면 더 이상한 반응이 돌아왔음
    사람도 어느 정도 그런 식으로 행동하긴 하니 아주 이상한 일은 아니지만, Reddit에서 그런 계정이 갑자기 우르르 보였다가 사라져서 기억에 남음

    • 유인과 목표가 다르기 때문일 것 같음
      요약의 목적은 청취자가 팟캐스트를 시작하게 만드는 것임. 그래서 흥미로운 깊이가 있을 것처럼 약속해야 함
      일단 듣기 시작하면 본문은 다음 광고가 나올 때까지 사용자가 계속 듣게 만들 만큼만 편안하면 됨. 청취자가 충분히 주의 깊게 듣고 책임을 물을 정도가 아니라면, 그 약속을 실제로 지킬 필요가 없음
  • Kate Davies가 Hacker News에 등장할 줄은 전혀 몰랐음. 그녀가 뜨개질을 삶과 죽음의 문제처럼 말할 때는 배경을 조금 이해하는 게 중요함
    그녀는 젊은 나이에 뇌졸중을 겪기 전까지 18세기 문학 연구자였음[0]. 회복 수단으로 뜨개질에 집중했고, 이후 뒤돌아보지 않았음. 사업과 커뮤니티를 만들었고, 자신의 신체적·정신적 건강 상당 부분을 뜨개질 덕분으로 봄
    그래서 이 글은 창작 분야에 있는 누구에게나 울림이 있겠지만, 그녀는 잡탕 콘텐츠가 존재 자체에 실제 위험이 되는 특정한 유형의 사람을 대표함. 직업이 아니라 전 인격의 문제임
    잡탕 콘텐츠가 사물의 인간성을 몰아내고 헛소리 기계가 모든 콘텐츠를 채우는 세상에서, 그녀 같은 사람이 첫 번째 삶보다 더 나은 두 번째 삶을 세울 가능성이 얼마나 될까?
    0: https://katedaviesdesigns.com/2015/01/28/five-years-on-part-...

    • 놀라운 이야기임. 이런 자기 회복과 장기적 노력이야말로 우리가 공유해야 할 이야기임
      이런 대단한 인물을 두고, 솔직히 말해 인간 지적 발달에 반대 베팅을 하느라 세상이 그녀를 등지게 만든 것 같아 걱정됨
    • “직업이 아니라 전 인격”이라는 표현을 읽는 동안 그 문구가 거슬렸다는 사실이 너무 싫음
      표현 자체에는 아무 문제가 없고, 누가 썼든 직접 쓴 문장이라고 믿음
      짜증나는 건 멀쩡한 언어 구조가 너무 더럽혀져서, 한눈에 보는 것만으로 반사적으로 움찔하게 됐고, 괜찮은 표현이라고 의식적으로 해석해야 했다는 점임
  • 이 글의 모든 이미지는 “lovely knitting”이라는 단순한 두 단어 프롬프트에 AI가 응답해 생성한 것이라고 함. 절묘함

  • 70만+ 다운로드가 자연 유입이라고 믿어야 하나? 누가 이런 걸 다 듣고 있는 거지?

    • HN도 AI가 좋다거나 나쁘다는 AI 팜 글에 수만 조회를 보내고 있음. 그런 글들은 말 그대로 매일 첫 페이지에 올라감. 흥미로운 말은 없지만, 우리 중 많은 사람이 기존 믿음을 다시 읽어주는 걸 좋아함
      그러니 답하자면 우리 모두가 듣는 셈이라고 봄. 다만 청중마다 경계를 내려놓는 주제 묶음이 다를 뿐임
      생각을 요구하지 않으면서 똑똑해진 느낌을 주고, 일을 요구하지 않으면서 바쁘게 만들어주는 콘텐츠에는 거대한 시장이 있음. 본질적으로 나쁘다고만 말하려는 건 아님
      출퇴근길에 음악을 듣는 것도 비슷함. 다른 운전자에게 화내는 대신 즐길 수 있는 채움 콘텐츠일 뿐임. 인터넷이 그 공식을 무기화했고, 이제 AI는 그 핵무기 버전인 듯함
    • 팟캐스트 4천 개가 있고 매주 3천 개 넘는 에피소드를 내니, 에피소드당 약 250회 청취 정도임. 이 정도는 자연 유입으로도 달성 가능한 숫자임
      https://www.inceptionpoint.ai
    • McHealy의 논리대로라면 그걸 걱정할 필요가 없어야 함. 어차피 저위험 콘텐츠니까
    • 내 팟캐스트 앱은 실제로 듣는 것보다 훨씬 많은 에피소드를 내려받음
    • Twitter가 떠오름. 가끔 열어보면 보이는 콘텐츠의 절반은 AI 쓰레기임. 여기서 말하는 건 명백히 AI가 만든 저품질 콘텐츠임
      답글의 95%는 봇 응답이고, 심지어 대부분은 AI 기반도 아니라 그냥 쓰레기 같은 무관한 텍스트임
  • “이런 종류의 헛소리에서 가장 해로운 점 중 하나는, 어떤 형태의 비판적 검토든 감수성의 끔찍한 실패로 몰아간다는 방식이다”라는 문장이 정말 좋음
    아주 능숙한 헛소리꾼이나 조작의 달인들이 이 기술을 쓰는 걸 볼 수 있음. 엄밀함이나 검토를 요구하면 점잖은 깔봄 같은 반응이 돌아옴
    마치 예절을 어긴 사람처럼 취급받고, 그래서 이 기술이 강력함. 당황해서 물러서기 쉬워짐

    • 맞는 말임. 포럼에서도 이런 일이 벌어짐. 예를 들어 Kate가 뜨개질 헛소리에 반대하면, 흔한 전략은 Kate를 공격적, 과열됨, 과민반응 중인 사람처럼 묘사하는 것임
      Kate의 실제 논지는 다룰 필요가 없어짐. Kate는 콘텐츠를 올리는 게 아니라 갈등을 일으키거나 불행한 감정 상태를 겪는 것으로 판정해버리면 됨
      이 전략은 간접적으로 과로한 운영자에게도 도움이 됨. 이견을 벌주면 불꽃싸움이 줄어드니까
      Kate를 비판하는 사람들은 심지어 자신들이 Kate를 지지한다고 말할 수도 있음. 그저 그녀가 감정 과부하를 다루도록 돕고 싶을 뿐이라고 하면 됨
  • 글이 진행될수록 이미지가 점점 더 잡탕스러워지는 게 마음에 들었음
    다만 피해를 보는 중요한 집단 하나가 빠져 있음. 뜨개질에 대해 고품질의 진정성 있는 팟캐스트를 만드는 창작자들임. 그들의 진짜 콘텐츠가 잡탕 더미 아래 묻힘
    이론적으로는 추천 알고리즘이 좋은 것을 띄워야 하지만, 그게 유인과 맞아 보이지는 않음. 슬픈 일임

    • 나도 그 잡탕스러운 품질을 알아보고 좋게 봤음. “sloporific”이라는 말도 좋음
      중간에 잠깐 멈춰서 이미지를 이해해보려다가, 결국 일부러 점점 더 말이 안 되게 만든 것이라는 걸 깨달음
    • 더 나쁘게는, 그게 다시 AI 잡탕 기계에 입력될 수도 있음
  • 사람들이 거기에 얼마나 정성이 안 들어갔는지 깨닫고 이런 잡탕이 결국 사라지길 바람
    악마가 존재한다면 큰일은 직접 챙기고, 작은 악마 군단에게는 뜨개질에 대한 무감독 자동 팟캐스트 같은 일을 하게 해서, 삶의 지저분한 즐거움을 끈질기게 갉아먹게 할 것 같다는 확신이 점점 커짐

    • Good Omens 초반에 악마들이 최근 저지른 악행을 공유하는 장면이 있음. 몇몇은 살인이나 빙의 같은 “고전적인” 악마 일을 말하지만, 주인공 악마 Crowley는 교통체증 만들기 같은 더 현대적인 악행을 이야기함
      https://en.wikipedia.org/wiki/Good_Omens
      클립을 걸고 싶지만, 바로 그 점과 맞닿게도 어떤 악마가 찾기 엄청 짜증나게 만들어놨음
    • 오랫동안 AdSense 사업 모델은 결국 망할 거라고 생각했음. 사람들이 나만큼 광고를 싫어한다고 가정했기 때문임
      알고 보니 대부분의 사람이 어디까지 참는지에 대해 내가 틀렸음
    • 사라질 가능성은 정말 낮다고 봄
      이런 AI 팟캐스트의 가치 상당 부분은 청취자의 자기 확인에 있음. 이집트 양말과 Ravelry 사이에 아무 내용이 없어도 청취자에게는 별로 중요하지 않음. 배우는 게 아니라 기분 좋아지는 게 목적이니까
      또 오래전부터 뉴스 기사에 아무 상관없는 스톡 영상을 넣는 관행이 짜증났음. 특정 배를 이야기하면서 실제로는 그 항구에 가본 적도 없을 아무 배 사진을 넣어도 사람이 넘어갈 수 있다면, AI가 꼭 정확해야 할 이유가 있을까?
    • 콘텐츠가 이상한 방식으로 음악화될까 봐 걱정됨
      음악은 순전히 우리의 패턴 인식을 자극하는 것만으로도 기분을 좋게 만들고 몰입을 유지시킬 수 있음
      AI 영상과 사진도 비슷한 효과가 있어 보임. 진짜가 아니어도 좋은 인간 작업에서 나온 패턴을 충분히 인코딩해서 주의를 붙잡을 수 있음
      사람들에게 주의력 도피처를 제공하는 것만으로도 인터넷에서는 가치가 있음
    • 확실히 Good Omens의 Crowley가 맡을 법한 일임