AI 시대의 가장 큰 아이러니: 인간이 AI가 만든 문제를 정리하기 위해 고용됨

• AI가 수많은 일자리를 대체하면서 동시에 AI가 만든 무의미한 결과물을 깨끗이 정리하는 새로운 사람 일자리가 증가함
• 생성형 도구 확산으로 저비용·고속 생산 콘텐츠가 폭증하면서, 품질 저하와 오류를 사람의 후편집·교정 노동으로 메우는 현상이 대두
• 텍스트·이미지·영상 전 영역에서 AI 슬롭(slop) 이 범람하며, 바이럴·검색·커머스 플랫폼을 통해 유통되는 구조적 문제가 고착화됨
• 점점 더 많은 작가, 디자이너, 개발자가 창작자 대신 '정리 인력' 으로 일하고 있음
• 업계는 멀티파트 교정·헤지 요청 같은 기술이 아니라, 인간의 맥락·정서·사실성 판단에 의존해 완성도를 끌어올리는 디지털 정화 노동을 늘리는 중
• 결과적으로 원창작자 채용을 대체한다는 약속과 달리, AI 산출물 보정이라는 새로운 비용과 번아웃 리스크가 창출됨
• 근본 해법은 인간-루프 설계와 품질 기준 재정립을 통해 도구로서의 AI 활용을 분명히 하고, 진정성·무결성 중심의 제작 문화를 복원하는 데 있음

---

AI가 만든 문제를 인간이 정리하는 시대의 아이러니

• AI가 수많은 일자리를 대체하는 한편, 동시에 AI가 만든 무의미하고 잘못된 결과물(슬롭, slop) 을 정리하는 데 인간을 고용하는 상황이 발생하여 새로운 직업군을 생성함
• 디자이너, 작가, 디지털 아티스트 등은 직접 창작하는 대신, AI가 만든 부정확한 산출물을 고치고 개선하는 일에 투입되고 있음

WHAT IS AI SLOP

• AI 슬롭은 스팸의 진화형으로, 겉보기 매력은 있으나 창의·의미·신뢰가 결여된 저품질 대량 콘텐츠를 의미함
  • ChatGPT, Midjourney 등 도구로 인해 질 낮은 콘텐츠가 대량 생성됨
  • 소셜 포스트, Amazon 전자책, Spotify 음악, 언론 기사, 심지어 학술지 이미지까지 다양한 형태로 확산됨
  • 이러한 콘텐츠는 겉보기엔 그럴듯하지만, 의미나 독창성, 신뢰성이 부족한 '공허한 칼로리' 와 비슷한 성격
• AI 영상의 값 하락으로 영상 슬롭도 범람하며, 갈매기가 자동차 유리를 깨는 영상 등 초현실 바이럴 사례가 다수 보고됨
  • 토끼가 트램폴린을 뛰는 CCTV 스타일 영상은 두 개의 머리나 중간에 사라지는 것 같은 오류도 많이 보임
• 기업 광고에서도 텍스트 왜곡이 발생해 Coca-Cola 로고 오탈자(“Coca-Coola”) 같은 사례가 관찰됨

HARMS OF THE AI SLOPOCALYPSE

• AI는 설득력 있어 보이는 저품질 기사·리뷰·포스트를 대량 생산해 정보 홍수 속 신뢰 붕괴를 가속함
• 온라인 비즈니스의 엔쉬티피케이션(Enshittification) 을 넘어, 문화의 엔쉬티피케이션으로 확장됨
  • 기존 창작자가 하던 예술, 음악, 영상, 책, 리뷰 등이 AI가 재활용·재생산하며 문화 자체가 저하
• AI가 산출물 만들 때 막대한 전력과 물을 소모해 환경 부담도 큼
  • 전력·수자원 소모가 큰 대규모 모델 운용은 환경 비용을 키우며, 정화 노동을 맡은 사람들의 좌절·번아웃을 초래
  • 2024년 더블린 유령 핼러윈 퍼레이드 사례처럼 AI 제작물의 오탈·난문이 대중을 오도한 사건도 있음
  • Frontiers 저널 철회 논문의 AI 생성 도해 사례는 학술 영역 오염의 경보라고 볼수 있음

CLEANUP CREW TO THE RESCUE

• AI 시대의 효율성 약속과 달리 인간이 보이지 않는 비용(정리, 품질관리)을 부담하는 구조가 되며, 사후 교정 전문 인력 수요가 급증
  • AI 콘텐츠 리라이터: AI가 쓴 글을 문맥, 감정, 사실관계를 보강해 다시 작성
  • 아트 픽서: AI가 만든 일러스트, 로고, 이미지의 비현실적인 부분, 글자 오류 등을 수정
  • 코드 디버거: Copilot, ChatGPT가 생성한 불완전 코드의 오류 수정 및 최적화
  • 영상 폴리셔: AI 영상의 물리적 오류나 자연스러움 결핍을 VFX 아티스트가 보정
• 이런 일자리 대부분은 협업이 아니라 수정·보정 중심의 노동이며, 사람의 진짜 창의성이 발휘되는 공간이 아님
  • Upwork·Fiverr·Freelancer 등에서 인간 주도 창작·교정 업무 수요가 증가 추세
• 예술가, 작가 등이 '디지털 환경 미화원'처럼 단순 정리 업무로 몰리며 창의성 상실 및 소진이 심화됨

진짜 아이러니와 해결책

• AI가 인간을 대체하는 것처럼 보였으나, 실제로는 AI의 미숙함을 보완하는 보조 인력으로 인간을 새로 고용하는 이중 구조가 됨
  • 사람이 AI를 사람답게 만드는 병행 경제를 형성하고, 일부는 창작자가 되었을 사람들이 ‘청소부’ 역할로 재배치되는 비극 발생
• 진짜 문제는 AI 그 자체가 아니라 품질보다 속도·물량·원가를 우선하는 인간의 선택에서 비롯됨
• 해결책은 AI 포기나 AI의 지능 향상이 아니라 인간의 현명한 사용과 관여에 있음
  • AI를 인간의 진정한 창의성과 공감이 결합된 도구로서 재정의해야 함
  • 인간이 중심이 되어야 하며, AI가 만든 결과물의 문제를 항시 정리해야 하는 구조로 흘러가선 안 됨
• 진정 위험한 것은 우리가 AI slop에 익숙해져 인간의 창조적 가치를 잊는 것임
  • 지금의 정리 인력은 임시방편이며, 장기적으로는 진짜 인간 창의성과 진정성에 기반한 기술 미래를 지향해야 함

[GN⁺]

Hacker News 의견

• AI가 인간을 대체할 거라고들 했지만, 실제로는 두 가지 현상이 있다고 생각함. 첫째, AI가 숙련 노동을 범용화하지 못했다는 점, 둘째, 미디어 문화가 희석되고 저하된다는 점임. 첫 번째 현상에 대해서는 BLS의 데이터 등 더 많은 지표를 기다리는 중임. 두 번째는, 새로운 미디어 범주가 등장했는데, 칩튠이나 '딥프라이드' 밈과 비슷한 느낌임

  • 실제 숙련 노동, 예를 들어 번역가·디자이너·카피라이터 같은 사람들은 중급 이상 레벨에선 여전히 필요함. 이런 사람들이 당장 대체되는 일은 없을 것이라서 공식 통계에 잘 드러나지 않음. 오히려 대체되고 있거나 신규채용이 이루어지지 않고 있는 건 인턴이나 주니어급 인력임. 이 정도는 AI가 꽤 많은 부분 해낼 수 있어서 그렇지만, 이런 변화도 공식적인 실업률 통계에는 잘 나타나지 않음. 채용공고 감소 정도만 볼 수 있는데, 그것도 경제 불확실성이나 국제 정세 등 여러 변수 때문일 수 있음. 결국 몇 년 지나면 미디어·크리에이티브 업계가 완전히 망가질 것임. AI 때문에 커리어 입구가 막히면 인턴이 없어지고, 주니어도, 중급·시니어도 점점 없어지는 결과가 올 것임. 마지막엔 15년 전 포토샵 만져본 양복 입은 사람들과 영업팀만 남게 될 것임

  • BLS의 공식통계가 신뢰할 만한 수준이 될지는 의문임. 트럼프 대통령이 자신이 싫어하는 실업통계 발표한 이후로 그 기관을 다룬 방식을 생각하면 더욱 신뢰가 떨어짐

  • 인간 창의력이나 설명력은 지금까지는 임의성을 잘 다루면서 구체성에 근접해 왔음. 그런데 이제 그 임의성의 자동화가, AI는 구체성을 위해 훈련된 게 아니기 때문에, 오히려 창의성의 첨단을 무디게 만들고 정말 세부적인 디테일은 점점 멀어지는 느낌임. 특히 인간이 AI의 출력을 타당하고 상세하다고 착각할 때 이런 퇴보 현상은 두드러짐. 미친 짓이지만 기술로 정상화되는 셈임

• 아이러니하지 않음. 공장에서 인간이 불량품을 골라내는 역할을 하는 걸 보면, 예전엔 그런 사람들이 애초에 제품을 직접 만들던 장인이었던 시절도 있었기 때문임

  • 공장에서는 불량품이 드물고 구분하기 쉬움. 그냥 버리면 되고 나머지는 기계가 계속 만듦. artisan보다 훨씬 빠름. 그런데 AI의 경우엔 같은 걸 반복해서 만드는 게 아니라서 문제 파악이 어렵고, 에러를 발견해도 일일이 직접 고쳐야 하고 결과적으로 다 버리고 처음부터 다시 해야 할 수도 있음. 결국 AI에 쏟은 시간과 노력 모두 낭비가 되고, 차라리 artisan에게 맡겼으면 더 좋았을 것임

  • AI가 지난 수 세기 대혁명이라고 홍보했던 것에 비해 참 허탈함. 결론적으로 우리는 아직 AI 시대에 진입하지 않았음

  • "공장에서 인간이 불량품을 골라내는 역할" 얘기를 봤을 때, 어떤 인도 아웃소싱 업체 사이트에 따르면 그곳 근로자들은 불량품을 골라내는 게 아니라 "정리(clean up)"하는 일임. 만약 공장에서 대부분의 제품이 불량이라 쉽게 골라낼 수 있다고 쳐도, 버리는 게 아니라 그걸 다 고쳐야 하는 상황이라고 가정해보면, 생산 과정에서 드는 에너지 비용은 막대해짐

  • 인간이 인간의 실수를 치우는 건 어디든 흔한 일임. 특히 소프트웨어 개발 쪽이 더 심함

• AI가 눈에 띄게 바꾼 첫 현장이 e-commerce라는 건 그리 이상하지 않음. 쇼핑몰 대부분은 핵심 제안 하나만 갖고 있고, 프레젠테이션은 별로 중요하지 않음. 2003년 홈페이지처럼 보이기만 안 하면 되고, 솔직히 2025년 매장 프론트가 어떻게 생겼는지 크게 신경쓰는 사람 거의 없음. 광고는 주목만 끌면 됨, 예술이 목적이 아님. AI가 뭘 잘하냐 하면, 보통 누가 봐도 괜찮을 정도로 평범한 걸 만들어내는 거임. 실제로는 아주 밋밋함. 음악, 그림, 글 전부 마찬가지임. 물론 상식적인 부분, 예를 들면 손가락이 여덟 개인 그림 같은 건 아직 해결 과제로 남아있지만, 그냥 수박 겉핥기 할 땐 AI가 만든 결과물을 진짜랑 거의 구분 못 할 정도까지 옴. 그래서 지금 시점에서 AI는 '거푸집' 생산을 잘하는 역할임. 예전엔 Lorem Ipsum이 텍스트 샘플이었다면, 이젠 모든 부분에서 그런 용도의 뼈대를 찍어내주는 셈임. 인간은 이렇게 AI가 뿌려놓은 기본에 개성을 더해줘야 함. 뭔가를 만들 땐 항상 리스크도, 결정도 필요함. 그 결정에는 취향이 들어가고, 누군가는 그걸 책임져야 함. 명백한 오류를 고치는 것도 있지만 궁극적으로는 각 상황에 맞게 그 뼈대를 맞춤 변형하는 과정이 중요함

  • 브래드 피트가 Rusty 역으로 했던 대사처럼 "네가 쓸 수 있을 땐 네 단어만 써. 서지 말고, 네 목표만 똑바로 봐. 기억에 남지 않을 정도만 구체적으로 말해. 웃기되 웃기게 하지는 마. 네가 옆을 떠나면 바로 잊혀질 만큼 딱 좋은 인상을 줘야 해. 그리고 정말 중요한 건... 어떤 상황에서도 절대, 절대..." (영화 <Ocean's Eleven> 인용임)

  • 쇼핑과 광고는 AI가 진가를 발휘하는 분야임. 성공 여부에 대해 피드백 신호가 명확함. 물론 이런 피드백 신호를 제대로 활용해야 하고, 단순히 LLM 출력을 아무 데나 갖다 쓰는 걸로는 부족함

• 결국 기존 컨설턴트와 달라진 게 별로 없음. 코드를 깔끔하게 만들고, 잡사이트 효율성을 만들어냄. 새로운 건 별로 없음. 다들 예측하던 사안임

• 마치 배움을 모르는 직원들을 관리하는 중간 관리자 역할이 생긴 듯한 느낌임

  • 중간 관리자가 에러 난 산출물을 고치는 역할을 맡는 건 본 적 없음. 오히려 시니어 개발자나 크리에이티브 선임 인력이 그 역할에 가깝고, 사실상 저런 역할은 일종의 하위 관리자와 다름없음

• AI가 약속했던 AGI에 도달하기도 전에, 이미 PKD의 단편 소설 'Sales Pitch'에서 나오는 slopocalypse처럼 모두가 정신이 나가버릴 것 같음. Sales Pitch (short story)

  • 오랜만에 그 소설을 다시 보게 됨. 다시 읽으면서 그 중에 이런 문장은 정말 소름돋았음: '“It’s too late to vid your wife,” the fasrad said. “There are three emergency-rockets in the stern; if you want, I’ll fire them off in the hope of attracting a passing military transport.”' 지금의 ChatGPT5랑 똑같다는 느낌임

• 가장 큰 아이러니는 그 아티클에 달린 유일한 댓글조차 AI가 쓴 댓글임

• 우리는 아직 AI 시대에 안 들어왔다고 생각함. 곧 도래할 것 같긴 하지만. LLM은 AI라고 할 수 없다고 느끼고, 기계학습이 더 실용적임. 미래에는 LLM이 진화할지, 아니면 사장될지 모르겠음

  • LLM은 기계학습의 한 애플리케이션이기 때문에 상호 영향을 주고 받는 구조임. LLM이 우리가 상상하는 단일한 AI는 아니지만, 언어 처리 부문에서 대단한 이정표를 세웠던 것만은 확실함. 예전엔 자연어를 처리하는 게 AGI의 대표 측정 지표 중 하나였음. 결국 시간 문제일 뿐, 앞으로는 인간의 오감을 모두 이해하고 학습하는 멀티센서리, 자기개조가 가능한 대형모델도 나올 것이라고 생각함. 인간에겐 없는 새로운 감각까지 다루는 모델도 있을 수 있음

  • 매번 달성 기준을 조금씩 뒤로 미루는 느낌임

• 우리는 이런 작업을 수십 년째 해오고 있음. 나는 20여 년 전에 음성 인식이나 OCR 프로그램을 수정·교육하는 일로 고용됐었고, 내 친구는 지오태그를 바로잡는 일을 했음. AI 시스템은 역사가 길고, 초기에는 사람이 직접 Prolog 규칙을 넣거나, 프로그래머가 ELIZA나 Generalised Problem Solver 같은 프로그램에 규칙을 일일이 코딩하곤 했음