▲

AI가 만들어내는 ‘Slop(조잡한 결과물)’이 두렵다

 (ezhik.jp)
2P by GN⁺ 2시간전 | ★ favorite | 댓글 1개
  • 인공지능이 지금 수준에서 멈추고, 사람들도 더 나은 품질을 추구하지 않게 될 가능성에 대한 두려움을 표현
  • 현재의 AI는 90% 완성된 결과물을 빠르게 만들어내지만, 나머지 10%의 완성도를 위해 노력하는 문화가 사라질 위험이 있음
  • ‘충분히 괜찮은(good enough)’ 제품을 그대로 출시하고, 이를 소비자들이 무비판적으로 받아들이는 현상에 대한 우려 제기
  • AI 도구들이 획일적인 결과물을 양산하며, 독창적이고 장인정신이 담긴 소프트웨어 제작이 점점 어려워지고 있음
  • 기술 발전보다 품질과 창의성의 쇠퇴가 더 큰 문제로, 개발자와 사용자 모두가 무관심해질 때 소프트웨어 장인정신이 사라질 수 있음

AI 발전의 한계와 ‘충분히 괜찮은’ 수준의 위험

  • AI가 지금 수준에서 멈춘다면, 웹 브라우저나 컴파일러를 거의 완성할 수 있는 모델은 존재하지만 완벽하지 않은 상태로 남게 됨
    • 자율주행차가 대부분의 상황에서는 작동하지만, 중요한 순간에 실패하는 것과 같은 불완전함을 예로 듦
  • 이러한 90% 완성된 결과물이 계속 양산될 경우, 나머지 10%의 완성도를 추구하지 않는 사회가 될 가능성에 대한 두려움 제시
  • 문제의 핵심은 AI 자체보다, ‘충분히 괜찮다’고 여기는 인간의 태도에 있음

‘Slop’과 소프트웨어 품질 저하

  • 글쓴이는 AI가 만든 조잡한 결과물(slop) 이 일상화되는 현상을 우려
    • AI가 만든 앱이나 콘텐츠가 ‘출시 가능한 수준’으로만 평가되고, 실제 품질에 대한 학습과 이해가 결여된 상태를 지적
  • AI 에이전트가 앱을 작성하더라도, 이를 관리하는 사람들이 결과물의 품질을 이해하지 못한 채 배포하는 상황을 문제로 봄
  • 이러한 흐름이 소프트웨어의 ‘dropshipping’화로 이어지며, IKEA 수준의 대량생산보다 더 저급한 결과를 낳는다고 표현

AI 도구의 획일화와 창의성의 상실

  • Claude 등 AI 모델이 새로운 기술 학습에는 도움을 줄 수 있지만, 결과적으로는 평균적인 ‘Next-React-Tailwind’ 스타일 앱으로 수렴함
  • AI 도구로 독창적인 앱(예: Paper by FiftyThree)을 만들려 해도, 결과는 평범하고 영감이 없는 형태로 귀결됨
  • AI는 정해진 경로를 벗어난 창작을 잘 처리하지 못하며, 이는 창의적 소프트웨어 제작의 한계로 작용

인간 중심의 문제와 산업 구조

  • ‘Slop’은 새로운 현상이 아니라, 이미 인간의 잘못된 의사결정과 인센티브 구조에서 비롯된 문제로 지적
    • 불편한 의자, SEO로 오염된 검색결과, 형편없는 UI 등은 모두 인간의 선택 결과임
  • “Move fast and break things” 문화 속에서 장인정신이 담긴 앱은 대기업의 무료 복제와 시장 파괴로 사라짐
  • AI 에이전트는 이러한 과정을 더 빠르게 반복할 수 있어, 좋은 소프트웨어의 순환적 소멸이 가속화됨

사용자와 개발자의 무관심

  • AI 도구가 사용자와 개발자 간의 간극을 줄일 수 있을 것이라는 기대도 존재
    • 예로, 회계 담당자가 만든 복잡한 Excel 시트나 TikTok에서 자동화를 구현하는 사용자들을 언급
  • 그러나 이러한 창의적 사용자들이 예외적 존재일 수 있으며, 대부분의 사람들은 기술 문제나 프라이버시, 품질에 무관심할 가능성 제시
  • 결국 ‘충분히 괜찮은’ 수준에 만족하는 사회가 된다면, 장인정신과 창의적 개발 문화는 사라질 수 있음
  • 글의 결론은 “우리의 기술적 장인정신이 죽어도 아무도 슬퍼하지 않을 것” 이라는 절망적 인식으로 마무리됨
▲
GN⁺ 2시간전  [-]
Hacker News 의견들

  • 생성형 AI 제품이 널리 쓰이게 되면서, 사람들이 세상을 역사적 맥락 속에서 보지 않는 게 아쉬움
    AI가 세상에 미치는 영향은 과거의 기술 변화와 유사하며, 세상의 작동 방식은 크게 달라지지 않음
    대부분의 제품과 서비스는 ‘충분히 괜찮은 수준’으로 기능만 유지한 채 품질을 희생해왔음
    하이킹 부츠처럼, 20마일만 버티면 되는 제품이라면 굳이 오래가는 걸 살 이유가 없듯이, 소프트웨어도 마찬가지임
    대부분의 사용자는 보안, 프라이버시, 유지보수성, 견고함 등에 관심이 없음
    이런 현실은 새롭지 않으며 앞으로도 계속될 것임

    • 대부분의 사용자는 이런 문제를 직접 겪기 전까지는 신경 쓰지 않음
      대규모 데이터 유출이나 글로벌 장애 같은 일이 터지면 그제야 분노함
      이런 것들이 바로 숨겨진 요구사항(hidden requirements) 임
      요구사항이 바뀌면, 20마일만 가는 부츠로는 35마일을 갈 수 없듯이, 소프트웨어도 한계에 부딪힘
    • 품질과 비용 사이에 거짓된 이분법이 있다고 느낌
      싸지만 오래가는 제품도 있고, 비싸지만 엉망인 프로젝트도 많음
      왜 처음부터 싸고도 품질 좋은 걸 만들 수 없냐는 의문이 듦
    • 고품질의 소량 생산 제품을 만드는 회사는 대부분 망함
      사람들은 자본 지출(capex) 을 원하지 않기 때문임
      집보다 비싼 차나 2000달러짜리 신발을 사고 싶은 사람은 거의 없음
    • 최소 요구사항을 가장 싸고 빠르게 충족하려는 자본주의의 본질이 결국 높은 생활 수준을 만들어냄
      예를 들어 Ford의 Model T는 제조비 절감을 통해 자동차를 대중화시켰음
    • 인쇄술, 산업화, 자동차, 인터넷 등 모든 범용 기술의 역사적 패턴이 비슷했음
      품질은 떨어졌지만 접근성이 폭발적으로 늘었고, 결국 새로운 균형점에 도달했음
      고품질은 경제적으로 정당화되는 틈새에서만 유지됨

  • 문명이 어떻게 변할지 두렵다는 생각임
    부유층은 더 부유해지고, 많은 사람은 일자리와 희망을 잃을 것 같음
    소득 없는 사회는 지속 불가능하며, 폭력으로 이어질 위험이 큼
    이를 막을 권력자는 거의 없다고 봄

    • “누가 막을 수 있을까?”라는 질문에 대한 답은 아무도 없음
      관련 참고 자료로 Douglas Rushkoff의 Survival of the Richest와 YouTube 영상을 제시함
    • Reinhold Niebuhr의 영상을 추천함
      어떤 것은 나빠지고 어떤 것은 좋아지며, 순감소나 순증가로 단정하기 어려움
      각 시대마다 해결해야 할 문제가 다름
    • 포퓰리즘의 부상은 폭력 없는 변화의 방식으로, 기존 질서를 바꾸려는 시도로 봄
    • 권력자들은 윤리나 통찰이 아니라, 행동하지 않을 때의 비용이 더 커질 때 움직임
    • 폭력을 피하기 위해 고도화된 로봇 개발 경쟁이 벌어지고 있다고 봄

  • LLM 기반 시스템에 대해 근본적인 우려가 있음
    하지만 이런 문제의식은 LLM 이전에도 존재했음
    과거의 오프쇼어링(해외 아웃소싱) 과 유사하게, 이제는 GPU 팜이 사람 대신 코드를 생산함
    단지 이번에는 민간 투자로 그 비용을 거의 0으로 만든 게 차이임
    결국 그 대가를 언젠가 치르게 될 것임

    • 과거에는 저임금 국가로 돈이 흘러가며 그 나라의 성장을 도왔지만,
      이제는 가장 부유한 국가로 돈이 집중되고 있음
    • AI 오프쇼어링의 비용이 0은 아님
      ChatGPT 같은 서비스는 구독료를 받고 있으며, 결국 인도 아웃소싱 수준의 가격대로 맞춰질 것임
    • “값싼 스파게티 코드”라는 표현은 인종적 편견을 담고 있어 부적절함
      코드 품질은 인종이 아니라 투자와 관리의 문제임

  • 생성형 AI는 산업화의 연장선에 있음
    가능한 한 빠르고 싸게 제품을 만들어내는 구조임
    “충분히 괜찮은 수준”이 표준이 되었고, 그 결과 품질 저하의 누적이 멈추지 않음
    시스템이 너무 커서 방향을 바꾸기 어려운 현실임

  • 스타트업 세계에서는 대부분이 장인정신보다 속도를 중시함
    “Move fast and break things” 같은 구호가 일상화되어 있음
    사실 대부분은 예전부터 마지막 10%의 품질에는 관심이 없었음

    • LLM 이전부터 소프트웨어 품질은 꾸준히 하락해왔음
      오히려 LLM이 버그 수정 속도를 높여줄 수도 있음
      과거엔 “사용자 통계 보니 아무도 신경 안 써”라며 고치지 않던 문제를 더 빨리 해결할 수 있음
      • 모든 성공적인 소프트웨어는 버그와 효용의 균형점을 찾음
        버그 0%는 거의 불가능하며, 사용자는 필요한 기능을 위해 일부 버그를 감수함
        LLM이 이 균형을 바꾸지는 않지만, 경쟁자들이 틈새 사용자층을 공략할 기회를 줄 수 있음
      • LLM은 근본적인 원인이 아니라, 이미 기울어진 시스템을 조금 더 가속시키는 역할임
      • 아주 작은 팀이 큰 앱을 낼 수 있다면, 오히려 품질 향상으로 이어질 수도 있음

  • “장인의 기술이 죽을까 두렵다”는 말에 대해,
    여전히 그 기술을 사랑하는 사람들이 있다면 그것은 죽지 않음이라고 생각함

  • LLM은 파레토 법칙의 구현체 같음
    1%의 시간으로 80%의 결과를 얻을 수 있다면, 나머지 20%는 아무도 신경 쓰지 않음
    이는 품질보다 소비를 극대화하는 문화의 약점을 드러냄
    이미 콘텐츠 팜과 같은 현상이 있었고, 지금은 그 종착점을 데이터센터의 낭비 속에서 보고 있음

    • 이런 관점에서 보면 데이터센터의 확장은 행성 규모의 자원 낭비처럼 느껴짐
      품질의 의미조차 잃은 문화를 가속화하고 있음
    • “품질은 중요함”
      그렇지 않다고 믿는 사고방식은 결국 스스로를 파멸시킬 것임
      다만 인간은 비합리적이라, 그 ‘결국’이 언제 올지는 알 수 없음

  • 미국은 “충분히 괜찮은 수준”에 더 관대함
    일본은 그런 제품을 아예 출시하지 않음
    예를 들어 Nintendo의 3D Mario 시리즈는 미국 스튜디오가 상상도 못 할 수준의 완성도를 보임
    Apple은 예외적으로 품질에 집착하지만, Microsoft는 “취향이 없다”는 평을 받음

  • LLM을 과도하게 사용하는 개발자들에 대한 현업의 불만이 큼
    LLM 코드 리뷰나 유지보수를 맡는 사람들은 비인간적인 코드 구조 때문에 업무가 몇 배로 늘어남
    “효율적”이라 착각하지만 실제로는 다른 사람의 시간을 낭비시키고 있음
    이런 상황이 끝나길 바람

  • AI가 일본 도메인을 사용하는 사람의 글이라면 흥미로움
    일본인은 품질에 대한 인내심이 높고, 미국인은 “충분히 괜찮음”에 만족하는 경향이 있음
    Grado 같은 고가 제품이 글루건으로 조립되어도 팔리는 게 그 예시임

답변달기