AI를 추가하는 모든 앱이 이렇게 보입니다

• AI 기능을 붙인 앱들이 거대한 스플래시 화면과 모호한 입력창으로 기대를 키운 뒤, 실제 결과물에서는 실망을 주는 흐름을 풍자함
• 기업들이 AI 기능을 경쟁적으로 내놓는 배경에는 투자 열기와 모방 논리가 있으며, 인용된 Inc 글은 seed 단계 회사가 피치덱만으로 1억~1억5천만 달러를 조달하는 상황을 우려함
• 비판의 초점은 AI 자체가 아니라 AI 마케팅에 있으며, Google처럼 제품 전반에 AI를 쓰면서도 과시하지 않는 사례와 대비됨
• Canva의 “Magic Design”과 Beta 표시는 낮은 품질의 결과물을 “magic”으로 포장하는 방식으로 비판받음
• “AI-enabled assistant” 같은 문구는 오히려 신뢰를 떨어뜨릴 수 있으며, AI라는 단어를 피하는 옵션에 돈을 내겠다는 강한 거부감으로 이어짐

---

AI 기능 온보딩의 반복되는 패턴

• AI를 추가한 앱은 먼저 큰 스플래시 페이지로 사용자를 끌어들임
• “get started”를 누르면 전 지구가 사용자의 “aha” 순간으로 밝아진 듯한 이미지가 나오고, 모든 것이 바뀔 것 같은 기대가 만들어짐
• 다음 단계에서는 사용자의 작업을 설명하라고 요구하지만, 무엇을 어떻게 입력해야 하는지에 대한 안내는 부족함
• 예시 프롬프트도 “새로운 인터넷에 대해 사람들이 기대하게 만드는 마케팅 캠페인을 만들고, 마스코트와 캐치프레이즈를 포함하라”는 식으로 과장됨

AI 붐과 모방 경쟁

• AI 기능 출시 경쟁은 race to the bottom으로 다뤄짐
• 기업들은 다른 회사가 AI를 만들고 hype를 얻는 모습을 본 뒤 같은 흐름에 올라타려 함
• 명상 앱을 빗댄 예시는 Calm.com의 “하루 10분 명상” 대신, 로봇이 대신 명상하고 배운 교훈을 알려주는 “Headspace AI” 같은 식의 과장을 사용함
• 인용된 Inc 글은 AI가 투자자에게 여전히 매력적이지만 과열·과투자·과대평가된 영역이라고 전함
  • Acadian Ventures의 Jason Corsello는 seed 단계 회사가 피치덱만으로 1억~1억5천만 달러를 조달하는 상황을 우려함
  • Ohio State University의 Oded Shenkar는 골드러시에서는 모방이 늘어나며, 스타트업을 항상 혁신가로 보는 것은 흔한 오류라고 말함

AI를 잘 쓰는 앱과 AI를 앞세우는 앱

• 모든 AI 사용을 부정하지는 않음
• Google은 제품 전반에 AI가 들어가 있지만, 새로 산 불빛 나는 신발을 자랑하는 아이처럼 AI를 내세우지 않는 사례로 대비됨
• 반대로 Canva는 “Magic Design (TM)”을 홍보하고 Beta 표시까지 붙인 사례로 비판받음
• Beta는 기술 업계에서 “별로다”를 돌려 말하는 표현처럼 풍자됨

“Magic”이라는 포장에 대한 거부감

• AI 결과물을 “magic”이라고 부르는 마케팅이 핵심 비판 대상임
• 생성된 “fairy cat” 이미지는 기대한 멋진 결과가 아니라, LSD와 speed를 한 나무 요정이 컴퓨터처럼 그린 듯한 결과로 묘사됨
• 진짜 magic의 예시는 사람들을 놀라게 하는 마술 장면이며, AI 마케팅의 “magic” 표현과 대비됨

앱 마케팅에 대한 실질적 반응

• 웹사이트에서 “now with AI-enabled assistant” 문구를 보면 앱을 피하고, 컴퓨터를 창밖으로 던지고 싶을 정도로 거부감이 커짐
• 앱에 AI라는 단어가 보이면 전체 시스템이 “AI-disease”에 오염되어 다시는 괜찮게 쓸 수 없다는 식의 과장된 반응으로 이어짐
• AI라는 단어를 앱 어디에도 쓰지 않는 옵션이 있다면, 그것을 프리미엄 티어로 구매하겠다고 말함
• 이름 Alex가 친구들에게 Al로 불린다는 개인적 농담을 덧붙이며, “AI Magic”이 자신이 마법이거나 자신의 마법을 앱이 쓰는 것처럼 보인다고 마무리함

[GN⁺]

Hacker News 의견들

• 개인적으로 잠깐 화제가 됐던 작업: https://meat-gpt.sonnet.io
  트래픽의 상당수는 이걸 진짜 프로젝트라고 믿는 사람들에게서 오는데, AI 도구 카탈로그들이 내 AI 제품에 대한 소개 문구를 계속 환각해내기 때문임
  상을 받을 뻔했지만 3D 회전 샌드위치 사이트에 졌고, 그래도 스타트업에서 비프 저키 제작으로 전환한 사람을 만나 “meatverse”라는 작고 배타적인 커뮤니티가 생김
  https://butter.sonnet.io도 만들었는데 사람들이 돈을 내겠다고 했고, 중세 콘텐츠 농장에 흑자체 네이티브 광고를 붙여 수익화해야 할지도 모르겠음: https://tidings.potato.horse

  • 아이러니하게도 Butter는 정말 멋지고, 생성형 AI가 지속 가능하게 잘하는 일과 정확히 맞음: 사용자를 대신해 많은 텍스트, 여기서는 영상 자막을 읽고 구조화·비구조화된 통찰을 뽑아 더 풍부한 경험으로 이어지게 하는 것이라 나도 돈을 낼 듯함
    https://github.com/paprikka/butter/blob/main/src/watcher/detector.ts#L10-L33
    다만 원 글의 요지, 그리고 아마 meat-gpt의 요지는, 앱이 시작부터 사용자에게 실시간으로 비정형 텍스트를 잔뜩 넣으라고 요구하면 좋게 봐도 성가시고, 멋진 걸 가리키고 변화하는 걸 보고 현실의 사람들과 공유하고 싶어 하는 본능과도 어긋난다는 것임
    AI는 타이핑과 읽기, 무관한 광고 시청을 줄이고, “오오오” 할 만한 관련 있는 걸 보는 시간을 늘려줄 때 훌륭함
  • 프로젝트들이 훌륭하고 작업도 대단함
    다만 여기서는 .horse를 다시 떠올리게 해줘서 반가움. 대학 시절 친구들과 도메인을 마구 사서, 임의 이미지가 반복 배경으로 깔린 정적 페이지를 올리던 때 이후로 못 봤던 기억이 남
  • 이 프로젝트들의 UI가 마음에 들고, 미니멀한 미감이 좋음
    괜찮다면 기술 스택이 궁금함. 프런트엔드는 Svelte처럼 보임
  • 그 중세 콘텐츠 농장을 좋아하고 싶었지만 글꼴이 가짜임
    제대로 된 긴 s인 ſ조차 쓰지 않음: https://en.wikipedia.org/wiki/Long_s
  • meat-gpt도 멋지지만, 그걸 이긴 3D 회전 샌드위치 사이트가 더 보고 싶어짐
    혹시 링크가 있나?

• Douglas Adams의 Dirk Gently에 나오는 Electric Monk가 떠오름
  “Electric Monk는 식기세척기나 비디오 녹화기 같은 노동 절약 장치였다. 식기세척기는 지루한 접시를 대신 닦아주어 직접 설거지할 수고를 덜어주고, 비디오 녹화기는 지루한 텔레비전을 대신 봐주어 직접 볼 수고를 덜어준다. Electric Monk는 당신을 대신해 믿어주어, 세상이 당신에게 믿으라고 요구하는 모든 것을 믿는 점점 더 부담스러운 일을 덜어준다.”
  그런데 이 Electric Monk는 고장이 나서 거의 무작위로 온갖 것을 믿기 시작했고, Salt Lake City에서도 믿기 어려울 만한 것까지 믿기 시작했다는 대목이 특히 맞아떨어짐

  • “Headspace AI를 써보세요. 로봇 중 하나가 당신을 대신해 명상하고 배운 교훈을 알려드립니다”를 읽자마자 Electric Monk가 떠올랐음
    이상하게도 기억 속에서는 그게 텔레비전을 대신 봐주는 장치였던 것 같았음

• 기술 업계의 과장 열차는 다단계 판매의 음습한 세계와 똑같이 존재함. 과거 고객들 때문에 그쪽 경험이 꽤 있음
  무엇을 파는지는 중요하지 않고, 그 과장 열차가 충분히 많은 사람을 지나가서 자기 “투자”를 현금화할 수 있느냐가 전부임
  각 투자 라운드는 이전 참여자들의 현금화이고, 마지막 라운드는 IPO라서 잘 모르는 대중이 빈 봉지를 떠안게 됨
  다단계 피라미드처럼 제품이나 서비스가 일부 사람에게는 가치가 있을 때도 있지만, 실제로는 필요 없는 대다수에게까지 팔림
  몇 년 전에는 사업계획서 어딘가에 BLOCKCHAIN을 넣어야 했고, 지금은 AI를 넣어야 함. 사람들은 이해하지 못하거나 상상 속인 것에도 흥분하니 그냥 꿈을 팔아도 되지만, 자기 과장에는 속지 말아야 함

  • 정확함
    닷컴, 클라우드, 지금의 AI까지 세 번의 과장 열차에 올라탔고, w3/암호화폐는 놓쳤음
    그런데 미국이나 세계의 다른 분야에서는 이런 과장 열차를 본 적이 별로 없음

• Fortune 500 기업에서 일하는데, 우리 고위 기술 임원 중 한 명이 Business Insider의 AI 분야 Top 100에 올랐음
  우리 회사에는 AI를 쓰는 제품이 없고, 실제로 AI와 가장 가까웠던 일은 GitHub Copilot을 아주 작게 시험해 본 정도임

  • 15년 전 아프리카 NGO 프로젝트에서 함께 일한 사람이 있었음
    그 프로젝트들은 시제품, 개념 검증, 테스트 중이거나 소규모였고, 그 사람도 솔직히 말보다 실행을 잘하는 관리자는 아니어서 실제 기여는 별로였다고 봄
    그런데도 다음 해 Time 매거진의 Top 100에 “수백만 아이들을 구했다”는 이유로 올랐고, 그때 미디어의 실체를 깨닫게 됨
  • 회사가 드러날 수 있겠지만, 가능하다면 그 목록에 포함된 이유로 어떤 소개 문구가 붙었는지 궁금함
    진짜 이유는 “Business Insider에 인맥 좋은 홍보 담당자가 있었다”겠지만, 겉으로 내세운 허울 좋은 이유가 뭔지 알면 꽤 드러나는 게 있을 듯함
  • 그런 목록들은 다 마케팅 활동 아닌가?

• “취약한 개인 에세이를 통해 주 2회쯤 전달되는 터무니없고 솔직한 코미디, 이메일을 입력하세요…” 팝업이 우연히 두 번째 이미지의 “무엇에 막혀 있나요” 프롬프트 위에 겹쳐 떴음
  한동안 그게 그림 일부가 아니라는 걸 알아채지 못했음. 적어도 가상의 AI 페이지는 개인정보를 요구하기 전에 뭔가 클릭하게는 했음

  • Substack 페이지마다 스크롤을 내리면 멍청한 모달이 뜨는 걸 봤고, 너무 짜증나서 가능하면 피하게 됨
    자동으로 닫아주는 Chrome 확장 프로그램 같은 걸 생각 중이지만, 지금은 대부분 클릭할 가치조차 없다고 느껴짐
    인터넷이 모든 모달에 대해 훈련시킨 그대로, 읽지도 않고 즉시 닫음. 내 관심을 원하면 읽고 있는 본문 안에 행동 유도 문구를 넣으면 됨
    콘텐츠 중간에 이메일을 달라는 모달을 띄우는 건, 콘텐츠를 소중히 여기지 않고 내 정보를 얻으려고 썼다는 신호처럼 보임
  • 나도 그랬음. 저자가 Substack에서 숨 가쁘게 자기 홍보하는 사람들을 두고 자기인식적 농담을 하는 줄 알았는데 아니었음
  • AI를 훈련해서 “continue reading” 링크를 자동 클릭하게 해야겠음

• 회사들이 뭐가 붙는지 보려고 쓰레기를 벽에 던지는 식으로 잔뜩 시도하고 있고, 이상하게도 투자자들이 여기에 보상하고 있음
  LLM으로 유용한 기능을 만들 수 있는 건 분명하지만, 먼저 회사들이 깨달아야 할 게 있음
  제품 위에 LLM 프런트엔드 하나 얹는 것보다 더 많은 노력이 필요하고, 아마 화려한 “파괴적” 기능도 아닐 것임
  사용자 경험을 5%만 더 쉽고 효율적으로 만들어도 엄청난 가치지만, 그 정도만 하는 기능을 AI 인플루언서들이 숨 가쁘게 팔아주지는 않음
  무엇보다 해결책을 생각하기 전에 풀 문제부터 생각해야 함

  • 반대로 봐야 할 듯함. 투자자들이 뭐가 붙는지 보려고 AI에 돈을 잔뜩 던지고, 기자들이 뭐가 붙는지 보려고 AI에 관심을 잔뜩 던짐
    회사들은 그 판에 올라타기가 얼마나 쉬운지 깨닫고 있음
    최근 스텔스 모드에서 막 나온 스타트업의 엔지니어링 책임자와 한 시간 넘게 일, 시장, 기술적 난제, 팀 구조를 이야기했는데 AI는 한 번도 나오지 않았음
    그런데 웹사이트에 가보면 “고급 AI로 당신의 _____를 초강화”한다는 문구로 가득함
  • 스타트업 모델 자체가 빠른 실험으로 뭔가 벽에 던져 붙는지 보는 것 아닌가?
    벤처 캐피털에서 “벤처”라는 말도 그런 의미에 잘 맞음
    솔직히 이게 작동하는 다른 방식이 있는지 모르겠음
  • 멍청한 돈의 단계를 지나 수익성과 검소함의 단계로 온 줄 알았음
    아직 태울 돈이 더 있나 봄
  • 금광이 있고 모두가 지분을 차지하려고 몰려든다면, 누가 가장 성공할지 예측하기는 불가능함
    결과가 불확실하니 금광에서 실제로 움직이는 누구에게든 투자하는 전략을 쓰게 됨
    물론 실제로는 네트워크 효과가 앞서서, 알고 있고 부를 만들어낸 실적과 역량이 있는 사람에게 투자하는 쪽을 선호할 것임
    그래서 금광에서 적극적으로 움직이고 투자자에게 보상받는 것 자체는 잘못이 아니며, 꽤 명확한 합리성이 있음
  • 모든 과장 주기에서 벌어지는 일임
    1년쯤 전의 메타버스, 그 전 몇 차례의 암호화폐 헛소동, 그리고 그 전에는 오랜 친구 AI가 있었음
    모든 게 벤처 자금을 받으려고 AI 챗봇인 척하던 짧은 시기가 있었고, 그 마지막 AI 거품은 Microsoft Tay 출시와 함께 거의 죽었음

• AI 과장에 대해 느끼는 감정이 정확히 이럼
  “AI” 분야에 꽤 오래 있었는데, 과장은 도구의 유용성과 비용 양쪽 모두에 대해 완전히 비현실적인 기대를 만들기 때문에 해로움

• “하이 식스 해줘”는 좋은 농담임. 신경망이 그럴듯한 손을 생성하는 데 악명 높게 약하다는 점을 생각하면 더 그렇음

  • 세 손가락이 나온 미래 수정구슬 그림이 완전히 확인 사살함
    저자와 똑같이 느낌. 앱에 “AI”를 붙이는 건 이번 달 위자료를 내려고 얼른 불량품을 팔고 싶어 하는 싸구려 영업사원이라는 신호처럼 보임
    기계 학습 자체는 괜찮고 유용함. 하지만 “그 위에 LLM 하나 붙여”는 고통스러울 정도로 둔함
    이제 모든 기술 제품과 서비스가 그러고 있으니, 완전히 암호화폐 열풍이 다시 온 것 같음
  • 나도 웃었지만, Civitai의 최신 SDXL 모델들을 봤다면 손과 손가락 문제는 꽤 고쳐졌음
    최근 생성 이미지 중 일부는 상당히 현실적임

• AI 사기에 돈이 그렇게 쏟아지는데, GitHub에서 생성형 AI 도구를 유지하는 작은 영웅 유지보수자들은 거의 자금을 못 받는다는 게 정말 놀라움
  TheBloke가 양자화 모델로 후원을 받거나 GGML이 시드 투자를 받은 것 같은 예외는 있지만, InvokeAI, VoltaMl, koboldcpp/artbot과 AI Horde, Petals, ControlNet 개발자 같은 쪽은 돈에 파묻혀 있어야 할 텐데 사실상 아무것도 없이 번아웃되고 있음
  내가 모르는 사례도 훨씬 많을 것임

  • 블록체인 과장 때도 같은 결말 아니었나?
    암호화폐 형님들은 돈을 들고 달아났고, 몇몇 개발자는 GitHub에서 거의 또는 전혀 자금 없이 조금씩 만들어갔음
    큰 차이는 AI 과장을 방어하는 사람이 훨씬 적고, 전반적으로 LLM 적용에 대해 훨씬 더 비판적이고 현실적으로 본다는 점임
  • 일반인들에게 이걸 알려주지 말아야 함. 지금은 의외로 다들 말 걸거나 같이 일하기 쉬움
    이들이 레이더 아래에 있는 또 다른 이유는, 그런 부류 중 상당수가 다소 꺼림칙한 면이 있기 때문임
    예를 들어 Automatic1111은 인종차별적 Rimworld 모드로도 유명하고, 개발자 크레딧에 4chan을 적극적으로 넣으며, GitHub 프로필 사진으로 호치민을 쓰고 있음. 베트남인이거나 이상한 공산주의자이거나, 어쩌면 둘 다일 수 있음
    현실적으로 많은 AI 혁신은 Discord에서 애니메이션 프로필 사진을 단 사람들이 만들고 있고, 이들이 여기에 집착하는 이유는 도파민을 좇는 데 가까움. 그런데 이 분야 밖에서는 거의 아무도 모름

• 기술 업계와 이 모든 “기업가 정신” 안에 있는 사람들은 좀 더 합리적이고 상식적일 줄 알았는데, 실제로는 누구에게나 쓰레기를 팔 수 있는 것처럼 보임
  Twitter에서 이런 쓰레기 인플루언서들이 그렇게 큰 관심을 받는 걸 보니 씁쓸함
  그래도 이 가상의 의견과 조언 홍수 속에서 누구 말을 듣지 말아야 할지 걸러내는 좋은 필터가 됨

  • 물론 기술 업계 사람들도 많겠지만, 문제의 일부는 길거리의 아무 수상한 장사꾼이나 “내가 AI 제품 만들었어요, 보세요!”라고 할 수 있게 됐다는 점임
    개인적으로 그런 사람들을 몇 명 알게 됐는데, 절반은 자기가 뭘 하는지도 제대로 이해하지 못하고 YouTube 튜토리얼을 따라 설정만 함
    그들이 “AI 제품”이라고 부르는 건 사실 어떤 API에 연결하고 매우 취약한 시스템 프롬프트를 넣은 봇일 뿐인데, 튜토리얼을 따라 설치했다는 이유로 모두가 감탄해야 한다고 생각함