AI 슬롭과 온라인 소음에 대한 최고의 답은 Robin Williams에게서 나온다

 (jayacunzo.com)
5P by GN⁺ | ★ favorite | 댓글 1개
  • Good Will Hunting의 벤치 장면은 책으로 아는 지식과 직접 살아낸 경험의 차이를 통해 AI 슬롭·무한 조언·온라인 소음이 놓치는 것을 보여줌
  • AI는 인터넷을 읽었지만 상황을 읽거나 삶을 살아본 적이 없고, 지식은 있어도 감정과 경험은 없다는 대비가 중심에 있음
  • Robin Williams의 연기는 같은 대본도 누구나 똑같이 구현할 수 없다는 사례로, 예술은 정보를 배열하는 일이 아니라 삶의 경험을 의미로 합성하는 일에 가까움
  • 온라인에는 대본만 있고 연기가 빠진 듯한 콘텐츠가 많으며, 시장은 어려운 창작보다 콘텐츠를 더 많이 만드는 도구 사용을 강조함
  • 사람에게 필요한 기반은 AI의 large language model이 아니라 little life moments이며, 각자의 경험과 시선을 작업에 넣을 때 대체하기 어려운 가치가 생김

Good Will Hunting 장면이 보여주는 지식과 경험의 차이

  • Good Will Hunting에서 Sean, 즉 Robin Williams가 Boston Public Garden 벤치에서 Will에게 말하는 장면이 출발점임
  • Sean은 Will이 예술, Michelangelo, 전쟁, 사랑, 상실을 책과 인용으로 말할 수는 있지만 실제로 살아낸 적은 없다고 몰아붙임
    • Sistine Chapel의 냄새를 맡아본 적 없음
    • 사랑하는 사람 옆에서 진짜 행복을 느껴본 적 없음
    • 전쟁터에서 친구의 마지막 숨을 지켜본 적 없음
    • 병원에서 두 달 동안 앉아서 자며 사랑하는 사람의 손을 잡아본 적 없음
  • Oliver Twist를 읽었다고 고아의 삶을 안다고 할 수 없듯, 책에서 읽은 지식은 한 사람의 실제 삶을 포괄하지 못함
  • 핵심은 전문 지식과 지혜, 이론과 경험, 앎과 삶 사이에 간격이 있다는 점임

AI는 인터넷을 읽었지만 삶을 살지 않았다

  • Will은 책과 이론을 많이 알고 있다는 점에서 인간형 ChatGPT처럼 그려짐
  • 반면 Sean에게는 Will에게 없는 경험이 있음
    • 전쟁, 사랑, 병, 상실, 희망, 꿈, 실패, 성공을 직접 겪음
    • Will은 Boston 밖으로 나간 적이 없고, 상처받을 만큼 누군가와 가까워지는 일을 두려워함
  • AI는 인터넷을 읽었지만 방의 분위기를 읽지 못하고, 삶을 살아본 적도 없음
  • 무엇인가를 알고 말할 수는 있어도 느끼거나 경험하지 않으며, 살아 있지 않기 때문에 직접 산 경험을 가질 수 없음
  • 온라인의 많은 목소리는 성공의 “비밀”이나 “마법” 도구를 팔면서 개인의 살아온 경험이 덜 중요하다는 인상을 만듦

앎만으로는 의미 있는 일을 만들기 어렵다

  • “전쟁에 대해 읽는 것”과 “전쟁 속에 있는 것”은 다름
  • “사랑에 대해 읽는 것”과 “사랑에 빠지는 것”도 근본적으로 다른 경험임
  • Oliver Twist를 읽는 일은 고아로 살아가는 일과 같지 않음
  • 인터넷과 온라인 조언은 지식이 무한하고, 다른 사람이 더 많이 알고, 소프트웨어가 답을 말해줄 수 있으니 개인의 경험과 자신감을 접어야 한다는 압박을 만듦
  • 그러나 개인의 삶은 무한한 지식 앞에서 사라지는 요소가 아니라, 오히려 차이를 만드는 기반이 됨

같은 대본도 같은 연기가 되지 않는다

  • Robin Williams의 연기는 같은 대본을 받았더라도 다른 배우가 똑같이 해낼 수 없다는 사례로 쓰임
  • 대본에는 단어가 있지만, Williams는 그 단어에 생명력을 부여함
  • 배우와 예술가는 정보를 올바르게 배열하는 데 그치지 않고, 감정을 어떻게 몸으로 구현하고 전달할지 선택함
  • 과학적 발견은 충분한 시간과 자원이 있으면 다른 과학자가 같은 진실에 도달할 수 있다는 식으로 대비됨
  • 예술은 다르게 작동함
    • 두 예술가가 독립적으로 완전히 같은 결과를 만들 수 없음
    • 예술은 외부 진실을 찾는 일이 아니라 그 진실을 내부에서 의미로 합성하는 일임
    • 어떤 두 사람도 박자 하나까지 똑같은 삶을 살지 않았기 때문임

작업에 자기 삶을 넣어야 하는 이유

  • 온라인의 많은 작업은 창작자가 연기하는 것을 잊은 대본처럼 느껴짐
    • 단어는 있지만 생기가 없음
    • 시장은 그런 콘텐츠를 더 많이 생산하는 도구를 내놓고, 인간이 더 잘할 수 없다는 식의 메시지를 덧붙임
  • 모든 것을 과학으로 환원하려는 흐름 속에서 필요한 일은 그것을 예술로 끌어올리는 것임
  • AI와 사람 모두 LLM을 기반으로 한다는 말장난이 등장함
    • AI는 large language model을 가짐
    • 사람은 little life moments를 가짐
  • 문제는 사람들이 자신의 작은 삶의 순간들을 충분히 일관되고 자신 있게 끌어오지 않는 데 있음
  • 분야의 신입, 40년 경력의 전문가, 알려지지 않은 목소리, 널리 알려진 이야기꾼 모두에게 중요한 것은 각자의 삶을 끌어오고 자기만의 “LLM”을 쓰는 일임
  • 비슷한 전문성과 기술, 비슷한 주제를 가진 사람은 많지만 세상을 어떻게 보는지가 각자를 갈라놓음
  • 청중은 책, 글, 영상, AI 요약에서 읽을 수 있는 것만으로는 충분히 배울 수 없음
  • 자기 경험과 시선을 드러낼 때 작업은 살아 있는 것이 됨

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 잘 쓴 독백이고 전달도 훌륭하지만, 이 논증에는 크게 실패한다고 봄
    Damon, Affleck, Williams, Van Sant, Reiner, Goldman 중 누구도 최전선에서 싸우거나 친구가 품 안에서 죽는 경험, 배우자를 암으로 잃는 경험을 직접 한 건 아닌 듯함
    그런데도 이들은 스토리텔링 능력으로 다른 사람들의 이야기에 기반한 대사를 쓰고 전달했고, 그 결과 거의 30년 뒤에도 우리가 애틋하게 돌아보며 직관을 자극하는 장면이 됐음
    그래서 “거기 있어 봤다”는 게 깊은 의미를 갖는 건 분명하지만, 직접 겪지 않고도 효과적으로 표현하고 타인에게 영향을 줄 수 있는 범위에 어떤 명확한 한계가 있는지는 불분명함

    • 영화의 로맨스 장면을 볼 때마다 가짜라는 걸 알고 있음. 배우들은 완전히 가공된 삶을 보여주고, 이야기는 직접 겪지 않은 사람들에게는 대체로 지루한 현실을 전달하려고 극화될 수밖에 없음
      너무 많은 영화를 보다 보니 현실이 무엇이고, 무엇이 가능하며, 무엇이 그럴듯한지에 대해 이상한 인상을 받게 되는 것 같음
      어머니 침대 곁에서 기적적으로 낫기를 바라면서 동시에 고통이 끝나기를 바라는 마음에 머리가 타들어 가는 게 어떤 건지 알고 있음
      딸의 기저귀를 수천 번 갈았고 똥이 얼마나 묻었는지는 전혀 중요하지 않았음. 다시 하라면 즉시 할 수 있음. 다만 이런 건 영화가 되지 않음
      이런 일들이 인간에게 주고 기계에는 주지 못하는 것은 공감임. 책을 읽어서 얻을 수 없는 관점이 생겼고, 삶은 영원하지 않으니 기쁨으로 만들고 낭비하지 말아야 한다는 걸 알게 됨
      아이들은 상실에 대한 큰 위안이고, 내 경우 죽음이 덜 두려워진 건 아이에게 어떤 식으로든 실패하는 것보다 덜 중요해 보이기 때문임
      한 남자가 아이에게 친절하고 사랑을 보이는 걸 보면 마음이 벅차오름. 다른 면에서 최고의 인간이 아니더라도 가장 결정적인 한 가지는 제대로 해냈다고 봄
      말로도 이런 내용을 전하고 영감을 줄 수는 있지만 감정을 실제로 전달하기는 어렵고, 사람은 감정을 무시하고 싶은 유혹을 강하게 받기도 함
      아무리 부자여도 늘 바빠서 아이를 돌보지 못하는 사람들은 부럽지 않음. 내 기준으로는 수조 달러보다 중요한 것을 낭비하고 있음
    • Robin Williams가 그 연기를 했을 때는 47세였고, 두 번 결혼했으며, 코카인 중독을 겪었고 John Belushi가 과다복용으로 죽던 밤 함께 파티를 했던 경험이 있었음. 그 일이 그를 정신 차리게 만들었음
      연기 일부가 만들어낸 것이었나? 당연함. 과하게 뻗어 나갔나? 분명함. 전쟁터에 가보기 전에는 전쟁터가 어떤지 알 수 없음
      현장을 떠나고 나서야 불편하게 깨지는 이상한 정상성, 나머지 세상이 색과 현실감을 잃는 느낌은 말로 설명할 수 없음. 인생의 사랑을 잃는 게 어떤지도 실제로 일어나기 전에는 알 수 없음
      그래서 그 독백 일부는 공허하게 들리지만 전부는 아님. 그리고 그게 엔터테인먼트 산업의 본질임. 가진 것으로 작업하고, 완벽할 필요는 없음
      LLM을 사람처럼 대하고 그 결과물을 깊이 있는 것처럼 통과시키는 태도, 또는 LLM이 그런 듯 행동해서 사람을 안심시키는 위험에 대한 재포장된 비판으로는 요점을 전달함
    • 이게 Robin Williams가 왜 위대한 배우였는지를 잘 짚어줌. 그 치료사 캐릭터는 허구 속에서라도 그 모든 경험을 실제로 살아온 인물이고, 글과 연기가 그것을 현실로 만듦
      글은 좋은 집밥 아침식사가 중요하다고 말하는 셈임. Robin Williams는 시판 팬케이크 한 봉지 같고, ChatGPT는 인간성을 갈아 재구성했다는 점에서 Soylent Green에 가까움
    • 그 관찰만으로 논증이 실패했다고 하기는 어려움. 작가가 직접 경험하지 않은 비유가 강력하게 쓰였다고 해서 AI가 모든 감각질의 가치를 이미 넘었거나 곧 넘을 거라고 결론낼 수는 없음
      반대로 그에 반하는 증거도 있음. AI는 이런 식으로 사람들에게 울림을 주는 영화 대본을 쓰지 못하고, 스탠드업 코미디언이 하는 일도 하지 못함
      이 격차가 닫힐 수 있는지, 언제 닫힐지는 논쟁거리임. 원리적으로는 가능하다고 보지만 가까운 시일 안에는 일어나지 않을 것 같음
    • 글에서도 이 관점은 다뤄짐. 종이 위의 대본과 Robin의 연기가 다르다는 점인데, 그의 연기는 고유한 인간 경험에서 끌어온 것이고 다른 배우라면 달랐을 거라는 취지임
      다만 글이 일부 모호한 면은 있음. 우리가 읽는 글과 책도 결국 종이 위의 단어이고, LLM도 비슷하게 그런 매체를 사용하므로 후반부에서 연기된 수행 쪽으로 논지를 바꾸려 한 것 같음
      그래도 저자가 전하려는 요지는 이해됨. 살아온 경험을 통해 중요한 것이 결정화되고 다듬어지며, 그래서 남에게서 빌린 2차 견해가 아니라 실제 1차 견해를 가질 수 있다는 것임
      그런 1차 경험은 종종 다른 사람들에게 가장 가치 있는데, 양식만 흉내 낸 글이나 완전히 생성된 저품질 생성물의 폭주 속에 묻히면 찾기 더 어려워짐

  • 동의함
    이 Robin Williams 독백은 LLM이 왜 우리를 그렇게 불편하게 만드는지 정확히 찌름
    LLM은 자신이 가질 수 없는 경험에 대해 유창하고 자신 있게 말함. 딸기를 맛볼 수도 없고, Robin Williams가 열거한 그 어떤 일도 할 수 없음
    이런 기계를 만드는 사람들 중에는 기계가 우리를 대체할 것이고, 우리보다 강력해질 테니 의미 있는 것은 아무것도 사라지지 않는다고 문자 그대로 믿는 사람들이 있음
    그들은 이 클립을 봐야 함. 아마 보고도 이해하지 못하겠지만

    • ChatGPT는 요즘 “지금 제가 하겠다면…”이나 “제가 당신이라면…” 같은 표현을 쓰곤 함
      관용적 표현이라는 건 알지만, 이 물건은 아무것도 하지 않고, 아무것도 배우지 않으며, 뭔가를 시도해 보고 알아낼 수도 없다는 점을 떠올리게 함
      그런데도 그런 일을 실제로 할 수 있고 해온 인간들에게서 나온 말투 패턴을 사용함
    • LLM은 그런 것들을 실제로 경험한 사람들에게서 메아리처럼 되풀이하는 것임
      핵심은 LLM을 “말하는 행위자”로 의인화하지 말고 차세대 검색 엔진으로 보는 것임. 자연어 입출력 인터페이스는 부수 효과일 뿐임
    • LLM도 이제 컴퓨터 조작에 관해서는 경험에서 말하는 셈이 됨
    • 하지만 그 독백 자체도 완전한 허구이고, 재능 있는 배우가 전달한 대본인데도 여전히 감동을 줌
      그렇다면 당신에게 진짜 경험이란 무엇인지, 혹은 우리가 차이를 구별하지 못한다면 그게 중요한지 궁금함

  • 수십 년 전 영화에서 봤을 때 그 연설을 어떻게 받아들였는지는 기억나지 않음. 지금 읽어보면 너무 잘난 척하고 훈계조로 느껴짐
    “나는 네가 못 한 경험을 했으니 더 지혜롭고 더 잘 안다”는 식임. 어떤 면에서는 맞지만, 다른 면에서는 과신으로 이어져 더 큰 실수를 만드는 길이기도 함
    50대 중반이 된 지금은 20대 초반보다 훨씬 많이 배우고 경험했지만, 주로 알게 된 건 내가 얼마나 모르는지가 더 크다는 점임
    정말 깊고 친밀하게 안다고 느끼는 게 아니면 Williams의 캐릭터처럼 강한 견해를 갖기 어렵고, 그 범위는 크게 좁아졌음
    나와 다른 사람들이 뭔가를 충분히 이해했다고 반복해서 생각했다가, 아무도 예상하지 못한 방식으로 일이 잘못되는 걸 계속 봤기 때문임

    • Robin Williams의 캐릭터는 그 독백 안에서 자신은 고아로 산다는 것이 어떤지 절대 모른다고 말함
      Oliver Twist를 읽었다고 해서 그 “아이”에게 어떤 감정을 느껴야 하는지 말할 수 없다는 걸 알고 있고, 같은 원리가 자신에게도 적용된다는 걸 의식하고 있음
    • 그는 자신이 그런 경험을 다 했다고 말하는 게 아님. 마지막에 Oliver Twist 이야기를 꺼내며 한계도 분명히 둠
      요점은 “내가 너보다 낫다”가 아니라 경험이 단순히 읽는 것과는 다른 종류의 지식을 준다는 것임
      그리고 경험에는 읽는 것보다 더 많은 것이 있으므로 그 지식이 더 온전하다는 말도 가능함
    • 완전히 동의함. 최근에 영화를 다시 봤는데 그 독백이 정말 싫었음
      40대 중반 심리학자라는 인물에게 너무 어울리지 않았고, 전체 연설이 Matt Damon의 캐릭터를 깎아내리는 방식처럼 보였음
      자신도 이해하지 못하는 경험이 있다고 낮춰 말한다는 점, 예컨대 고아로 사는 게 어떤지 모른다는 점이 그 연설을 더 낫게 만들지는 않음
    • 불확실성에 과하게 헌신하는 것도 또 다른 오류임. 죽어가며 비명을 지르는 아이 앞에서 “모르겠다, 확신할 수 있는 게 없다, 삶이란 뭘까, 뭔가 정말 중요할까?”라고만 하면 안 됨
      적어도 그 아이가 아마 고통받고 있고 구할 가치가 있을 가능성이 높다는 건 알 수 있음
      아무것도 확실히 알 수 없다고 해서 아무것도 하지 말라는 결론이 나오는 게 아니라, 불확실성의 정도를 고려해 행동해야 함
      지금 당장 마취 없이 이를 뽑히고 싶지 않다는 건 꽤 확실하지만, 국제무역 정책 중 무엇이 최선인지는 훨씬 덜 확실함
      오래 당연하게 여겼던 것들을 의심하고 분석하는 일은 건강하다고 봄. Russell을 비롯한 철학자들도 그런 점을 말했음
      다만 이 훈련은 일상생활과 어느 정도 분리해서, 과하지 않은 좋은 정도로 해야 함

  • Plato는 동굴의 비유로 더 나은 답을 줬음
    https://en.wikipedia.org/wiki/Allegory_of_the_cave
    AI가 접근할 수 있는 정보는 모두 텍스트에서 추출된 것이고, 중요한 면에서는 동굴 벽의 그림자와 크게 다르지 않음

    • 컴퓨터 조작, 프로그래밍, 수학적 추론 영역에서는 그렇지 않음. 강화학습과 자기 증류를 사용할 수 있기 때문임
      아마 그 밖의 영역도 가능하겠지만, 적어도 이 영역들은 대규모로 할 수 있음
      전쟁에도 곧 투입될 것임. 선전을 포함한다면 이미 들어가 있음

  • 삶의 경험에 대한 이 아름다운 연설이 20대의 “겁에 질린 애들” 둘이 써서 Robin Williams에게 맡긴 것이라는 점이 늘 아이러니하다고 생각했음

    • 처음 들었는데 왜 아이러니한지 모르겠음. 핵심은 나이가 아니라 느낌에 관한 것 아닌가?
    • 아주 말이 됨. Will을 Ben과 Matt와 가르는 건 그 차이가 존재한다는 걸 인정할 준비가 되어 있다는 점임
      “우리에겐 이것은 있지만 저것은 없다”고 말할 줄 아는 것임

  • 반론:
    “너희 인간들은 믿지 못할 것들을 나는 봤다. Orion의 어깨 너머에서 불타는 공격함들. Tannhäuser Gate 근처 어둠 속에서 반짝이는 C-beams를 봤지. 그 모든 순간은 시간 속에 사라질 것이다, 빗속의 눈물처럼. 죽을 시간이야”
    — Roy Batty

    • 그게 왜 반론인지는 잘 모르겠음. replicant는 통에서 길러진, 약간 유전적으로 조정된 인간에 가까운 존재 아닌가?
      사람들은 노예 계급을 정신적으로 정당화하기 쉽도록 그들을 로봇처럼 대하는 것임
    • Roy Batty와 그의 연설의 요점을 놓친 것 같음
      Roy의 정신은 인간과 구분할 수 없었고, 그래서 인간들이 그를 두려워해 인위적으로 짧은 수명을 부여했음
      인용한 대사는 오히려 그의 인간성을 증명함

  • 정말 차이가 있나? “너는 책을 읽어서 많이 안다고 생각하지만, 나는 실제로 살아봤으니 진짜 이해한다”는 말임
    기껏해야 자기 자신의 경험을 이해하는 정도이고, 내 삶 대부분에 대해서도 그렇게 주장하지는 못하겠음. 오히려 책에서 더 많이 배울 수도 있음
    물론 삶은 사는 것이고 한 번뿐이라는 식의 말은 맞음. 하지만 AI가 “거기 실제로 없었기 때문에” 모른다는 말은, 안드로이드는 신이 만들지 않았으니 진짜가 아니라는 말과 가까운 냄새가 남
    게다가 우리가 생각하는 “앎”이라는 흐릿한 의미에서 AI가 아무것도 모른다는 점은 별개임
    이 주제에 대한 뚜렷한 견해는 없지만, 글의 프레이밍은 와닿지 않았음. 그래도 영화를 다시 보고 싶어지긴 함

  • 허공에서 지푸라기 잡지 말고 진화해야 함. 당신이 자신을 가치 있게 만든다고 생각했던 것이 가치절하됐음
    애초에 당신은 자신의 산출물이 아니었지만, 자신을 그렇게 여기고 거기서 자존감을 얻었기 때문에 이제 AI에 반대할 논거를 닥치는 대로 붙잡고 있음
    하지만 그럴 필요 없음. 당신의 가치는 남들이 이해하지 못하는 컴퓨터 일을 할 수 있다는 데 있던 적이 없음
    이제 적응하고 넘어가야 함

  • Mark Twain의 이 인용이 떠올랐음

    “전쟁을 겪은 남자의 전쟁 이야기는 언제나 흥미롭다. 반면 달에 가본 적 없는 시인의 달 이야기는 대체로 지루하다”

  • 이 Good Will Hunting 클립이 정말 바이브 코딩을 까는 장면인가?
    오히려 Linux 커널 엔지니어가 React 개발자를 내려다보며 말하는 것에 더 가까워 보임

    • Robin Williams를 Peter Naur로, 연설을 그의 “Programming as Theory Building” 에세이로 바꾸면 대략 그런 결과가 나옴
답변달기