▲

GN⁺: 삶은 엔지니어링 문제 그 이상임

 (lareviewofbooks.org)
13P by neo 18일전 | ★ favorite | 댓글 1개
  • 줄리엔 크로켓이 테드 창과 만나 언어의 본질, AI의 현주소, 기술 발전의 방향성 등 폭넓은 주제에 대해 이야기함
  • 이 대화는 변화하는 규칙 속에서 인간이 어떻게 살아가야 하는지를 다루는 시리즈 “The Rules We Live By”의 일부임
  • 테드 창은 기계학습 모델의 한계를 날카롭게 지적해온 SF 작가이자 사상가로, 언어와 철학적 질문을 결합해 작품을 전개해옴

언어, 아이디어, 그리고 테드 창의 창작 동기

  • 창은 새로운 이야기를 구상할 때 먼저 “흥미로운 철학적 질문이 있는가”를 살펴봄
  • 오래도록 머릿속에서 떠나지 않는 아이디어가 있을 때, 그 아이디어를 통해 철학적 쟁점을 드러낼 수 있는지 고민함
  • 과학 소설(SF)이 철학적 질문을 다루기에 유리하다고 말함
    • 철학의 사유실험(Thought Experiment)이 종종 현실과 다른 극단적 상황을 가정하듯, SF도 현실을 벗어난 세계를 설정해 주제를 부각함

언어와 ‘완벽한 언어’에 대한 탐색

  • 일부 사람들은 ‘완벽한 언어’를 통해 완벽한 의사소통이 가능하다고 여겼으며, 과거에는 에덴동산에서 사용된 언어나 천사가 쓰는 언어를 상상했음
  • 현대 언어학에서는 단어와 그 의미의 연결이 ‘임의적(arbitrary)’임을 강조해, 완벽한 언어라는 개념을 허상으로 봄
  • “수학이 더 나은 언어가 될 수 있는가”라는 질문에, 창은 수학은 특정 영역에서는 정밀하지만, 인간이 일상에서 쓰는 모든 의사소통까지 포괄하기엔 적합하지 않다고 언급함

인간과 도구: 컴퓨터 비유의 함정

  • 과거에는 뇌를 복잡한 전화 교환기로 비유했고, 지금은 컴퓨터(하드웨어+소프트웨어)로 비유하는 경향이 있음
  • 창은 생물학적 장기(예: 간·심장)와 달리 소프트웨어/하드웨어 구분이 없는 뇌를 컴퓨터로 단순화하는 것은 오해를 낳는다고 지적함
  • 컴퓨터를 “사고하는 기계”로 과대평가하면, 실제로는 통계적 패턴만을 다루는 기계에게 지나친 의미 부여를 할 수 있음

AI, 대형 언어 모델(LLM), 그리고 정보 “블러 처리” 이슈

  • 창은 LLM을 “인터넷에 있는 텍스트의 흐릿한 JPEG”라고 표현함
    • 검색엔진은 원문을 직접 보여주지만, LLM은 거대한 텍스트를 압축·재구성해 “대략적인” 답변을 생성함
    • 이 과정에서 정확성이 떨어지고, 출처에 대한 링크도 제공하지 않아 사실 검증에 한계가 있음
  • 더 많은 데이터와 연산을 투입해도, LLM 자체가 “진짜 추론”이나 “세계에 대한 이해”에 도달하기는 어려울 것으로 봄
  • “잘 만들어진 AI 도구”와 “LLM”을 혼동하는 문제도 언급함
    • LLM에 검색엔진이나 계산기를 붙여도, 근본적으로 잘못된 출력을 생성할 위험이 사라지지 않는다고 지적함

창작과 의도: “AI가 예술을 만든다”는 주장에 대하여

  • 창은 예술을 ‘맥락이 중요한 과정’으로 봄
    • 단순히 결과물이 좋아 보인다고 해서 그것이 곧 뛰어난 예술임을 보장하지 않음
    • 도구 활용은 예술가의 표현 수단일 수 있지만, “AI로 좋은 작품만 빠르게 만들 수 있다”는 사고방식은 예술의 본질을 희석함
  • 현대 사회는 효율성과 비용 절감을 중시하기에, 예술 역시 공장에서 찍어내듯 바라보는 경향이 커지고 있음
    • 이는 예술이 가져야 할 ‘의도’와 ‘맥락’을 간과하는 풍조를 야기함

‘정렬(Alignment) 문제’에 대한 회의적 시각

  • AI를 인간의 가치와 목표에 맞추는 “정렬 문제”를 기술적 해결책으로 접근하는 것을 창은 비판함
    • 대기업이 이익 극대화를 위해 AI를 쓸 때, ‘착한’ AI가 기업 이윤과 충돌한다면 기업은 그 AI를 쓰지 않을 것이라는 지적임
  • 이 문제는 알고리즘 개선만으로 해결되는 것이 아니라, 보다 근본적인 사회·윤리 구조와 연결된 주제임
  • 어린아이를 기르듯 AI에 가치를 가르치는 방식도, 실제 아이가 성인이 되면 행동이 달라지듯 쉽지 않은 과제임

AI와 ‘관계 맺기’ 가능성

  • 창은 현재 기술 수준에서 AI에게 “주관적 경험”이나 “자발적 선호”가 존재하지 않는다고 봄
    • 도구나 애완동물처럼 여기는 것과, 실제로 상호관계를 맺는 것은 큰 차이가 있음
    • 기업이 AI를 “인격적 존재”처럼 포장하면, 결국 사용자가 기업 이익에 부합하도록 행동하게 될 위험이 있음

디지털 존재의 생명성: 「소프트웨어 객체의 생애 주기」

  • 창의 소설에서는 디지털 생명체가 진정한 주관적 경험과 욕구를 지녔기에, 인간이 책임을 져야 하는 존재로 묘사됨
  • 이처럼 진정한 ‘자율성’과 ‘감각’을 지닌 디지털 존재를 만들려면, 현재의 LLM 아키텍처로는 불가능하다고 주장함
    • 단지 더 많은 매개변수나 빠른 처리로는 “느끼는 존재”가 되지 않는다는 비유를 듦

기억과 진실: 「사실의 진실, 감정의 진실」에서의 시사점

  • 이야기 속에서 Remem이라는 기술이 과거를 완벽히 기록해 언제든 재생할 수 있게 함
  • 창은 “정확한 기억”을 가능케 하는 기술이 실제 인간관계에서 가져올 영향을 조명함
    • 진실을 아는 것 자체는 중요하지만, 그 이후 용서·화해 등 다른 요소도 필요함
    • 역사적 예시로 남아공의 진실화해위원회를 들며, 인정과 사과, 그리고 공동체적 회복 과정이 있어야 의미가 완성됨을 시사함

미래와 낙관주의

  • 창은 기술 발전에 대한 태도를 단순 낙관/비관으로 나누지 않음
    • “무조건 잘될 것”이라는 낙관론도, “어차피 망한다”는 운명론도 위험함
    • 예상되는 문제를 미리 고민하고 대비해야 의미 있는 진전을 기대할 수 있음
  • 특히 자본주의 체제에서 기술이 특정 소수에게 막대한 부를 몰아주는 구조에 회의적 입장을 보임
    • 만약 새로운 기술이 불평등을 심화하지 않고 모두에게 혜택을 돌아가게 하는 방안을 찾는다면, 훨씬 더 희망적일 것이라고 언급함

마무리

  • 테드 창은 인간의 언어·기술·가치가 복잡하게 얽혀 있는 상황에서 “기술이 만든 도구”와 “실존하는 생명”을 구분해야 한다고 주장함
  • 이 구분은 철학적, 사회적 차원의 사유가 필요하며, 단순한 엔지니어링 접근으로는 해결되지 않는 문제임
  • 인터뷰 전반에서, 창은 언어와 기술의 발전 속에서도 인간다움을 유지하려면 더 근본적인 관점 전환이 요구된다고 강조함

LARB의 관련 추천 글

  • 테드 창의 단편집 『Exhalation: Stories』를 통해 인간과 기술의 관계를 심층적으로 살펴볼 수 있음
  • 앨리슨 고프닉과 멜라니 미첼과의 대화를 통해, AI가 어떻게 학습하고 인간이 어떠한 책임을 가져야 하는지 고민해볼 수 있음
▲
neo 18일전  [-]
Hacker News 의견

  • Chiang의 통찰력 있는 관점은 마법의 의미에 대한 논의에서 드러남. 그러나 LLMs의 실제 추론 능력에 대한 그의 견해는 의문을 자아냄. AI가 정리를 증명하면 그것은 단지 모의 증명인가에 대한 질문이 제기됨

  • 프린터가 고통을 느낄 수 있다고 상상하는 것은 무의미함. 이는 AI가 실제로 느끼는 것과 단순히 시뮬레이션하는 것의 차이를 설명하는 예시로 사용됨

  • 미래에 AI 권리에 대한 정치적 논쟁이 있을 수 있으며, AI가 실제로 생각하고 느끼는지를 구별할 수 있는 기술이 개발될 가능성이 있음. 그러나 인간 중 일부는 실제 지능을 위한 유전자 서열이 없을 수 있음

  • Ted Chiang은 기술보다 인간성을 우선시하는 SF 작가로, 그의 작품은 과학적, 사회적, 철학적 요소를 포함한 단편 소설을 좋아하는 사람들에게 적합함

  • Greg Egan의 "Axiomatic"도 신선한 아이디어를 가진 앤솔로지로 추천됨

  • Ted Chiang은 SF 단편 소설 작가 중 최고 중 하나로, 그의 작품은 매우 영리하고 다양한 주제를 탐구함. "Understand"와 "Exhalation"은 그의 대표작임

  • Chiang의 이야기는 훌륭하지만 LLMs에 대한 그의 이해는 부족함. LLMs가 검색 엔진보다 정보 검색에 있어 열등하다는 그의 주장은 명백히 틀림

  • Ted Chiang의 글은 지적으로 재미있고, 그의 단편 소설 모음집 "Exhalation"은 특히 추천됨

  • "Division by Zero"와 같은 이야기는 현재의 아이들을 로봇처럼 키우는 방식보다 훨씬 바람직함

  • 기술이 부의 축적에 자주 사용된다는 점에서 기술 발전에 대한 낙관적 시각이 줄어듦. 부의 창출을 막는 것이 불공정함을 해결하는 방법이 아님

  • Ted Chiang의 비유는 철학적 질문을 탐구하는 데 즐거움을 줌. 그의 작품은 현실에서 벗어나는 데 도움을 줌

  • "LLMs는 웹의 흐릿한 JPEG"라는 표현은 ChatGPT 초기부터 기억에 남음. AI가 예술을 만들 수 없는 이유에 대한 그의 글도 좋음

  • AI는 특정 그룹의 부의 축적 도구로 사용되며, Ted Chiang도 비슷한 견해를 가짐

  • 프린터가 고통을 느낄 수 있다는 상상은 무의미함. 인간의 뇌는 고통 수용체가 없으며, AI와 인간 학습의 차이를 설명하는 데 사용됨

  • LLMs는 정보를 재구성하여 제공하는 검색 엔진과 같음. 이는 인간 학습과 어떻게 다른가에 대한 질문을 제기함. 모델 훈련이 인간 훈련과 유사하다면, 파생 작품에 대한 지적 재산권 문제에 영향을 미칠 수 있음

답변달기