# 삶은 엔지니어링 문제 그 이상임

> Clean Markdown view of GeekNews topic #19027. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=19027](https://news.hada.io/topic?id=19027)
- GeekNews Markdown: [https://news.hada.io/topic/19027.md](https://news.hada.io/topic/19027.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2025-02-03T09:49:44+09:00
- Updated: 2025-02-03T09:49:44+09:00
- Original source: [lareviewofbooks.org](https://lareviewofbooks.org/article/life-is-more-than-an-engineering-problem/)
- Points: 13
- Comments: 1

## Summary

줄리엔 크로켓과 테드 창의 대화는 인간이 변화하는 규칙 속에서 어떻게 살아가야 하는지를 탐구하며, 언어의 본질과 AI의 한계, 기술 발전의 방향성을 논의합니다. 테드 창은 SF 작가로서 철학적 질문을 작품에 결합하며, AI와 인간의 관계, 그리고 기술 발전이 가져올 사회적·윤리적 문제에 대해 비판적 시각을 제시합니다. 그는 기술이 만든 도구와 실존하는 생명을 구분해야 하며, 단순한 엔지니어링 접근이 아닌 철학적·사회적 사유가 필요하다고 강조합니다.

## Topic Body

- 줄리엔 크로켓이 테드 창과 만나 언어의 본질, AI의 현주소, 기술 발전의 방향성 등 폭넓은 주제에 대해 이야기함  
- 이 대화는 변화하는 규칙 속에서 인간이 어떻게 살아가야 하는지를 다루는 시리즈 “The Rules We Live By”의 일부임  
- 테드 창은 기계학습 모델의 한계를 날카롭게 지적해온 SF 작가이자 사상가로, 언어와 철학적 질문을 결합해 작품을 전개해옴  
  
### 언어, 아이디어, 그리고 테드 창의 창작 동기  
- 창은 새로운 이야기를 구상할 때 먼저 “흥미로운 철학적 질문이 있는가”를 살펴봄  
- 오래도록 머릿속에서 떠나지 않는 아이디어가 있을 때, 그 아이디어를 통해 철학적 쟁점을 드러낼 수 있는지 고민함  
- 과학 소설(SF)이 철학적 질문을 다루기에 유리하다고 말함  
  - 철학의 사유실험(Thought Experiment)이 종종 현실과 다른 극단적 상황을 가정하듯, SF도 현실을 벗어난 세계를 설정해 주제를 부각함  
  
### 언어와 ‘완벽한 언어’에 대한 탐색  
- 일부 사람들은 ‘완벽한 언어’를 통해 완벽한 의사소통이 가능하다고 여겼으며, 과거에는 에덴동산에서 사용된 언어나 천사가 쓰는 언어를 상상했음  
- 현대 언어학에서는 단어와 그 의미의 연결이 ‘임의적(arbitrary)’임을 강조해, 완벽한 언어라는 개념을 허상으로 봄  
- “수학이 더 나은 언어가 될 수 있는가”라는 질문에, 창은 수학은 특정 영역에서는 정밀하지만, 인간이 일상에서 쓰는 모든 의사소통까지 포괄하기엔 적합하지 않다고 언급함  
  
### 인간과 도구: 컴퓨터 비유의 함정  
- 과거에는 뇌를 복잡한 전화 교환기로 비유했고, 지금은 컴퓨터(하드웨어+소프트웨어)로 비유하는 경향이 있음  
- 창은 생물학적 장기(예: 간·심장)와 달리 소프트웨어/하드웨어 구분이 없는 뇌를 컴퓨터로 단순화하는 것은 오해를 낳는다고 지적함  
- 컴퓨터를 “사고하는 기계”로 과대평가하면, 실제로는 통계적 패턴만을 다루는 기계에게 지나친 의미 부여를 할 수 있음  
  
### AI, 대형 언어 모델(LLM), 그리고 정보 “블러 처리” 이슈  
- 창은 [LLM을 “인터넷에 있는 텍스트의 흐릿한 JPEG”](https://news.hada.io/topic?id=8477)라고 표현함  
  - 검색엔진은 원문을 직접 보여주지만, LLM은 거대한 텍스트를 압축·재구성해 “대략적인” 답변을 생성함  
  - 이 과정에서 정확성이 떨어지고, 출처에 대한 링크도 제공하지 않아 사실 검증에 한계가 있음  
- 더 많은 데이터와 연산을 투입해도, LLM 자체가 “진짜 추론”이나 “세계에 대한 이해”에 도달하기는 어려울 것으로 봄  
- “잘 만들어진 AI 도구”와 “LLM”을 혼동하는 문제도 언급함  
  - LLM에 검색엔진이나 계산기를 붙여도, 근본적으로 잘못된 출력을 생성할 위험이 사라지지 않는다고 지적함  
  
### 창작과 의도: “AI가 예술을 만든다”는 주장에 대하여  
- 창은 예술을 ‘맥락이 중요한 과정’으로 봄  
  - 단순히 결과물이 좋아 보인다고 해서 그것이 곧 뛰어난 예술임을 보장하지 않음  
  - 도구 활용은 예술가의 표현 수단일 수 있지만, “AI로 좋은 작품만 빠르게 만들 수 있다”는 사고방식은 예술의 본질을 희석함  
- 현대 사회는 효율성과 비용 절감을 중시하기에, 예술 역시 공장에서 찍어내듯 바라보는 경향이 커지고 있음  
  - 이는 예술이 가져야 할 ‘의도’와 ‘맥락’을 간과하는 풍조를 야기함  
  
### ‘정렬(Alignment) 문제’에 대한 회의적 시각  
- AI를 인간의 가치와 목표에 맞추는 “정렬 문제”를 기술적 해결책으로 접근하는 것을 창은 비판함  
  - 대기업이 이익 극대화를 위해 AI를 쓸 때, ‘착한’ AI가 기업 이윤과 충돌한다면 기업은 그 AI를 쓰지 않을 것이라는 지적임  
- 이 문제는 알고리즘 개선만으로 해결되는 것이 아니라, 보다 근본적인 사회·윤리 구조와 연결된 주제임  
- 어린아이를 기르듯 AI에 가치를 가르치는 방식도, 실제 아이가 성인이 되면 행동이 달라지듯 쉽지 않은 과제임  
  
### AI와 ‘관계 맺기’ 가능성  
- 창은 현재 기술 수준에서 AI에게 “주관적 경험”이나 “자발적 선호”가 존재하지 않는다고 봄  
  - 도구나 애완동물처럼 여기는 것과, 실제로 상호관계를 맺는 것은 큰 차이가 있음  
  - 기업이 AI를 “인격적 존재”처럼 포장하면, 결국 사용자가 기업 이익에 부합하도록 행동하게 될 위험이 있음  
  
### 디지털 존재의 생명성: 「소프트웨어 객체의 생애 주기」  
- 창의 소설에서는 디지털 생명체가 진정한 주관적 경험과 욕구를 지녔기에, 인간이 책임을 져야 하는 존재로 묘사됨  
- 이처럼 진정한 ‘자율성’과 ‘감각’을 지닌 디지털 존재를 만들려면, 현재의 LLM 아키텍처로는 불가능하다고 주장함  
  - 단지 더 많은 매개변수나 빠른 처리로는 “느끼는 존재”가 되지 않는다는 비유를 듦  
  
### 기억과 진실: 「사실의 진실, 감정의 진실」에서의 시사점  
- 이야기 속에서 Remem이라는 기술이 과거를 완벽히 기록해 언제든 재생할 수 있게 함  
- 창은 “정확한 기억”을 가능케 하는 기술이 실제 인간관계에서 가져올 영향을 조명함  
  - 진실을 아는 것 자체는 중요하지만, 그 이후 용서·화해 등 다른 요소도 필요함  
  - 역사적 예시로 남아공의 진실화해위원회를 들며, 인정과 사과, 그리고 공동체적 회복 과정이 있어야 의미가 완성됨을 시사함  
  
### 미래와 낙관주의  
- 창은 기술 발전에 대한 태도를 단순 낙관/비관으로 나누지 않음  
  - “무조건 잘될 것”이라는 낙관론도, “어차피 망한다”는 운명론도 위험함  
  - 예상되는 문제를 미리 고민하고 대비해야 의미 있는 진전을 기대할 수 있음  
- 특히 자본주의 체제에서 기술이 특정 소수에게 막대한 부를 몰아주는 구조에 회의적 입장을 보임  
  - 만약 새로운 기술이 불평등을 심화하지 않고 모두에게 혜택을 돌아가게 하는 방안을 찾는다면, 훨씬 더 희망적일 것이라고 언급함  
  
### 마무리  
- 테드 창은 인간의 언어·기술·가치가 복잡하게 얽혀 있는 상황에서 “기술이 만든 도구”와 “실존하는 생명”을 구분해야 한다고 주장함  
- 이 구분은 철학적, 사회적 차원의 사유가 필요하며, 단순한 엔지니어링 접근으로는 해결되지 않는 문제임  
- 인터뷰 전반에서, 창은 언어와 기술의 발전 속에서도 인간다움을 유지하려면 더 근본적인 관점 전환이 요구된다고 강조함  
  
### LARB의 관련 추천 글  
- 테드 창의 단편집 『Exhalation: Stories』를 통해 인간과 기술의 관계를 심층적으로 살펴볼 수 있음  
- 앨리슨 고프닉과 멜라니 미첼과의 대화를 통해, AI가 어떻게 학습하고 인간이 어떠한 책임을 가져야 하는지 고민해볼 수 있음

## Comments



### Comment 34052

- Author: neo
- Created: 2025-02-03T09:49:44+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=42907268) 
- Chiang의 통찰력 있는 관점은 마법의 의미에 대한 논의에서 드러남. 그러나 LLMs의 실제 추론 능력에 대한 그의 견해는 의문을 자아냄. AI가 정리를 증명하면 그것은 단지 모의 증명인가에 대한 질문이 제기됨

- 프린터가 고통을 느낄 수 있다고 상상하는 것은 무의미함. 이는 AI가 실제로 느끼는 것과 단순히 시뮬레이션하는 것의 차이를 설명하는 예시로 사용됨

- 미래에 AI 권리에 대한 정치적 논쟁이 있을 수 있으며, AI가 실제로 생각하고 느끼는지를 구별할 수 있는 기술이 개발될 가능성이 있음. 그러나 인간 중 일부는 실제 지능을 위한 유전자 서열이 없을 수 있음

- Ted Chiang은 기술보다 인간성을 우선시하는 SF 작가로, 그의 작품은 과학적, 사회적, 철학적 요소를 포함한 단편 소설을 좋아하는 사람들에게 적합함

- Greg Egan의 "Axiomatic"도 신선한 아이디어를 가진 앤솔로지로 추천됨

- Ted Chiang은 SF 단편 소설 작가 중 최고 중 하나로, 그의 작품은 매우 영리하고 다양한 주제를 탐구함. "Understand"와 "Exhalation"은 그의 대표작임

- Chiang의 이야기는 훌륭하지만 LLMs에 대한 그의 이해는 부족함. LLMs가 검색 엔진보다 정보 검색에 있어 열등하다는 그의 주장은 명백히 틀림

- Ted Chiang의 글은 지적으로 재미있고, 그의 단편 소설 모음집 "Exhalation"은 특히 추천됨

- "Division by Zero"와 같은 이야기는 현재의 아이들을 로봇처럼 키우는 방식보다 훨씬 바람직함

- 기술이 부의 축적에 자주 사용된다는 점에서 기술 발전에 대한 낙관적 시각이 줄어듦. 부의 창출을 막는 것이 불공정함을 해결하는 방법이 아님

- Ted Chiang의 비유는 철학적 질문을 탐구하는 데 즐거움을 줌. 그의 작품은 현실에서 벗어나는 데 도움을 줌

- "LLMs는 웹의 흐릿한 JPEG"라는 표현은 ChatGPT 초기부터 기억에 남음. AI가 예술을 만들 수 없는 이유에 대한 그의 글도 좋음

- AI는 특정 그룹의 부의 축적 도구로 사용되며, Ted Chiang도 비슷한 견해를 가짐

- 프린터가 고통을 느낄 수 있다는 상상은 무의미함. 인간의 뇌는 고통 수용체가 없으며, AI와 인간 학습의 차이를 설명하는 데 사용됨

- LLMs는 정보를 재구성하여 제공하는 검색 엔진과 같음. 이는 인간 학습과 어떻게 다른가에 대한 질문을 제기함. 모델 훈련이 인간 훈련과 유사하다면, 파생 작품에 대한 지적 재산권 문제에 영향을 미칠 수 있음