▲

지능이란 무엇인가? (2024)

 (whatisintelligence.antikythera.org)
2P by GN⁺ 7일전 | ★ favorite | 댓글 2개
  • 인간과 인공지능의 ‘지능(intelligence)’ 개념을 철학적·기술적으로 탐구하며, 그 정의와 본질을 재검토
  • 지능을 단순한 계산 능력이 아닌 환경에 대한 적응과 문제 해결의 일반화 능력으로 규정함
  • 생물학적 지능과 인공 지능의 차이를 비교하며, 맥락 이해와 목표 지향성이 핵심 요소로 제시됨
  • 인공지능의 발전이 인간 지능의 본질을 더 깊이 이해하게 만드는 거울 역할을 한다고 설명함
  • 이러한 논의는 AI 연구 방향과 인간 중심 설계 철학을 재정립하는 데 중요한 시사점을 제공함

지능의 정의와 본질

  • 글은 지능을 단순히 정보 처리나 계산 능력으로 보지 않고, 환경에 적응하고 목표를 달성하는 일반화된 능력으로 정의함
    • 지능은 특정 문제를 푸는 기술이 아니라, 새로운 문제를 학습하고 해결하는 능력의 유연성을 의미함
    • 따라서 지능은 정적인 속성이 아니라, 상황과 맥락에 따라 변화하는 동적 과정으로 설명됨
  • 인간 지능은 의식, 감정, 사회적 상호작용과 깊이 연결되어 있으며, 이는 단순한 알고리듬적 계산으로 환원될 수 없다고 주장함
    • 인간의 사고는 목표 설정, 가치 판단, 경험 기반의 추론을 포함함
    • 이러한 요소는 현재의 인공지능 시스템이 모방하기 어려운 영역으로 지적됨

인공지능과 생물학적 지능의 비교

  • 인공지능은 데이터 기반의 패턴 학습을 통해 특정 과제를 수행하지만, 인간은 맥락적 이해와 의미 해석을 통해 문제를 해결함
    • AI는 통계적 상관관계를 학습하지만, 인간은 인과 관계와 목적성을 인식함
    • 이 차이는 ‘지능’의 본질이 단순한 정보 처리 속도보다 의미 구성 능력에 있음을 보여줌
  • 생물학적 지능은 진화적 압력과 생존 목적 속에서 형성된 반면, 인공지능은 인간이 설계한 목표 함수에 의해 작동함
    • 따라서 AI의 ‘지능’은 외부 목적에 종속된 인공적 형태로 규정됨
    • 인간 지능은 자기 보존과 사회적 협력 등 내재적 동기 구조를 포함함

지능의 구성 요소와 측정 문제

  • 글은 지능을 구성하는 주요 요소로 학습, 추론, 기억, 계획, 창의성을 제시함
    • 이 요소들은 상호작용하며, 특정 환경에서 적응적 행동을 만들어냄
    • 예를 들어, 창의성은 기존 지식을 재조합해 새로운 해결책을 제시하는 지능의 고차원적 표현으로 설명됨
  • 지능 측정의 어려움도 지적됨
    • IQ나 벤치마크 테스트는 특정 유형의 문제 해결 능력만 측정하며, 실제 지능의 복합적 특성을 반영하지 못함
    • 따라서 지능을 평가하려면 맥락적 적응성과 일반화 능력을 함께 고려해야 함

인공지능 발전이 제기하는 철학적 질문

  • 인공지능의 급속한 발전은 ‘지능의 본질이 무엇인가’ 라는 근본적 질문을 다시 제기함
    • AI가 인간의 언어, 창작, 판단을 모방할수록, 인간 고유의 지능이 어디에 있는지 탐구할 필요가 커짐
    • 이는 단순한 기술적 문제가 아니라 존재론적·윤리적 문제로 확장됨
  • 글은 AI가 인간 지능의 거울 역할을 한다고 설명함
    • AI의 한계와 오류를 통해 인간 사고의 구조와 강점을 더 명확히 이해할 수 있음
    • 따라서 AI 연구는 인간 이해의 확장 과정으로 해석됨

지능 연구의 미래 방향

  • 향후 지능 연구는 인간 중심적 설계와 윤리적 고려를 포함해야 한다고 강조함
    • 기술적 성취뿐 아니라, 지능이 사회와 인간 삶에 미치는 영향을 함께 평가해야 함
    • 이는 AI 시스템이 인간의 가치와 목적을 반영하도록 설계하는 ‘가치 정렬(value alignment)’ 문제와 연결됨
  • 지능의 정의를 재정립하는 일은 AI 개발의 철학적 기반을 강화하는 과정으로 제시됨
    • 기술 발전이 인간 지능의 이해를 심화시키고, 지능의 의미를 재구성하는 계기가 될 수 있음
    • 궁극적으로 지능 연구는 인간과 기계의 공진화(co-evolution) 를 탐구하는 방향으로 나아가야 함
▲
ioas0316 6일전  [-]

맞는말인데 공백이 심하다.
관계성과 연결성. 운동성이 본질적으로 무엇인지 알지 못한다면 무지라는 어둠속에서 계속 방황하게 될것. 예수님을 믿었다면 이미 모든걸 알았을것이다

답변달기
▲
GN⁺ 7일전  [-]
Hacker News 의견

  • 이 책은 편집자가 꼭 필요하다고 느낌
    약 100개의 장 제목이 마치 환각 상태에서 연상적으로 만들어진 듯하고, 각 섹션은 독자를 혼란스럽게 하는 예술적 시도처럼 보임
    내용과 느슨하게 연결된 복잡한 다이어그램과 전문 용어가 많고, 스크롤 하이재킹까지 있어서 읽기 어렵게 만듦
    전체가 600페이지에 달한다니, 대부분은 처음부터 끝까지 읽지 않을 것 같음

    • 수사학적으로 보면 이건 일종의 "Yes-set" 구조임
      즉, 검증 가능한 사실 → 명백한 진리 → 널리 받아들여진 의견 → 근거 없는 주장 → 진부한 결론의 순서로 독자의 동의를 유도하는 방식임
      이런 구조는 종종 컬트 리더나 정치 연설가가 쓰는 설득 기법으로, 논리적 근거가 약한 주장을 교묘히 끼워 넣는 데 사용됨
      책의 사이버네틱스와 계산 이론 부분은 잘 조사되어 있지만, 독창적이지 않고 통합된 논지가 없음
      생물학과 영화 이야기를 섞으면서 오히려 집중도가 떨어짐
      저자는 AI에 대해 강한 의견을 가지고 있지만, 이를 직접적으로 논증하지 않고 설득의 샌드위치로 감추려는 듯함
      관련 참고: Compliment Sandwich, History of Computing 글
    • 저자의 1시간짜리 강연 영상이 책의 요지를 요약함
      책 전체를 읽진 않았지만, Karl Friston이나 Andy Clark의 예측 처리 이론을 읽는 게 더 가치 있을 것 같음
    • 나는 반대로 이 책을 처음부터 끝까지 읽는 게 꽤 즐거웠음
      내 사이트 디자인이 더 읽기 편하긴 하지만, 이 책의 기이한 구성이 오히려 매력적으로 느껴짐
    • 이런 류의 글이 취향이라면 A Definition of AGI 논문을 추천함
    • 나도 비슷한 인상을 받았음
      요즘 이런 스타일의 글을 보면 의도적 모호함이나 사이비적 접근으로 느껴져서 그냥 넘겨버림

  • 이 논의에서 Marcus Hutter의 『Universal Artificial Intelligence』를 빼놓을 수 없음
    이 책은 지능의 수학적 정의와 알고리즘적 확률 기반 의사결정의 기초를 제시함
    현재 AI 기술의 한계도 이 틀 안에서 설명 가능함

    • 그 책을 읽은 사람이라면, 그 틀에서 AI의 격차가 어떻게 설명되는지 좀 더 구체적으로 알려줬으면 함

  • 실제로 이 책을 읽은 사람이 있냐고 묻고 싶음
    나는 절반쯤 읽었는데, 자기복제가 계산적 우주에서 자연스럽게 등장한다는 아이디어가 흥미로웠음
    Wolfram의 세계관과 비슷한 느낌이지만, 여러 분야를 연결하는 시도가 자극적임
    대중과학(pop-sci)으로 읽으면 좋음

    • 나도 완독했음. 편집이 좀 필요하긴 하지만, 생물학·물리학·컴퓨터과학·금융을 넘나드는 여행이 즐거웠음
      특히 “복제는 나쁜 복사에서 시작된다”는 개념이 인상 깊었음
      시스템이 처음엔 불완전한 복사를 하다가 점점 개선되어 복제를 이루는 과정이 흥미로웠음
      이 아이디어는 스타트업, 아이디어, 금융 시스템에도 적용된다고 생각함
      덤으로, 온라인 버전의 brainfuck 코드에 버그가 있으니 찾아보길 바람
    • 나는 의식이나 지능에는 관심이 없음
      의미는 상태 변화에서 비롯된다고 생각함
      인간은 복잡한 의미 생성자이며, 우주는 엔트로피에 묶여 있으므로 시간 제한이 있음
      그동안 우리는 별이 빛을 내듯 의미를 방출하는 존재라고 봄

  • 책을 직접 읽진 않았지만, 저자는 인간 지능의 큰 부분이 AI로 재현될 수 있다고 주장하는 듯함
    즉, 비생명 시스템도 지능적 행동을 보일 수 있다는 관점임
    하지만 AI에는 육체적 맥락(embodiment) 이 없기 때문에 인간과 같은 지능이라 보기 어려움
    인간 지능의 기원을 이해하려면 Ester Thelen의 『A Dynamic Systems Approach to the Development of Cognition and Action** 이 좋은 출발점임
    인간 발달은 유전적 프로그램이 아니라 시도와 오류의 상호작용으로 이루어진다고 설명함
    결국 돌봄과 교육의 예술이 문명을 발전시키는 핵심이라고 생각함

    • 나는 인공 시스템에도 ‘지능’이라는 단어를 쓰는 데 문제없다고 봄
      ‘인공적’이라는 수식어가 이미 구분을 만들어주기 때문임
      하지만 이들은 의지(will) 를 가지지 못함. 그들의 목표는 결국 프로그래머의 의지일 뿐임
    • 그렇다면 locked-in 증후군 환자는 육체적 경험이 제한되었으니 다른 형태의 지능으로 봐야 하나?
    • 많은 동물들이 태어날 때부터 걷기 같은 유전적 프로그램된 능력을 가지고 있음. 완전히 학습만으로 설명할 수 없음

  • “이건 철학이 아니라 Turing의 발자취를 잇는 과학이다”라는 저자의 태도는 겸손한 척하면서 철학을 무시하는 느낌임
    핵심 논지인 “모방은 지능이다”는 사회적 사례로 쉽게 반박 가능함
    예를 들어, 배우가 천재를 완벽히 연기해도 실제로 천재는 아님
    즉, 그럴듯한 문장 생성이 지능의 본질은 아님
    인간 지능은 근본적 추론과 감각적 패턴 인식에서 비롯되며, 이는 여전히 AI가 도달하지 못한 영역임

    • 하지만 완벽한 모방이 가능하다면, 그 배우는 실제로 천재와 구별되지 않으며 곧 천재가 되는 것 아님?

  • 단순한 신경망도 보편 근사기(universal approximator) 이므로, 생물학적 뇌나 인공 뇌 모두 결국 세상의 복잡한 함수를 근사하는 존재일 수 있음

    • 맞는 말이지만, 세계 모델(world model) 의 역할을 간과함
      지능은 단순한 입출력 근사가 아니라, 인과적 구조를 학습하고 시뮬레이션하며 계획하는 능력임
      LLM은 이미 인간 지능이 확장한 지식을 내포하고 있어서 똑똑해 보이는 것뿐임
      스스로 인과적 모델을 구축할 수 있는지가 진짜 질문임
      지금의 LLM은 보간(interpolation) 은 잘하지만 외삽(extrapolation) 은 약함
    • 상태(state)와 다음 상태의 정의가 불명확함
      감각 입력은 다양한 주기와 위치에서 들어오므로, 이를 단순화하면 중요한 정보가 사라질 수 있음

  • 예전에 들은 인터뷰에서, 인간의 추론(reasoning) 은 논리적 사고보다 사회적 설득을 위해 진화했다는 가설이 있었음
    즉, 우리는 타인을 설득하거나 자신의 행동을 정당화하기 위해 이유를 만든다는 것임
    이런 점에서 LLM의 다음 토큰 예측과 인간 대화의 구조가 비슷하다고 느낌
    아마 Hugo Mercier의 연구였던 것 같음

    • Mercier의 논문에 따르면, 추론은 개인적 인지 보조가 아니라 사회적 논쟁 도구로 진화했음
      Why do humans reason? 참고
    • 나는 손잡이(handedness) 와 도구 제작이 언어와 추론의 기원을 설명한다고 봄
      도구를 만들고 지식을 전수하려면 교육과 협업이 필요했음
      관련 인용: Cambridge excerpt
    • 인간은 말할 때 단어를 즉흥적으로 고르지만, 이미 전달하려는 개념은 알고 있음
      반면 LLM은 개념이 아니라 단어만 다룸
      언어는 인간이 만든 도구일 뿐, 아이디어와 언어는 별개임
    • 언어의 목적은 현실을 정확히 묘사하기보다 타인을 설득하기 위한 추상화라는 점에서
      N.J. Enfield의 『Language vs Reality』와 유사한 주장임
    • 나는 진화형 Turing 테스트를 제안하고 싶음
      스마트폰의 자동완성 예측 단어 수를 늘려가며 인간 대화와 얼마나 유사해지는지 측정하는 방식임

  • 이 책은 예측의 중심성, 지능의 사회적 구조, 언어의 압축 기능, 고립된 시스템의 한계를 다룸
    하지만 진짜 지능이 순수 계산 원리만으로 가능한가, 아니면 환경적 내재성이 필요한가가 핵심 쟁점임
    나는 비용과 효율이 모든 학습을 이끈다고 봄
    생물학적 시스템은 다음 세대를 지원해야 하므로, 지능은 경제적 압력에 의해 최적화된 탐색 과정이 됨
    관련 글: What the Dumpster Teaches

    • 그 논리라면 전기 주전자도 지능적인가?
      단순히 온도를 측정해 끄는 건 목표 추론이 아님
      진짜 지능은 자신의 목표를 성찰할 수 있는 메타 레이어를 가져야 함
    • 모델 학습에도 실제 금전적 비용이 들고, 성능이 낮으면 훈련이 중단됨
      즉, 경제적 선택 압력이 존재하므로 완전히 다른 구조는 아님
    • 예측의 시간 범위가 다르면 모순과 불확실성이 생기고, 그게 지능의 한계를 만듦
      인간은 이런 모순을 싫어해서 이야기(story) 로 일관성을 유지하려 함
      종교, 정치, 법, AI 신화 등은 모두 집단적 예측 오류를 완화하는 서사 장치임
      하지만 미생물은 이런 게 없어도 생존함
      결국 지능은 불안정한 정보의 소용돌이일 뿐, 생명 유지에 꼭 필요한 건 아님
    • 이런 논의에는 의식(consciousness) 의 그림자가 따라옴
      만약 의식이 emergent라면, 실리콘 기반 지능도 가능할 수 있음

  • Amazon 리뷰에 따르면
    책의 핵심은 “뇌는 미래를 예측하기 위해 진화했다”는 예측 뇌 가설임
    또한 일부 현대 AI 시스템이 지능·의식·자유의지를 가질 수 있다고 주장함

    • 하지만 진화적 관점에서 보면, 뇌는 미래에 다른 기능으로 진화할 수도 있음
      따라서 ‘예측’이라는 정의는 시간에 따라 변하는 임시적 특성일 뿐임

  • 지능은 우리가 스스로 할 수 있다고 여기는 것임
    그런데 컴퓨터가 점점 그걸 다 할 수 있게 됨
    결국 인간 지능이란 고급 패턴 매칭일지도 모름

    • 인간은 새로운 질문을 만들고 탐구하는 능력을 가짐
      LLM은 아직 자율적 연구나 고차원적 설계를 못함
      또한 잊을 줄 아는 능력과 자기 맥락 관리가 부족함
      인간 지능의 많은 부분은 다른 동물에게도 있지만, 문자와 도구 제작 덕분에 가속화되었음
    • “우리가 할 수 있는 게 지능이라면, 우리가 못하는 건 마법인가?”라는 농담이 떠오름
      패턴 매칭은 “상관관계는 인과일 가능성이 높다”는 훌륭한 휴리스틱을 제공함
      지능은 시스템을 해킹하고 이해하는 능력이며, 이를 통해 더 복잡한 지식을 쌓아감
      불, 돌, 밀에서 시작해 이제는 화성 탐사를 논하는 수준에 이르렀음
답변달기