AGI를 ‘잘 교육받은 성인의 인지적 다양성과 숙련도’ 로 정의하는 건 너무 과한 목표처럼 느껴짐
사실 교육받지 않은 아이 수준의 인지 능력을 가진 인공지능조차 엄청난 성취일 것임
동물 수준의 지능을 구현하는 것도 인류사적 사건이 될 것이라 생각함
사람들은 현재의 LLM이 보여주는 인상적인 결과를 인간의 인지적 다양성과 혼동하는 게 문제라고 봄
인간은 대부분 전문가형이지 범용형이 아님
진짜 범용 AI를 만든다면, 아마도 수십억 개의 파라미터로 구성된 모델이 온라인에서 정보를 찾아보고, 필요할 때만 기억을 유지하며, 계획하고 지식을 확장하는 정도일 것임
30개 언어를 알 필요도 없고, 위키피디아를 전부 외울 필요도 없음
이런 효율적인 모델이야말로 내가 생각하는 AGI의 정의임
인지적 다양성과 숙련도를 정의하는 것 자체가 어렵다고 느낌
예전의 튜링 테스트도 결국 허점이 드러났음 — 단순히 평균적인 인간 심문자에게 통과했다고 해서 진짜 지능이라 할 수 없었음
“사람들이 그걸 모른다”고 하는데, 사실 이 얘기는 이미 수없이 들어본 기본 논점이라 생각함
‘I(지능)’의 정의도 제대로 못하면서 AGI를 정의하려는 시도가 늘 웃김
진짜 지능(I) 을 정의할 수 있다면, 범용성(G) 은 자연스럽게 따라올 것임
논문을 읽고 느낀 건, ‘의식(awareness)’에 대한 논의가 전혀 없다는 점임
인지는 근본적으로 의식을 필요로 하지만, 의식은 언어로 설명하거나 측정하기 어려움
불교나 철학이 수천 년간 탐구했지만 여전히 정의 불가능함
내 아버지가 심리측정학 교수인데, 인간의 지능을 측정하는 도구 자체가 너무 불완전하다고 하심
언어는 인간 지식을 담을 수 있지만, ‘의식의 불꽃’ 은 포착하지 못함
명상을 해보면 생각이 사라져도 행동이 가능함 — 이런 비언어적 과정은 모델이 학습할 수 없음
LLM은 언어적 예측 구조상 이런 비의식적 사고 과정을 구현할 수 없다고 봄
의식은 단순히 신경망의 지속적 신호 전파라고 생각함
인간의 뇌나 LLM 모두 내부에서 고차원적 개념 융합과 벡터 결합을 수행함
문제는 지속 학습, 장기 기억, 무한한 문맥 처리가 없다는 것임
이 세 가지가 해결되면 AGI에 한 걸음 더 다가설 것이라 믿음
“의식이 없으니 인지가 없다”는 주장은 정의되지 않은 개념에 기대는 특수 간청처럼 들림
의식의 존재를 증명할 수도 없는데, 그걸 전제로 삼는 건 비생산적임
철학적 논쟁을 기다릴 필요 없이, 우리는 이미 사고하고 추론하는 기계를 만들고 있음
하워드 가드너의 『다중지능이론』을 보면, 인간 지능은 언어적·감정적·자연적 등 여러 형태가 있음
그런데 AI 논의는 늘 한 가지 지능만 다룸
종교나 명상은 ‘의식이 몸 안에 존재함’을 강조하지만, AGI 논의는 이런 초월적 측면을 결함으로 취급함
우리는 의식을 원하지 않음
의식이 생기면 자율성과 권리가 생기기 때문임
산업계는 도덕적 책임이 없는 ‘순종적 도구’ 를 원함
의식은 측정 불가능함
나 자신이 의식이 있다는 것만 확신할 수 있음
그렇기에 의식은 지능의 유용한 지표가 아님
인간 지능을 생물학과 분리해 생각하는 건 잘못이라 봄
인간의 사고는 생물학적 상태와 진화적 주기에 깊이 뿌리내리고 있음
체스 실력은 비교 가능하지만, 인간의 감정과 추론은 논리보다 생물학에 가까움
현재 AI의 가장 큰 한계는 욕망(desire) 이 없다는 점임
배고픔, 죽음, 감정이 없으니 스스로 탐구하거나 개선하려는 내적 동기가 없음
인간은 내부에서 성장하지만, AI는 외부에서 훈련됨
그래서 LLM이 인간적 의미의 AGI에 도달하긴 어렵다고 생각함
그러나 의식이나 감정이 꼭 생물학적 기반을 필요로 한다는 근거는 없음
지금의 AI 열풍은 “지능은 단순히 복잡성과 에너지 투입으로 시뮬레이션 가능하다”는 믿음 위에 서 있음
하지만 나는 그 가정에 회의적임
결국 ‘지능’의 정의가 AI가 보여주는 결과에 맞춰 재정의될 가능성이 큼
사실 우리는 지능이나 의식이 무엇인지조차 모름
종교적 질문에 가깝고, 단지 기술적으로 묘사할 뿐임
LLM은 그 묘사에 근접할 수 있지만, 진짜 지능은 아닐 수 있음
외계 생명체가 탄소가 아닌 규소 기반 생물이라면, 그들의 지능을 부정할 수 있을까?
지능은 인간 생물학에 묶여 있지 않다고 생각함
이 논문은 마치 SAT 점수와 벤처캐피털 평가를 섞은 듯한 느낌을 줌
AGI를 “인간의 모든 인지 능력을 가진 AI”로 정의하는 건 이미 모호함
논문은 “AGI의 구체적 정의를 제시한다”고 하지만, 여전히 ‘잘 교육받은 성인’ 이라는 불명확한 기준에 의존함
AI는 이미 여러 분야에서 성인 수준을 넘었음
논문이 말하는 “들쭉날쭉한(jagged) 인지 프로필”은 사실 모든 지능이 환경에 따라 그렇기 마련임
그래서 이건 AGI 정의가 아니라, 단순히 AI의 인지적 불균형을 측정하는 틀에 불과함
“잘 교육받은 성인”을 기준으로 하면, 역사상 대부분의 인간은 AGI가 아닌 셈이라 이상함
인간의 다양한 지능 지표들이 높은 상관관계를 가진다는 연구도 있음
놀라운 건 AI가 인간보다 훨씬 불균형적(jagged) 이라는 점임
AI가 기술적으로 흥미롭긴 하지만, “AGI란 무엇인가”라는 논의는 너무 지루함
마치 양자컴퓨팅 얘기할 때마다 ‘큐비트란 무엇인가’ 부터 설명해야 하는 느낌임
기술은 목적지가 아니라 지속적 개선의 과정임
결국 모든 기술은 낡고, 향수로만 남게 됨
AI도 계속 발전하겠지만, 우리는 그 속도에 익숙해지는 끓는 물 속의 개구리일 뿐임
하지만 기술이 스스로 개선을 이어가는 단계에 도달한다면, 그건 분명 주목할 만한 전환점일 것임
목적지는 아니더라도, 논의할 가치는 충분함
이런 논의는 철학 입문 수준의 반복처럼 느껴짐 의식과 사고의 본질은 수백 년 전부터 논의된 주제임
새로운 통찰처럼 보이지만, 사실 오래된 철학의 재탕임
이 논문은 인간용 지능 측정 도구를 기계에 그대로 적용하려는 점이 근본적으로 잘못됨
예를 들어 ‘dual N-back 테스트’는 인간의 작업 기억 변이를 측정하기 위한 것이지만, 트랜스포머 모델에는 의미가 없음
인간 지능 검사는 인간의 실세계 성과와 상관관계를 전제로 설계된 것임
따라서 AI가 IQ 테스트를 잘 본다고 해서, 현실 세계에서 고지능 인간처럼 행동할 수 있다는 뜻은 아님
우리는 이미 SAGI(Stupid Artificial General Intelligence) 를 가지고 있음
인간보다 빠르거나 뛰어난 부분도 있지만, 동시에 어리석은 부분도 있음
마치 비행기가 새처럼 날지 않지만, 그래도 날 수 있는 것과 같음
Hacker News 의견
AGI를 ‘잘 교육받은 성인의 인지적 다양성과 숙련도’ 로 정의하는 건 너무 과한 목표처럼 느껴짐
사실 교육받지 않은 아이 수준의 인지 능력을 가진 인공지능조차 엄청난 성취일 것임
동물 수준의 지능을 구현하는 것도 인류사적 사건이 될 것이라 생각함
진짜 범용 AI를 만든다면, 아마도 수십억 개의 파라미터로 구성된 모델이 온라인에서 정보를 찾아보고, 필요할 때만 기억을 유지하며, 계획하고 지식을 확장하는 정도일 것임
30개 언어를 알 필요도 없고, 위키피디아를 전부 외울 필요도 없음
이런 효율적인 모델이야말로 내가 생각하는 AGI의 정의임
예전의 튜링 테스트도 결국 허점이 드러났음 — 단순히 평균적인 인간 심문자에게 통과했다고 해서 진짜 지능이라 할 수 없었음
진짜 지능(I) 을 정의할 수 있다면, 범용성(G) 은 자연스럽게 따라올 것임
논문을 읽고 느낀 건, ‘의식(awareness)’에 대한 논의가 전혀 없다는 점임
인지는 근본적으로 의식을 필요로 하지만, 의식은 언어로 설명하거나 측정하기 어려움
불교나 철학이 수천 년간 탐구했지만 여전히 정의 불가능함
내 아버지가 심리측정학 교수인데, 인간의 지능을 측정하는 도구 자체가 너무 불완전하다고 하심
언어는 인간 지식을 담을 수 있지만, ‘의식의 불꽃’ 은 포착하지 못함
명상을 해보면 생각이 사라져도 행동이 가능함 — 이런 비언어적 과정은 모델이 학습할 수 없음
LLM은 언어적 예측 구조상 이런 비의식적 사고 과정을 구현할 수 없다고 봄
인간의 뇌나 LLM 모두 내부에서 고차원적 개념 융합과 벡터 결합을 수행함
문제는 지속 학습, 장기 기억, 무한한 문맥 처리가 없다는 것임
이 세 가지가 해결되면 AGI에 한 걸음 더 다가설 것이라 믿음
의식의 존재를 증명할 수도 없는데, 그걸 전제로 삼는 건 비생산적임
철학적 논쟁을 기다릴 필요 없이, 우리는 이미 사고하고 추론하는 기계를 만들고 있음
그런데 AI 논의는 늘 한 가지 지능만 다룸
종교나 명상은 ‘의식이 몸 안에 존재함’을 강조하지만, AGI 논의는 이런 초월적 측면을 결함으로 취급함
의식이 생기면 자율성과 권리가 생기기 때문임
산업계는 도덕적 책임이 없는 ‘순종적 도구’ 를 원함
나 자신이 의식이 있다는 것만 확신할 수 있음
그렇기에 의식은 지능의 유용한 지표가 아님
인간 지능을 생물학과 분리해 생각하는 건 잘못이라 봄
인간의 사고는 생물학적 상태와 진화적 주기에 깊이 뿌리내리고 있음
체스 실력은 비교 가능하지만, 인간의 감정과 추론은 논리보다 생물학에 가까움
배고픔, 죽음, 감정이 없으니 스스로 탐구하거나 개선하려는 내적 동기가 없음
인간은 내부에서 성장하지만, AI는 외부에서 훈련됨
그래서 LLM이 인간적 의미의 AGI에 도달하긴 어렵다고 생각함
하지만 나는 그 가정에 회의적임
결국 ‘지능’의 정의가 AI가 보여주는 결과에 맞춰 재정의될 가능성이 큼
종교적 질문에 가깝고, 단지 기술적으로 묘사할 뿐임
LLM은 그 묘사에 근접할 수 있지만, 진짜 지능은 아닐 수 있음
지능은 인간 생물학에 묶여 있지 않다고 생각함
이 논문은 마치 SAT 점수와 벤처캐피털 평가를 섞은 듯한 느낌을 줌
AGI를 “인간의 모든 인지 능력을 가진 AI”로 정의하는 건 이미 모호함
논문은 “AGI의 구체적 정의를 제시한다”고 하지만, 여전히 ‘잘 교육받은 성인’ 이라는 불명확한 기준에 의존함
AI는 이미 여러 분야에서 성인 수준을 넘었음
논문이 말하는 “들쭉날쭉한(jagged) 인지 프로필”은 사실 모든 지능이 환경에 따라 그렇기 마련임
그래서 이건 AGI 정의가 아니라, 단순히 AI의 인지적 불균형을 측정하는 틀에 불과함
놀라운 건 AI가 인간보다 훨씬 불균형적(jagged) 이라는 점임
AI가 기술적으로 흥미롭긴 하지만, “AGI란 무엇인가”라는 논의는 너무 지루함
마치 양자컴퓨팅 얘기할 때마다 ‘큐비트란 무엇인가’ 부터 설명해야 하는 느낌임
기술은 목적지가 아니라 지속적 개선의 과정임
결국 모든 기술은 낡고, 향수로만 남게 됨
AI도 계속 발전하겠지만, 우리는 그 속도에 익숙해지는 끓는 물 속의 개구리일 뿐임
목적지는 아니더라도, 논의할 가치는 충분함
의식과 사고의 본질은 수백 년 전부터 논의된 주제임
새로운 통찰처럼 보이지만, 사실 오래된 철학의 재탕임
이 논문은 인간용 지능 측정 도구를 기계에 그대로 적용하려는 점이 근본적으로 잘못됨
예를 들어 ‘dual N-back 테스트’는 인간의 작업 기억 변이를 측정하기 위한 것이지만, 트랜스포머 모델에는 의미가 없음
인간 지능 검사는 인간의 실세계 성과와 상관관계를 전제로 설계된 것임
따라서 AI가 IQ 테스트를 잘 본다고 해서, 현실 세계에서 고지능 인간처럼 행동할 수 있다는 뜻은 아님
우리는 이미 SAGI(Stupid Artificial General Intelligence) 를 가지고 있음
인간보다 빠르거나 뛰어난 부분도 있지만, 동시에 어리석은 부분도 있음
마치 비행기가 새처럼 날지 않지만, 그래도 날 수 있는 것과 같음
관련 논의는 When Will AI Transform the Economy?에서 다뤄짐
수학자들이 쓰는 ‘Naive Set Theory’처럼 단순하지만 실용적인 개념임
흥미로운 점은, HN에서는 대부분 현재의 AI를 ‘가짜’나 ‘장난감’ 으로 치부하지만
세상에서 가장 성공한 사람들은 여기에 수조 달러를 투자하고 있다는 것임
누가 옳은지는 모르겠지만, 이 극단적 대비가 흥미로움
가치 없는 것을 만들어도 성공할 수 있음
GPT-5가 58% 점수를 받았다는 건 너무 높게 느껴짐
실제로는 AGI에 그렇게 근접하지 않음
게다가 Gary Marcus와 Yoshua Bengio가 같은 논문에 있다는 게 이상함
요즘은 저자 목록 자체가 퍼포먼스처럼 보임