ChatGPT 이후로 AGI에 대한 기대가 커지고 있고, 슈퍼인텔리젼스란 말도 이제 SF 처럼 들리지는 않습니다. 하지만 지능이란 개념은 여전히 막연하고, 어디까지 높아질수 있는 것인지도 감을 잡기 어렵습니다.
그래서 이런 가설을 한번 세워봤는데요. 지능이란 무한정 높아질수 있는 성질의 것이 아니다. 어떤 시스템도 사람의 지능을 넘어설수는 없다는 가설입니다.
https://blog.naver.com/conanoc/224107260779
여러분의 생각은 어떤지 궁금합니다.
지능의 연속체 가설을 생각해보자. 신이 존재하고 무한한 지능을 가지고 있다고 가정해보자. 신은 모든 것을 알고 있으므로 탐색이 필요하지 않다. 모든 패턴을 알고 있고 그 즉시 가장 좋은 의사결정을 할수 있으며 한번의 의사결정으로 바로 문제를 해결할 수 있다.
우선 이 가정은 (우리 물리계 내부의 관측자/계산자라는 전제에서) 불확정성 원리 때문에 불가능합니다(라플라스의 악마 참조). 그리고 정보를 다루는 행위에서 삭제/초기화 같은 비가역적 과정은 엔트로피 증가를 수반하므로(란다우어의 원리) 결국 학습/계산 등의 정보처리 행위는 물리계에서 에너지, 시간, 열 조건에 의해 상한이 생깁니다
그리고 LLM을 굳이 뇌와 비교하자면, 1. 사람의 뇌 상태를 통째로 얼려서 추가적인 학습/개선이 불가능하게 해놓고 2. 모든 감각기관을 제거한 다음에 3. 점자 시퀀스만 먹이고 뱉게 만든 형태라고 생각합니다. 결국 밖에서 보면 이 뇌는 LLM이랑 구별이 안될걸요? 그럼 이 뇌는 지능적이지 않은건가요?
제시된 글에서 주장하는 것은 단순한 착상에 불과할 뿐, 그걸 뒷받침할 만한 별다른 근거 제시는 글 속에 없는 것 같습니다.
미래의 AI 모델조차 그저 현재의 제한을 벗어나지 못할 거라는 근거가 있을까요?
닉 보스트롬은 그의 저서 "슈퍼인텔리전스"에서 초지능의 세 가지 형태를 제시한 바 있습니다.
- 속도적 초지능(speed superintelligence): 인간의 지능으로 할 수 있는 모든 일이 가능하면서 그것을 훨씬 더 빨리 처리할 수 있는 시스템
- 집단적 초지능(collective superintelligence): 작은 단위의 지성체들 여러 개가 하나로 뭉쳐져 시스템을 구성한 것으로서 현존하는 그 어떤 인지적 시스템보다도 여러 일반적인 영역에서의 전반적인 수행력이 더 뛰어난 시스템
- 질적 초지능(quality superintelligence): 적어도 인간의 정신만큼 빠르고 질적으로 그보다 훨씬 더 똑똑한 시스템
이 중에서 제시해주신 글에서 언급되는 것은 질적 초지능에 국한하는 것 같지만, 설령 질적 초지능이 불가능하다고 할지라도 속도적 초지능과 집단적 초지능의 경우 이것이 불가능할 것으로 볼 근거가 없습니다.
이미 상당수 AI 모델은 인간과는 비교도 안 되는 속도로 산출물을 출력하는 모습을 보여주고 있으며, 내부적으로는 Mixture-of-Experts 구조로 되어 있습니다.
따라서, AI 기술이 발전하는 경우 만약 개별적인 사고의 깊이가 인간 수준이라 할지라도 전반적으로 보여주는 능력은 여러 면에서 인간을 뛰어넘을 것으로 예상할 수 있습니다.
그리고 질적 초지능이 불가능하리라는 근거도 빈약해 보입니다.
이미 10여년 전에 우리는 바둑이라는 특정 영역에서 AI가 인간을 뛰어넘는 시대가 도래함을 목격했지요. 그런 식으로, 적어도 정답이 정해져 있는 분야에 한해서는 기계가 인간의 능력을 뛰어넘는 것이 가능하리라는 것이 이미 분명해 보입니다.
초지능이 온다고 해서, 정답이 정해지지 않은 문제에 "정답"이 생겨날 거라고 보지는 않습니다.
예를 들면 윤리적 딜레마 같은 건 어떤 가치를 더 중시하느냐만 있을 뿐 정답이란 것이 정해질 수 없으니까요.
다만 그 문제와 관련된 논의에 도움을 줄 수는 있다고 봅니다. 예를 들어 인간이 미처 생각하지 못했던 점을 지적한다던가 하는 식으로 말이죠. 이건 지금도 어느 정도는 가능하다고 봅니다.
좋은 의견 감사합니다.
미래의 AI 모델조차 그저 현재의 제한을 벗어나지 못할 거라는 근거가 있을까요?
제가 "아마도 인간을 뛰어넘는 지능은 없을거야" 라고 추정하는건 "지능의 본질"에 의거한 것이긴 합니다.
제가 지능을 두 가지로 구분한걸, 이미 알고 있는걸 잘하는것(타입 A)과 모르기때문에 찾아 헤매는 것(타입 B) 로 나눠본다면 한계가 어디인지가 좀더 분명해질것 같습니다.
타입 A가 현재 AI가 잘하는 영역이고, 우리가 좁은 의미로 지능이라고 생각하기 쉬운 영역입니다. 이건 쉬워서(그럼에도 오랫동안 AI로는 어려웠지만) 한계도 명확해보이긴 합니다. 마치 단순한 수학문제에서 100점이 한계인것처럼 말이죠.
타입 B는 지능처럼 안보일수도 있지만 실제로 우리가 어려운 문제를 해결해 나가는건 이 능력 덕분입니다. 우린 어떻게 하면 AGI 수준의 AI를 만들수 있는지 모름에도 불구하고 그걸 만들어갑니다. 플래밍이 패니실린을 발견하듯 순전히 우연에 의한 것만은 아니고, 수많은 가능성의 영역에서 좀더 가능성이 높은 방향을 선택해 나가면서 답을 찾아나가는 것이죠. 여기서의 한계는 질적이라기 보다 양적으로 보이고 위에 언급하신 속도적/집단적 초지능으로 생각해볼수 있을겁니다. 현실세계의 문제들은 사고실험 만으로 답을 찾을수 없기때문에 속도에는 한계가 있습니다. 마치 강남대로에선 아무리 빠른 자동차도 100km/h를 넘기 어렵듯이요.
이미 10여년 전에 우리는 바둑이라는 특정 영역에서 AI가 인간을 뛰어넘는 시대가 도래함을 목격했지요.
저도 알파고 사례가 흥미로운 참고가 될수 있다고 봅니다. 저는 이 경우는 질적이라기 보다는 양적인 것이라 봅니다. 사람 수준의 패턴을 확보하고, 사람보다 훨씬 많은 경우의 수를 빠르게 탐색하게 해서 가능한 결과였으니까요.
더 흥미로운 점은, 알파고는 사람의 기보를 통해 학습시켰지만 이후 알파 제로는 사람의 기보를 배제하고 스스로 좋은 수를 찾도록 학습을 시켜서 알파고보다 더 높은 점수를 기록했음에도 불구하고 알파 제로의 바둑 패턴이 사람의 바둑 패턴과 거의 유사하다는 것입니다. 즉, 정석이 크게 바뀌지 않았는데요. 이건 사람이 이미 거의 최적의 수를 찾았다는걸 의미합니다. 타입 A에서의 한계점인 것이죠.
비교 기준은 사람마다 다를수 있지만 제 경우 바둑은 AI와 사람이 같은 수준에 도달했다고 평가하고 싶습니다. 바둑 초보자와 프로 바둑기사는 질적으로 다른 실력을 가지고 있지만 AI는 프로 바둑기사보다 좀더 빠를 뿐이니까요.
알파 제로의 바둑 패턴이 사람의 바둑 패턴과 거의 유사하다는 것입니다. 즉, 정석이 크게 바뀌지 않았는데요.
음? 제가 바둑은 잘 몰라도 체스는 꽤 오래 했는데 이 부분은 바둑 두던 사람들에게 들었던 것과 전혀 다르네요.
혹시 이 부분에 대한 근거가 있을까요?
저는 인간들이 안 좋다고 판단하여 두지 않았던 수를 알파고가 검토해서 새로운 정석으로 만들었다고 알고 있습니다.
https://namu.wiki/w/3%EC%9D%98%203
일단 바둑의 경우, "AI와 사람이 같은 수준에 도달했다고 평가"하는 것 자체가 잘못된 이해로 보입니다. 이미 AI는 바둑 분야에서 인간을 뛰어넘은 능력을 입증했습니다.
현재 바둑계에서 레이팅이 가장 높은 기사는 신진서 9단인데, 점수가 3866점입니다. (https://www.goratings.org/ko/ 참고)
그런데 언급하신 알파고 제로(2017)의 경우 발표된 Elo rating은 무려 5185점에 달합니다.
참고로 Elo rating이 200점 차이나는 경우 네 번 겨뤄서 세 번 이길 수 있는 정도의 실력 차이에 해당하고, 1200점 차이나는 경우 예상 승률은 99.9%에 달한다고 합니다.
이세돌과 대국하여 5번 중 4번 이기고 1번 졌었던 버전의 알파고는 Elo rating이 3739점이었고, 그 버전의 알파고와 알파고 제로를 붙여보니 100:0으로 알파고 제로가 승리했지요.
따라서 점수 차이가 1300점 이상 나는데도 질적 차이가 없다고 생각하는 것은 그저 현실을 무시하는 것이 아닐까 합니다.
그리고 AI의 등장 이후에도 바둑의 정석이 크게 바뀌지 않았다는 주장 또한 단순한 구글 검색 한번만으로도 사실과 다름을 알 수 있습니다.
또한, 만약 AI의 처리 결과물이 인간과 유사하게 나왔다고 해도, 그것이 인간의 방식이 항상 가능한 최선이라는 것을 보장해주는 것은 아닙니다.
인간의 지능이 최정상에 있어서 더 이상 올라갈 곳이 없다는 것은, 인간의 학습 및 문제풀이 방식이 가능한 한에서는 최선이라는 말과 다르지 않을 것입니다.
하지만 정말 그럴까요? 인간의 지능은 진화 과정에서 각 시기에 당면한 생존 등의 문제를 해결하기 위해 진화적 압력에 의해 다듬어진 것으로, 온갖 휴리스틱과 편향이 존재하고 있습니다.
현재로서는 인공지능이 이것조차 온전히 따라가지 못하고 있는 것도 사실입니다만, 그것이 미래에 등장할 인공지능 또한 인간을 넘어설 수 없다는 근거는 되지 못합니다.
마지막으로, "모르기 때문에 찾아 헤매는 것"이야말로 기계가 인간보다 훨씬 더 잘할 수 있는 부분으로 판단됩니다. 기계라면 다수의 인스턴스를 동원하여 병렬적으로 탐색이 가능하니까요. 심지어 이것 또한 언급하신 알파고 제로 수준에서 이미 시연되었던 것입니다.
여기서 물리학이나 화학 등 과학 실험에서 지식 습득에 병목현상이 발생하리라는 점은 저도 동의합니다만, 그런 병목이 없거나 적은 분야에서는 오히려 더욱 빠른 발전이 가능할 것입니다. 예를 들면 수학이나 코딩 등의 영역이 있겠습니다.
그리고 병목이 발생하는 지점에서조차 지금보다 훨씬 빠른 발전이 가능한 영역이 있습니다. (알파폴드가 보여주는 것처럼) 시뮬레이션으로 미리 무언가를 예측하여 실제 실험이 필요한 횟수를 줄이고, 로봇을 동원하여 반복적인 실험을 자동화하겠지요.
그렇다면 여기서 "타입 B"라고 이름붙이신 형태의 집단적/속도적 초지능이 이미 그 영역에서 인간을 뛰어넘을 거라고 예측하는 게 맞지 않겠습니까? 인간의 한계와 이론적/물리적 한계는 엄연히 다른 이야기니까요. "빠르기만 한 것은 질적인 향상이 아니다"라고 주장한다면 그건 그냥 골대를 옮기는 논점이탈에 불과하다고 봅니다. 실제로 나올 결과물은 명백히 인간의 것을 뛰어넘을 것이므로, 그 시점에서 이미 "단지 빠르기만 하다"라고 주장하기 어려워 보입니다.
차라리 인간의 지능이 현재 생물학적인 한계에 부딪쳤으므로 인간의 지능이 현재 이상으로 크게 높아지기는 어려울 것이라는 주장이라면 그럴싸할 것 같습니다.
그러나 생물학적 한계가 아닌 물리적 한계에 제약받는 기계의 지능이 질적으로 인간과 유사한 한계가 있을 것이라는 대담한 주장이라면, 그만큼 더 그럴싸한 증거와 논리가 필요하다고 생각합니다.
아래 두분 의견에 답변하자면, 아마도 평가를 어떻게 할거냐는 부분의 문제일것 같습니다. 제가 평가기준을 제시하지 않았으니 애초에 좀 막연한 주장일수 있을것 같기는 합니다.
제 기준에선 수학점수 80점과 90점의 차이, 문제 푸는데 1시간 걸리는 것과 30분 걸리는 것의 차이를 지능의 차이라고 보지는 않고 싶습니다. 그 정도의 차이라면 같은 수준의 지능이라고 보는게 좋을것 같습니다. 사람 간에도 편차가 크지만 우린 "사람의 지능" 이라고 퉁치고 있으니까요. 프로기사들도 다 실력이 다르고 elo 랭킹이 다르지만 이들의 바둑이 전혀 다른 수준의 바둑이라고 얘기하진 않지만 10급 수준의 아마추어와는 전혀 다른 수준의 바둑을 둔다고 얘기할수 있습니다. 이 측면에서 알파제로는 이세돌을 항상 이김에도 불구하고 다른 수준의 바둑은 아닙니다. (이렇게 얘기한다면 바둑에 있어서는 신과 사람과 AI가 같은 수준이라고 얘기해야겠네요. 만약 신이 전혀 다른 수준의 바둑을 둘수 없다면 말이죠. 예를들어, 신은 9점 깔고도 사람을 이긴다거나.)
"바둑의 정석이 크게 바뀌지 않았다"는 제 주장에, 바뀐게 없지 않다, 새로운 정석도 나왔다는 반론은 "반론을 위한 반론"인 감이 없지 않습니다만 그게 토론의 맛이긴 하죠. 반론이 없다면 토론은 너무 밋밋해질 테니까요.
추가로, 질적인 차이와 속도를 구분하는것 만으로도 우린 AI의 전망에 대해 좀더 잘 예측할수 있을것 같습니다. 앞서 언급했듯이 강남대로에서 속도를 내기 어렵듯이 우리가 실제로 풀어야할 문제들은 속도를 내기 어려운 환경이거든요. 속도에 제한이 있고 질적으로 유사한 수준의 지능이라면 결과에서 차이를 내기는 어려울테구요. 물론 속도의 병목이 없는 일부 영역이 있을 여지가 있겠지만 수학과 코딩은 아닌것 같고, 이 영역은 일단 질적인 수준의 개선이 우선일것 같습니다. (그런데 제 주장은 AI가 사람을 못따라 올것이다 라는 것은 아닙니다)
사람과 AI가 붙었을 때 어느 한쪽이 99% 이상의 승률로 압도적으로 이기는 경우, 어떻게 그게 같은 수준이라고 볼 수 있겠습니까? 그건 그냥 구분을 하지 말자는 것과 동일한 이야기입니다.
"바둑에 있어서는 신과 사람과 AI가 같은 수준"이라는 건, 마치 바둑을 둘 때 신과 사람과 AI가 같은 규칙을 공유하므로 셋의 실력은 본질적으로 동등하다고 주장하는 것과 같아 보입니다. 하지만 같은 규칙을 공유한다는 것과 실력이 같다는 것은 완전히 다른 이야기입니다.
이 기준대로라면 어떤 실증적 격차가 명백하게 존재해도 이 분의 기준으로는 같은 수준이라고 말할 수 있으므로, 논의가 아무런 의미가 없는 것으로 보입니다.
이 분이 본인의 블로그에 올리신 다른 글을 보면, 근거를 받아들이는 전제부터가 제 기준과는 많이 다른 것 같습니다.
이런 차이가 있는 상태에선 정상적인 논의가 진행되기 어려울 것 같으니, 저는 여기까지 하겠습니다.
"바둑의 정석이 크게 바뀌지 않았다"는 제 주장에, 바뀐게 없지 않다, 새로운 정석도 나왔다는 반론은 "반론을 위한 반론"인 감이 없지 않습니다만 그게 토론의 맛이긴 하죠. 반론이 없다면 토론은 너무 밋밋해질 테니까요.
아 ㅋㅋㅋㅋㅋ 반박에 대한 추가 근거 제시도 없이 반론을 위한 반론 이라길래 뭐 하고 싶은 거지? 싶었는데...
블로그 링크 첨부 정말 감사합니다. 저도 여기까지만 해야겠네요
어쩐지 말솜씨가 예사롭지 않으시더니 달착륙 음모론 내기에서 음모론으로 이긴 자 셨군요.
달착륙 음모론 주장도 성공하시는데 이 분에게 불가능한 내기 주제가 있을까 궁금해집니다
평가 기준에 있어서 관점의 차이는 잘 이해했습니다. 말씀하신대로 1점이라도 좋은 점수를 받으면 지능이 더 높은 것이라는 기준을 사용한다면 저도 "지능의 연속체 가설"은 false 라고 생각합니다.
의견 감사합니다.