알파 제로의 바둑 패턴이 사람의 바둑 패턴과 거의 유사하다는 것입니다. 즉, 정석이 크게 바뀌지 않았는데요.
음? 제가 바둑은 잘 몰라도 체스는 꽤 오래 했는데 이 부분은 바둑 두던 사람들에게 들었던 것과 전혀 다르네요.
혹시 이 부분에 대한 근거가 있을까요?
저는 인간들이 안 좋다고 판단하여 두지 않았던 수를 알파고가 검토해서 새로운 정석으로 만들었다고 알고 있습니다.
https://namu.wiki/w/3%EC%9D%98%203
일단 바둑의 경우, "AI와 사람이 같은 수준에 도달했다고 평가"하는 것 자체가 잘못된 이해로 보입니다. 이미 AI는 바둑 분야에서 인간을 뛰어넘은 능력을 입증했습니다.
현재 바둑계에서 레이팅이 가장 높은 기사는 신진서 9단인데, 점수가 3866점입니다. (https://www.goratings.org/ko/ 참고)
그런데 언급하신 알파고 제로(2017)의 경우 발표된 Elo rating은 무려 5185점에 달합니다.
참고로 Elo rating이 200점 차이나는 경우 네 번 겨뤄서 세 번 이길 수 있는 정도의 실력 차이에 해당하고, 1200점 차이나는 경우 예상 승률은 99.9%에 달한다고 합니다.
이세돌과 대국하여 5번 중 4번 이기고 1번 졌었던 버전의 알파고는 Elo rating이 3739점이었고, 그 버전의 알파고와 알파고 제로를 붙여보니 100:0으로 알파고 제로가 승리했지요.
따라서 점수 차이가 1300점 이상 나는데도 질적 차이가 없다고 생각하는 것은 그저 현실을 무시하는 것이 아닐까 합니다.
그리고 AI의 등장 이후에도 바둑의 정석이 크게 바뀌지 않았다는 주장 또한 단순한 구글 검색 한번만으로도 사실과 다름을 알 수 있습니다.
또한, 만약 AI의 처리 결과물이 인간과 유사하게 나왔다고 해도, 그것이 인간의 방식이 항상 가능한 최선이라는 것을 보장해주는 것은 아닙니다.
인간의 지능이 최정상에 있어서 더 이상 올라갈 곳이 없다는 것은, 인간의 학습 및 문제풀이 방식이 가능한 한에서는 최선이라는 말과 다르지 않을 것입니다.
하지만 정말 그럴까요? 인간의 지능은 진화 과정에서 각 시기에 당면한 생존 등의 문제를 해결하기 위해 진화적 압력에 의해 다듬어진 것으로, 온갖 휴리스틱과 편향이 존재하고 있습니다.
현재로서는 인공지능이 이것조차 온전히 따라가지 못하고 있는 것도 사실입니다만, 그것이 미래에 등장할 인공지능 또한 인간을 넘어설 수 없다는 근거는 되지 못합니다.
마지막으로, "모르기 때문에 찾아 헤매는 것"이야말로 기계가 인간보다 훨씬 더 잘할 수 있는 부분으로 판단됩니다. 기계라면 다수의 인스턴스를 동원하여 병렬적으로 탐색이 가능하니까요. 심지어 이것 또한 언급하신 알파고 제로 수준에서 이미 시연되었던 것입니다.
여기서 물리학이나 화학 등 과학 실험에서 지식 습득에 병목현상이 발생하리라는 점은 저도 동의합니다만, 그런 병목이 없거나 적은 분야에서는 오히려 더욱 빠른 발전이 가능할 것입니다. 예를 들면 수학이나 코딩 등의 영역이 있겠습니다.
그리고 병목이 발생하는 지점에서조차 지금보다 훨씬 빠른 발전이 가능한 영역이 있습니다. (알파폴드가 보여주는 것처럼) 시뮬레이션으로 미리 무언가를 예측하여 실제 실험이 필요한 횟수를 줄이고, 로봇을 동원하여 반복적인 실험을 자동화하겠지요.
그렇다면 여기서 "타입 B"라고 이름붙이신 형태의 집단적/속도적 초지능이 이미 그 영역에서 인간을 뛰어넘을 거라고 예측하는 게 맞지 않겠습니까? 인간의 한계와 이론적/물리적 한계는 엄연히 다른 이야기니까요. "빠르기만 한 것은 질적인 향상이 아니다"라고 주장한다면 그건 그냥 골대를 옮기는 논점이탈에 불과하다고 봅니다. 실제로 나올 결과물은 명백히 인간의 것을 뛰어넘을 것이므로, 그 시점에서 이미 "단지 빠르기만 하다"라고 주장하기 어려워 보입니다.
차라리 인간의 지능이 현재 생물학적인 한계에 부딪쳤으므로 인간의 지능이 현재 이상으로 크게 높아지기는 어려울 것이라는 주장이라면 그럴싸할 것 같습니다.
그러나 생물학적 한계가 아닌 물리적 한계에 제약받는 기계의 지능이 질적으로 인간과 유사한 한계가 있을 것이라는 대담한 주장이라면, 그만큼 더 그럴싸한 증거와 논리가 필요하다고 생각합니다.
아래 두분 의견에 답변하자면, 아마도 평가를 어떻게 할거냐는 부분의 문제일것 같습니다. 제가 평가기준을 제시하지 않았으니 애초에 좀 막연한 주장일수 있을것 같기는 합니다.
제 기준에선 수학점수 80점과 90점의 차이, 문제 푸는데 1시간 걸리는 것과 30분 걸리는 것의 차이를 지능의 차이라고 보지는 않고 싶습니다. 그 정도의 차이라면 같은 수준의 지능이라고 보는게 좋을것 같습니다. 사람 간에도 편차가 크지만 우린 "사람의 지능" 이라고 퉁치고 있으니까요. 프로기사들도 다 실력이 다르고 elo 랭킹이 다르지만 이들의 바둑이 전혀 다른 수준의 바둑이라고 얘기하진 않지만 10급 수준의 아마추어와는 전혀 다른 수준의 바둑을 둔다고 얘기할수 있습니다. 이 측면에서 알파제로는 이세돌을 항상 이김에도 불구하고 다른 수준의 바둑은 아닙니다. (이렇게 얘기한다면 바둑에 있어서는 신과 사람과 AI가 같은 수준이라고 얘기해야겠네요. 만약 신이 전혀 다른 수준의 바둑을 둘수 없다면 말이죠. 예를들어, 신은 9점 깔고도 사람을 이긴다거나.)
"바둑의 정석이 크게 바뀌지 않았다"는 제 주장에, 바뀐게 없지 않다, 새로운 정석도 나왔다는 반론은 "반론을 위한 반론"인 감이 없지 않습니다만 그게 토론의 맛이긴 하죠. 반론이 없다면 토론은 너무 밋밋해질 테니까요.
추가로, 질적인 차이와 속도를 구분하는것 만으로도 우린 AI의 전망에 대해 좀더 잘 예측할수 있을것 같습니다. 앞서 언급했듯이 강남대로에서 속도를 내기 어렵듯이 우리가 실제로 풀어야할 문제들은 속도를 내기 어려운 환경이거든요. 속도에 제한이 있고 질적으로 유사한 수준의 지능이라면 결과에서 차이를 내기는 어려울테구요. 물론 속도의 병목이 없는 일부 영역이 있을 여지가 있겠지만 수학과 코딩은 아닌것 같고, 이 영역은 일단 질적인 수준의 개선이 우선일것 같습니다. (그런데 제 주장은 AI가 사람을 못따라 올것이다 라는 것은 아닙니다)
사람과 AI가 붙었을 때 어느 한쪽이 99% 이상의 승률로 압도적으로 이기는 경우, 어떻게 그게 같은 수준이라고 볼 수 있겠습니까? 그건 그냥 구분을 하지 말자는 것과 동일한 이야기입니다.
"바둑에 있어서는 신과 사람과 AI가 같은 수준"이라는 건, 마치 바둑을 둘 때 신과 사람과 AI가 같은 규칙을 공유하므로 셋의 실력은 본질적으로 동등하다고 주장하는 것과 같아 보입니다. 하지만 같은 규칙을 공유한다는 것과 실력이 같다는 것은 완전히 다른 이야기입니다.
이 기준대로라면 어떤 실증적 격차가 명백하게 존재해도 이 분의 기준으로는 같은 수준이라고 말할 수 있으므로, 논의가 아무런 의미가 없는 것으로 보입니다.
이 분이 본인의 블로그에 올리신 다른 글을 보면, 근거를 받아들이는 전제부터가 제 기준과는 많이 다른 것 같습니다.
이런 차이가 있는 상태에선 정상적인 논의가 진행되기 어려울 것 같으니, 저는 여기까지 하겠습니다.
"바둑의 정석이 크게 바뀌지 않았다"는 제 주장에, 바뀐게 없지 않다, 새로운 정석도 나왔다는 반론은 "반론을 위한 반론"인 감이 없지 않습니다만 그게 토론의 맛이긴 하죠. 반론이 없다면 토론은 너무 밋밋해질 테니까요.
아 ㅋㅋㅋㅋㅋ 반박에 대한 추가 근거 제시도 없이 반론을 위한 반론 이라길래 뭐 하고 싶은 거지? 싶었는데...
블로그 링크 첨부 정말 감사합니다. 저도 여기까지만 해야겠네요
어쩐지 말솜씨가 예사롭지 않으시더니 달착륙 음모론 내기에서 음모론으로 이긴 자 셨군요.
달착륙 음모론 주장도 성공하시는데 이 분에게 불가능한 내기 주제가 있을까 궁금해집니다
아 ㅋㅋㅋㅋㅋ 반박에 대한 추가 근거 제시도 없이 반론을 위한 반론 이라길래 뭐 하고 싶은 거지? 싶었는데...
이건 정말 의외의 얘기여서, 여기까지만 하겠다고 하셨지만 조금더 얘기해볼수 있을까요?
바둑을 잘 모르셔서 그런걸수도 있겠는데, 기존 정석에 약간의 변화가 있었다는게 "바둑의 정석이 크게 바뀌지 않았다"는 것과 다른것일까요?
"크게" 라는 것과 "전혀" 라는게 다른 뜻이라는건 아실테고, 어떤 면에서 "뭐 하고 싶은 거지?" 라는 생각이 드신건지 궁금합니다.
좋은 의견 감사합니다.
제가 "아마도 인간을 뛰어넘는 지능은 없을거야" 라고 추정하는건 "지능의 본질"에 의거한 것이긴 합니다.
제가 지능을 두 가지로 구분한걸, 이미 알고 있는걸 잘하는것(타입 A)과 모르기때문에 찾아 헤매는 것(타입 B) 로 나눠본다면 한계가 어디인지가 좀더 분명해질것 같습니다.
타입 A가 현재 AI가 잘하는 영역이고, 우리가 좁은 의미로 지능이라고 생각하기 쉬운 영역입니다. 이건 쉬워서(그럼에도 오랫동안 AI로는 어려웠지만) 한계도 명확해보이긴 합니다. 마치 단순한 수학문제에서 100점이 한계인것처럼 말이죠.
타입 B는 지능처럼 안보일수도 있지만 실제로 우리가 어려운 문제를 해결해 나가는건 이 능력 덕분입니다. 우린 어떻게 하면 AGI 수준의 AI를 만들수 있는지 모름에도 불구하고 그걸 만들어갑니다. 플래밍이 패니실린을 발견하듯 순전히 우연에 의한 것만은 아니고, 수많은 가능성의 영역에서 좀더 가능성이 높은 방향을 선택해 나가면서 답을 찾아나가는 것이죠. 여기서의 한계는 질적이라기 보다 양적으로 보이고 위에 언급하신 속도적/집단적 초지능으로 생각해볼수 있을겁니다. 현실세계의 문제들은 사고실험 만으로 답을 찾을수 없기때문에 속도에는 한계가 있습니다. 마치 강남대로에선 아무리 빠른 자동차도 100km/h를 넘기 어렵듯이요.
저도 알파고 사례가 흥미로운 참고가 될수 있다고 봅니다. 저는 이 경우는 질적이라기 보다는 양적인 것이라 봅니다. 사람 수준의 패턴을 확보하고, 사람보다 훨씬 많은 경우의 수를 빠르게 탐색하게 해서 가능한 결과였으니까요.
더 흥미로운 점은, 알파고는 사람의 기보를 통해 학습시켰지만 이후 알파 제로는 사람의 기보를 배제하고 스스로 좋은 수를 찾도록 학습을 시켜서 알파고보다 더 높은 점수를 기록했음에도 불구하고 알파 제로의 바둑 패턴이 사람의 바둑 패턴과 거의 유사하다는 것입니다. 즉, 정석이 크게 바뀌지 않았는데요. 이건 사람이 이미 거의 최적의 수를 찾았다는걸 의미합니다. 타입 A에서의 한계점인 것이죠.
비교 기준은 사람마다 다를수 있지만 제 경우 바둑은 AI와 사람이 같은 수준에 도달했다고 평가하고 싶습니다. 바둑 초보자와 프로 바둑기사는 질적으로 다른 실력을 가지고 있지만 AI는 프로 바둑기사보다 좀더 빠를 뿐이니까요.