일단 바둑의 경우, "AI와 사람이 같은 수준에 도달했다고 평가"하는 것 자체가 잘못된 이해로 보입니다. 이미 AI는 바둑 분야에서 인간을 뛰어넘은 능력을 입증했습니다.
현재 바둑계에서 레이팅이 가장 높은 기사는 신진서 9단인데, 점수가 3866점입니다. (https://www.goratings.org/ko/ 참고)
그런데 언급하신 알파고 제로(2017)의 경우 발표된 Elo rating은 무려 5185점에 달합니다.
참고로 Elo rating이 200점 차이나는 경우 네 번 겨뤄서 세 번 이길 수 있는 정도의 실력 차이에 해당하고, 1200점 차이나는 경우 예상 승률은 99.9%에 달한다고 합니다.
이세돌과 대국하여 5번 중 4번 이기고 1번 졌었던 버전의 알파고는 Elo rating이 3739점이었고, 그 버전의 알파고와 알파고 제로를 붙여보니 100:0으로 알파고 제로가 승리했지요.
따라서 점수 차이가 1300점 이상 나는데도 질적 차이가 없다고 생각하는 것은 그저 현실을 무시하는 것이 아닐까 합니다.
그리고 AI의 등장 이후에도 바둑의 정석이 크게 바뀌지 않았다는 주장 또한 단순한 구글 검색 한번만으로도 사실과 다름을 알 수 있습니다.
또한, 만약 AI의 처리 결과물이 인간과 유사하게 나왔다고 해도, 그것이 인간의 방식이 항상 가능한 최선이라는 것을 보장해주는 것은 아닙니다.
인간의 지능이 최정상에 있어서 더 이상 올라갈 곳이 없다는 것은, 인간의 학습 및 문제풀이 방식이 가능한 한에서는 최선이라는 말과 다르지 않을 것입니다.
하지만 정말 그럴까요? 인간의 지능은 진화 과정에서 각 시기에 당면한 생존 등의 문제를 해결하기 위해 진화적 압력에 의해 다듬어진 것으로, 온갖 휴리스틱과 편향이 존재하고 있습니다.
현재로서는 인공지능이 이것조차 온전히 따라가지 못하고 있는 것도 사실입니다만, 그것이 미래에 등장할 인공지능 또한 인간을 넘어설 수 없다는 근거는 되지 못합니다.
마지막으로, "모르기 때문에 찾아 헤매는 것"이야말로 기계가 인간보다 훨씬 더 잘할 수 있는 부분으로 판단됩니다. 기계라면 다수의 인스턴스를 동원하여 병렬적으로 탐색이 가능하니까요. 심지어 이것 또한 언급하신 알파고 제로 수준에서 이미 시연되었던 것입니다.
여기서 물리학이나 화학 등 과학 실험에서 지식 습득에 병목현상이 발생하리라는 점은 저도 동의합니다만, 그런 병목이 없거나 적은 분야에서는 오히려 더욱 빠른 발전이 가능할 것입니다. 예를 들면 수학이나 코딩 등의 영역이 있겠습니다.
그리고 병목이 발생하는 지점에서조차 지금보다 훨씬 빠른 발전이 가능한 영역이 있습니다. (알파폴드가 보여주는 것처럼) 시뮬레이션으로 미리 무언가를 예측하여 실제 실험이 필요한 횟수를 줄이고, 로봇을 동원하여 반복적인 실험을 자동화하겠지요.
그렇다면 여기서 "타입 B"라고 이름붙이신 형태의 집단적/속도적 초지능이 이미 그 영역에서 인간을 뛰어넘을 거라고 예측하는 게 맞지 않겠습니까? 인간의 한계와 이론적/물리적 한계는 엄연히 다른 이야기니까요. "빠르기만 한 것은 질적인 향상이 아니다"라고 주장한다면 그건 그냥 골대를 옮기는 논점이탈에 불과하다고 봅니다. 실제로 나올 결과물은 명백히 인간의 것을 뛰어넘을 것이므로, 그 시점에서 이미 "단지 빠르기만 하다"라고 주장하기 어려워 보입니다.
차라리 인간의 지능이 현재 생물학적인 한계에 부딪쳤으므로 인간의 지능이 현재 이상으로 크게 높아지기는 어려울 것이라는 주장이라면 그럴싸할 것 같습니다.
그러나 생물학적 한계가 아닌 물리적 한계에 제약받는 기계의 지능이 질적으로 인간과 유사한 한계가 있을 것이라는 대담한 주장이라면, 그만큼 더 그럴싸한 증거와 논리가 필요하다고 생각합니다.
일단 바둑의 경우, "AI와 사람이 같은 수준에 도달했다고 평가"하는 것 자체가 잘못된 이해로 보입니다. 이미 AI는 바둑 분야에서 인간을 뛰어넘은 능력을 입증했습니다.
현재 바둑계에서 레이팅이 가장 높은 기사는 신진서 9단인데, 점수가 3866점입니다. (https://www.goratings.org/ko/ 참고)
그런데 언급하신 알파고 제로(2017)의 경우 발표된 Elo rating은 무려 5185점에 달합니다.
참고로 Elo rating이 200점 차이나는 경우 네 번 겨뤄서 세 번 이길 수 있는 정도의 실력 차이에 해당하고, 1200점 차이나는 경우 예상 승률은 99.9%에 달한다고 합니다.
이세돌과 대국하여 5번 중 4번 이기고 1번 졌었던 버전의 알파고는 Elo rating이 3739점이었고, 그 버전의 알파고와 알파고 제로를 붙여보니 100:0으로 알파고 제로가 승리했지요.
따라서 점수 차이가 1300점 이상 나는데도 질적 차이가 없다고 생각하는 것은 그저 현실을 무시하는 것이 아닐까 합니다.
그리고 AI의 등장 이후에도 바둑의 정석이 크게 바뀌지 않았다는 주장 또한 단순한 구글 검색 한번만으로도 사실과 다름을 알 수 있습니다.
또한, 만약 AI의 처리 결과물이 인간과 유사하게 나왔다고 해도, 그것이 인간의 방식이 항상 가능한 최선이라는 것을 보장해주는 것은 아닙니다.
인간의 지능이 최정상에 있어서 더 이상 올라갈 곳이 없다는 것은, 인간의 학습 및 문제풀이 방식이 가능한 한에서는 최선이라는 말과 다르지 않을 것입니다.
하지만 정말 그럴까요? 인간의 지능은 진화 과정에서 각 시기에 당면한 생존 등의 문제를 해결하기 위해 진화적 압력에 의해 다듬어진 것으로, 온갖 휴리스틱과 편향이 존재하고 있습니다.
현재로서는 인공지능이 이것조차 온전히 따라가지 못하고 있는 것도 사실입니다만, 그것이 미래에 등장할 인공지능 또한 인간을 넘어설 수 없다는 근거는 되지 못합니다.
마지막으로, "모르기 때문에 찾아 헤매는 것"이야말로 기계가 인간보다 훨씬 더 잘할 수 있는 부분으로 판단됩니다. 기계라면 다수의 인스턴스를 동원하여 병렬적으로 탐색이 가능하니까요. 심지어 이것 또한 언급하신 알파고 제로 수준에서 이미 시연되었던 것입니다.
여기서 물리학이나 화학 등 과학 실험에서 지식 습득에 병목현상이 발생하리라는 점은 저도 동의합니다만, 그런 병목이 없거나 적은 분야에서는 오히려 더욱 빠른 발전이 가능할 것입니다. 예를 들면 수학이나 코딩 등의 영역이 있겠습니다.
그리고 병목이 발생하는 지점에서조차 지금보다 훨씬 빠른 발전이 가능한 영역이 있습니다. (알파폴드가 보여주는 것처럼) 시뮬레이션으로 미리 무언가를 예측하여 실제 실험이 필요한 횟수를 줄이고, 로봇을 동원하여 반복적인 실험을 자동화하겠지요.
그렇다면 여기서 "타입 B"라고 이름붙이신 형태의 집단적/속도적 초지능이 이미 그 영역에서 인간을 뛰어넘을 거라고 예측하는 게 맞지 않겠습니까? 인간의 한계와 이론적/물리적 한계는 엄연히 다른 이야기니까요. "빠르기만 한 것은 질적인 향상이 아니다"라고 주장한다면 그건 그냥 골대를 옮기는 논점이탈에 불과하다고 봅니다. 실제로 나올 결과물은 명백히 인간의 것을 뛰어넘을 것이므로, 그 시점에서 이미 "단지 빠르기만 하다"라고 주장하기 어려워 보입니다.
차라리 인간의 지능이 현재 생물학적인 한계에 부딪쳤으므로 인간의 지능이 현재 이상으로 크게 높아지기는 어려울 것이라는 주장이라면 그럴싸할 것 같습니다.
그러나 생물학적 한계가 아닌 물리적 한계에 제약받는 기계의 지능이 질적으로 인간과 유사한 한계가 있을 것이라는 대담한 주장이라면, 그만큼 더 그럴싸한 증거와 논리가 필요하다고 생각합니다.