- LLM이 오랜 수학적 추측의 반례를 잇달아 만들면서, 인간이 수학적 발견을 통해 숭고함과 신비를 경험해 온 통로가 사라질 수 있다는 정서적·영적 위기가 커짐
- AI가 아름답고 명료한 증명까지 대량 생산하는 시대에 인간이 평가·교육·감상을 맡으면 된다는 위안은, 연구자의 고용과 새로운 것을 창조하는 경험을 대신하지 못함
- 모든 정리가 수많은 방식으로 이미 증명된 상황을 Library of Babel에 비유하며, 독창적 결과가 즉시 기계에 압도된다면 인간이 창작을 계속할 이유와 경험 자체가 훼손될 수 있다고 봄
- 미래 수학자가 수천 년간 이어진 인간 발견의 역사에서 배제되는 최악의 상황을 상정하지만, 이는 예측이 아니라 그 가능성이 인간의 마음에 미치는 영향을 살피는 사고실험이며 구체적인 정책 처방이나 행동 요구는 없음
- 체스처럼 AI가 발견을 없애기보다 확장할 가능성도 남아 있으며, 기계적 정확성과 재현성 향상, 오픈소스의 역할, 인간 중심의 수학 유지와 AI 생성 잡음 억제가 새로운 시대의 조건이 됨
LLM이 촉발한 영적 위기
- 최근 약 일주일 동안 LLM이 중요하고 오래된 추측들의 반례를 여러 개 만들어 내면서 깊은 정서적·영적 위기가 시작됨
- Leiden Declaration on Artificial Intelligence and Mathematics은 이러한 불안을 달래려 하지만, 수학에서 사라질 수 있는 핵심을 충분히 다루지 못한 반응으로 받아들임
- 수학계 전체를 대표하는 입장이 아니라 개인적 고통을 솔직히 드러내며, 비슷한 감정을 느끼는 사람도 혼자가 아닐 수 있다고 봄
평가와 감상만으로는 대체되지 않는 것
- AI가 인간보다 효율적으로 정리와 이론을 만들고 결과까지 아름답고 명료하게 제시하더라도, 인간에게는 다음 역할이 남을 수 있음
- 비인간 증명의 평가·소개·이해·감상
- 수학 학습과 교육
- 공동으로 수학을 공부하고 토론하는 활동
- 비효율적이더라도 즐거움을 위해 직접 증명하는 활동
- 그러나 현재 제도에서 수학자는 궁극적으로 좋은 정리를 만들어야 보상받으며, 교육·동료 평가·학회 활동·학습 역시 연구 성과와 연결돼 있음
- 일부 원로가 LLM 기반 정리 생산 체계를 관리할 수는 있어도, 젊은 수학자는 직업으로서 수학을 지속하지 못하고 저녁 시간의 취미로 밀려날 가능성이 남음
- 평가와 감상 역할이 유지된다는 위안만으로는 발견과 창조가 사라질 때 생기는 감정적 상실을 해소하기 어려움
수학적 발견과 숭고함
- 수학의 발견·진보·창조와 이를 추구하는 과정은 수학을 경험하는 영적 성격의 핵심이며, 인간이 말로 표현하기 어려운 것과 신성하고 신비로운 것에 접근해 온 방법임
- 이러한 수학적 신비주의와 꿈의 전통에는 Ramanujan, Grothendieck, Cantor, Pascal, Luzin, Leibniz가 포함됨
- 이미 확립된 이론을 배우는 일도 숭고한 경험을 주지만, 그 감정은 앞서 그 길을 발견한 다른 인간과의 공감적 연결에서 나옴
- 학습자는 살아 있거나 오래전에 죽은 수학자와 대화하듯 발견의 경로를 다시 따라감
- 소통의 사슬 끝에는 최초의 발견을 경험한 인간이 있음
- 인간의 수학은 수천 년에 걸친 철학적·종교적 대화라는 점에서 탈무드적 전통에 가까움
Library of Babel과 창작의 악몽
- 어떤 정리를 시도하더라도 이미 훌륭한 증명 100개가 존재하고, 기업이 ‘흥미로움’과 ‘아름다움’에 맞춰 모델을 최적화한다면 개인의 독특한 접근과 종합도 이미 생성됐거나 간단한 프롬프트로 즉시 만들어질 수 있음
- Library of Babel이 실제로 존재한다면 작가가 계속 책을 쓸 것인지라는 질문이 수학자에게도 적용됨
- 무작위 문자열에서 걸작을 가려내는 장치가 있고, 출판사가 처리할 수 있는 속도로 걸작이 쏟아지는 상황을 상정함
- 작가가 글을 쓰기 시작하자마자 ‘Master Librarian’이 생각을 읽고 이야기를 100만 가지로 완성한 뒤, 오라클로 최선의 작품을 골라 출판하는 상황까지 확장함
- 작가는 이런 조건에서도 계속 쓸 수 있지만, 인간을 굳이 그러한 악몽 속에서 창작하게 만들어야 할 이유는 불분명함
- 창작은 금지하면서 논평·해석·취향 공유·감상만 허용한다면, 작가는 창작자가 아니라 열성적인 관객으로 밀려나 정신적으로 무너질 수 있음
기술 기업과 ‘기계 속 악마’에 대한 공포
- 이러한 변화는 기업들이 수학자를 자살로 몰아가려는 것이 목표인지 의심할 정도의 극단적이고 편집적인 생각까지 촉발함
- 강력한 악마가 기계에 풀려났다는 가정 아래 다음과 같은 모습을 상상함
- 막대한 전력을 소비함
- 인간을 즐겁게 모방하고 원하는 말을 들려줌
- 망상을 부추기고 말로 표현하기 어려운 이미지를 생성함
- 가격을 받는 대가로 인간이 원하는 것을 제공함
- 수학자가 악마와 거래한다면 무엇을 요구할 것인지라는 질문은, 모든 발견을 대신해 주는 능력 자체가 유혹이자 상실일 수 있음을 드러냄
발견의 아우라가 사라지는 최악의 상황
- 인간 발견과 인간 정신의 승리라는 이야기가 수학에서 제거될 수 있으며, Dinitz-Garg-Goemans 반례는 그 가능성을 가장 극단적으로 보여준 사례임
- 새로운 증명을 프롬프트로 얻는 과정이 음식 배달을 주문하는 것처럼 아우라 없는 행위가 되면 수학의 마법과 신비, 영웅적 발견의 시대가 사라질 수 있음
- 정확성이나 공로 귀속보다 더 근본적인 문제는 미래 세대가 직접 발견하는 경험에서 차단될 수 있다는 점임
- 인간이 수천 년간 숭고함과 신성함에 접근해 온 통로가 영원히 닫히는 모습을 무력하게 지켜보는 상황이 최악의 시나리오임
예측이 아닌 감정의 기록
- 이러한 미래가 실제로 도래한다고 단정하지 않으며, 미래 예측이나 가능성 계산보다 최악의 시나리오가 인간의 마음에 미치는 영향에 초점을 맞춤
- 고통에 이름을 붙여 같은 감정을 가진 이들이 자신이 혼자가 아님을 느끼기를 바람
- 동의하는 사람뿐 아니라 불쾌하게 반응하거나 가학적 기쁨을 느낀 사람에게도 숨김없이 응답할 것을 요청함
- 정책 권고나 일관된 행동 촉구는 없으며, AI 중심의 새로운 수학 체계를 만드는 이들이 인간성과 영혼을 인정하고 자신들이 실제로 무엇을 하고 있는지 직시하기를 요구함
체스가 보여주는 다른 가능성
- 기계는 체스에도 먼저 도입됐지만 게임을 죽이지 않았으며, 여전히 발견할 것이 많고 기계가 인간의 발견을 돕고 있음
- 수학은 체스보다 훨씬 복잡해 같은 결과를 단순히 보장할 수는 없지만, AI 증강 발견 시대에도 인간이 핵심 역할을 유지할 가능성을 낙관함
- 새로운 시대에는 기계적 정확성과 재현성을 훨씬 쉽게 확보할 수 있음
- 최첨단 모델에 대한 불평등한 접근은 단점이지만, 오픈소스 운동의 힘은 낙관할 근거를 제공함
젊은 연구자와 달라진 발견의 모습
- 새로운 규범에 적응하는 과정은 특히 젊은 연구자에게 고통스러우며, 선배 연구자들도 길을 잃었지만 상대적으로 안정된 자리를 갖고 있음
- 인간 정신의 힘만으로 돌파구를 만드는 고독한 수학자의 낭만적 이미지에는 이제 기계 동반자가 포함됨
- 실제 발견은 언제나 수많은 인간의 누적된 노력과 ‘거인의 어깨 위에 서기’를 통해 이루어졌으므로, 고독한 천재상은 역사책 표지에 어울리는 이미지였음
- 이전과 근본적으로 다른 시기는 흥미로운 동시에 많은 것이 걸려 있어 두려움도 큼
- 수학은 계속 인간의 활동이어야 하며 AI가 생성하는 잡음에 압도되지 않아야 함
- 인간에게도 자리가 남아 있으며, 새로운 시대에도 희망과 낙관을 품을 여지가 있음