- Vesuvius Challenge 2023은 79년 베수비오 화산 폭발로 탄화된 Herculaneum Papyri를 펼치지 않고 읽어, 2,000년간 보이지 않던 텍스트 일부를 복원함
- Youssef Nader, Luke Farritor, Julian Schilliger 팀은 4개 구절 각 140자와 문자 복원율 85% 이상 기준을 충족해 $700,000 대상을 받았고, 제출물에는 15개 열과 2,000자 이상 텍스트가 포함됨
- 복원된 두루마리는 기존 작품의 중복본이 아니라 고대의 미공개 텍스트로 보이며, 음악·음식·감각·쾌락을 다루는 Epicurean 철학 텍스트로 판독됨
- 핵심 기술은 X선 단층촬영, 3D 파피루스 층 세그멘테이션, 머신러닝 기반 잉크 감지를 결합한 방식이며, 수상 코드와 학습 데이터가 공개되어 재현과 검증이 가능함
- 2024년 목표는 첫 두루마리 약 5% 판독에서 스캔된 4개 두루마리의 90% 판독으로 확장하는 것이며, 가장 큰 병목은 수작업 비용이 큰 세그멘테이션 자동화임
2,000년 된 두루마리를 열지 않고 읽음
- Herculaneum Papyri는 79년 Mount Vesuvius 폭발로 탄화된 파피루스 두루마리이며, 18세기에 발견된 뒤 현재 수백 점이 이탈리아 Naples의 도서관에 보관되어 있음
- 탄화된 재 덩어리 상태라 물리적으로 펼치면 심하게 손상될 수 있어, 내부 글자를 읽으려면 비파괴 방식이 필요했음
- Nat Friedman, Daniel Gross, Brent Seales는 2023년 3월 15일 Vesuvius Challenge를 시작함
- Institut de France의 두루마리를 Oxford 근처 Diamond Light Source 입자가속기에서 고해상도 CT로 촬영함
- 공개된 CT 스캔을 바탕으로 전 세계 참가자들이 컴퓨터 비전, 머신러닝, 수작업을 조합해 문제를 풀었음
- 총상금은 여러 기부자가 제공한 100만 달러 이상이었음
- 2023년 12월, 참가자들은 첫 두루마리의 일부를 읽는 데 성공함
- PHerc.Paris. 4에서 2,000년간 보이지 않던 텍스트가 드러남
- 아직 두루마리의 약 95%는 읽히지 않은 상태임
2023 Grand Prize 수상 결과
- Grand Prize 제출물은 2024년 1월 1일 자정 마감 직전까지 들어왔고, 1월 동안 파피루스학 팀과 기술 팀이 검토함
- 파피루스학 팀은 익명화된 제출물의 15개 열 텍스트를 검토함
- 기술 팀은 제출된 코드와 방법을 감사하고 재현함
- 대상은 Youssef Nader, Luke Farritor, Julian Schilliger 팀이 받음
- 상금은 $700,000
- 기준은 4개 구절, 각 140자, 최소 85% 문자 복원 가능성이었음
- 조직팀 다수는 기준 발표 당시 성공 확률을 30% 미만으로 봤음
- 수상 제출물에는 추가 11개 열과 총 2,000자 이상의 텍스트가 포함됨
- 세 명은 Vesuvius Challenge 초기부터 커뮤니티에 기여함
- Youssef Nader는 Berlin의 이집트인 PhD 학생으로, 2023년 10월 몇 개 열을 읽어 First Letters Prize 2위를 받음
- Luke Farritor는 Nebraska 출신 21세 대학생이자 SpaceX 인턴으로, Herculaneum 두루마리 내부에서 전체 단어 ΠΟΡΦΥΡΑϹ(“purple”)를 처음 읽어 First Letters Prize 1위를 받음
- Julian Schilliger는 ETH Zürich의 스위스 로보틱스 학생으로, Volume Cartographer 작업으로 Segmentation Tooling 상 3개를 받음
수상 제출물의 기술 구성
- 제출물에는 서로를 뒷받침하는 세 가지 모델 아키텍처 결과가 포함됨
- 가장 강한 이미지는 TimeSformer 기반 모델에서 자주 나옴
- 과적합과 환각을 막기 위해 여러 아키텍처 결과, 입력·출력 윈도 크기 연구, label smoothing, 검증 fold 변화를 사용함
- 잉크 감지 코드는 GitHub에 오픈소스로 공개됨
- 강한 잉크 감지뿐 아니라 가장 강한 자동 세그멘테이션 접근도 함께 들어 있음
- Julian의 ThaumatoAnakalyptor는 여러 두루마리에서 대형 파피루스 세그먼트를 생성함
- 기존에 잘 알려진 영역을 다시 세그멘테이션해 이전 잉크 발견을 검증함
- 두루마리 가장 바깥쪽 감김처럼 새 영역에서도 글자를 드러냄
- 유망한 도구이지만 개선 작업은 많이 남아 있음
준우승과 공개된 방법
- 남은 제출물 중 파피루스학 팀 점수 기준으로 세 팀이 공동 준우승함
- 각 팀은 $50,000을 받음
- 세 제출물은 서로 비슷한 가독성을 보였고, 나머지 제출물보다 상당히 읽기 쉬웠음
- 공개된 준우승 팀 제출물:
- 준우승 팀들은 잉크 라벨링과 샘플링의 세부 문제에 새로운 접근을 가져옴
- Discord 커뮤니티에서는 CT 데이터와 추가 이미지를 데이터 계약 아래 접근할 수 있고, 참가자들의 발견과 협업이 계속됨
복원된 텍스트의 내용
- 현재까지 첫 두루마리의 약 5% 가 펼쳐지고 읽힘
- 파피루스학 팀은 드러난 모든 열에 대해 예비 전사를 만들었음
- 이 두루마리는 기존 작품의 중복본이 아니라 고대의 처음 보는 텍스트임
- 초기 판독상 전체 주제는 Epicurean 철학에서 가장 높은 선으로 이해되는 쾌락임
- 두 연속 열의 일부는 음식 같은 재화의 이용 가능성이 쾌락에 어떤 영향을 주는지를 다룸
- 저자는 “드문 것이 풍부한 것보다 반드시 더 즐겁다고 바로 믿지는 않는다”는 취지의 문장을 남김
- 이어 “그런 질문들은 자주 검토될 것”이라는 흐름이 이어짐
- 두루마리의 끝부분이라는 점 때문에 같은 작품의 후속 책에서 논의가 이어질 가능성이 있음
- 첫 텍스트 초반에는 Xenophantus라는 인물이 언급됨
- Philodemus의 _On Music_에도 언급되는, 아마 음악가로 보이는 인물일 수 있음
- Philodemus는 Epicurean 학파의 인물로, 두루마리가 발견된 villa의 작은 도서관에서 활동한 철학자로 여겨짐
- Richard Janko는 저자가 Virgil의 스승인 철학자이자 시인 Philodemus일 가능성이 매우 높다고 봄
- 음악이 청자에게 미치는 효과를 음식·음료 같은 다른 쾌락과 비교하는 글일 가능성이 꽤 높다고 봄
- 알려진 Book 4가 있는 음악에 관한 4부작 논문에서 나온 텍스트일 가능성도 있음
- Federica Nicolardi는 이 텍스트를 음악, 음식, 감각, 쾌락으로 가득 찬 Epicureanism 텍스트로 봄
- Bob Fowler는 Philodemus가 쾌락을 높게 평가했지만, 단순 방종이 아니라 올바르게 이해된 쾌락을 말한다고 봄
결과 이미지의 정확성을 검증한 방식
- 머신러닝 모델이 학습 데이터와 비슷한 글자나 이미지를 만들어내는 환각 가능성은 검증 대상이었음
- Vesuvius Challenge 기술 검토팀은 수상 제출물을 수동으로 재현함
- 코드의 각 부분을 이해하고 독립 실행 시 유사한 출력 이미지가 나오는지 확인함
- 코드와 학습 데이터가 공개되어 다른 사람도 같은 검증을 할 수 있음
- 여러 제출물이 같은 두루마리 영역에서 매우 유사한 결과를 냄
- 주최 측 세그멘테이션 팀이 CT 스캔 안의 3D 매핑된 파피루스 시트, 즉 세그먼트를 공개함
- 참가자들은 서로 다른 ML 모델과 학습 라벨을 사용했지만 비슷한 출력 이미지를 생성함
- 이런 일치는 수상팀과 준우승팀뿐 아니라 다른 제출물에서도 나타남
- 잉크 감지 모델은 그리스 문자, OCR, 언어 모델에 기반하지 않음
- CT 스캔에서 아주 작은 잉크 점을 독립적으로 감지함
- 글자는 이런 작은 감지 결과가 모였을 때 나중에 나타남
- 일부 경우 출력은 “잉크” 또는 “잉크 아님”의 이진값임
- 이 구조 때문에 모델이 문자처럼 보이는 모양을 환각할 가능성이 매우 낮다고 봄
가상 펼침의 세 단계
- 가상 펼침은 크게 스캔, 세그멘테이션, 잉크 감지로 구성됨
-
스캔
- 두루마리나 파편을 X선 단층촬영으로 3D 스캔함
- Diamond Light Source는 높은 플럭스의 평행 X선 빔으로 빠르고 정확한 고해상도 이미징을 가능하게 함
- X선 사진은 단층 재구성 알고리듬을 통해 voxel 기반 3D 볼륨으로 바뀌고, 슬라이스 이미지 스택이 생성됨
-
세그멘테이션
- 3D 공간에서 말리고 구겨진 파피루스의 개별 층을 추적한 뒤 펼쳐 평면화함
- 주로 Brent Seales 연구실의 Seth Parker 등이 만든 Volume Cartographer를 사용함
- Julian Schilliger와 Philip Allgaier 등이 도구를 확장함
- Ben Kyles, David Josey, Konrad Rosenberg로 구성된 전임 세그멘테이션 팀이 자동 알고리듬과 수동 조정을 함께 사용함
- 전체 두루마리를 세그멘테이션하기에는 여전히 매우 고된 과정이며 개선 여지가 큼
-
잉크 감지
- Stephen Parsons는 Herculaneum 잉크가 CT 스캔에서 이론적으로 감지될 수 있음을 보였지만, 이전에는 작은 파편에서만 가능했음
- 완전한 두루마리의 큰 스캔에서 잉크를 감지하는 일은 아직 달성되지 않았음
잉크 감지 돌파구
- 첫 번째 돌파구는 crackle pattern 발견이었음
- Casey Handmer는 2023년 여름 평면화된 표면 볼륨 원본을 보다가 글자처럼 보이는 특이한 crackle 패턴을 발견함
- 이 발견으로 First Ink Prize를 받았고, 커뮤니티에 공유함
- Luke Farritor는 세그멘테이션 팀이 만든 평면화 표면 볼륨에서 crackle을 더 찾아 모델을 학습했고, 10월 First Letters Prize 수상으로 이어짐
- 두 번째 흐름은 Kaggle competition이었음
- 수백 팀이 열린 파편에서 잉크를 감지하는 머신러닝 모델을 만들었음
- 이 파편들은 수백 년 전 물리적으로 펼치는 과정에서 떨어져 나온 조각임
- 참가자들은 파편 사진에서 얻은 ground truth 데이터를 사용할 수 있었음
- 모델 성능은 우수했지만, 처음에는 세그멘테이션 팀이 만든 평면화 세그먼트에서는 잘 작동하지 않는 것처럼 보였음
- Youssef Nader가 domain adaptation 기법을 적용하면서 First Letters Prize 2위 성과로 이어짐
- First Letters Prize 이후 Grand Prize 달성이 가시권에 들어왔고, Youssef, Luke, Julian이 팀을 구성함
2023년 성공에 기여한 운영 방식
- 프로젝트는 명확하고 이례적인 목표 덕분에 초기 보도, 기부, 내재적 동기가 강한 커뮤니티를 끌어들임
- Brent Seales와 팀이 20년간 쌓은 기반이 중요했음
- 첫 두루마리 스캔
- Volume Cartographer 구축
- 가상 펼침의 첫 성공 사례
- Herculaneum 잉크가 CT에서 감지 가능하다는 증명
- 경쟁과 협력을 섞기 위해 progress prizes를 운영함
- 대략 2개월마다 $1,000~$10,000 범위의 작은 상을 제공함
- progress prize를 받으려면 코드나 연구를 오픈소스로 공개해야 했음
- 이 방식은 커뮤니티 전체의 수준을 끌어올리고, 장비·컴퓨트·시간 투자와 팀 결성을 도왔음
- 전임 세그멘테이션 팀을 고용한 결정도 핵심이었음
- 수상 가능성을 높이기 위해 병목인 파피루스 추적 작업을 내부에서 수행함
- 세그멘테이션 품질은 잉크 감지가 되기 전 판단하기 어렵고, 수량 보상은 품질을 해칠 수 있었음
- 라벨링 작업은 지루하고 시간이 오래 걸리며 학습 곡선이 길어, 상금만으로 보상하기 어려웠음
- 이 결정은 Casey Handmer의 crackle pattern 발견으로 직접 이어졌고, 커뮤니티와 함께 더 나은 세그멘테이션 소프트웨어를 만드는 데 기여함
- 성공은 여러 사람의 작은 돌파구가 결합된 결과였고, 넓은 탐색 공간에서 작동하는 아이디어를 찾기 위해 많은 기여가 필요했음
2024년 Stage 2 목표
- 2023년에는 한 두루마리의 0%에서 5% 까지 도달함
- 2024년 목표는 스캔된 4개 두루마리 전체의 90%를 읽는 것이며, 이를 달성하는 첫 팀에 2024 Grand Prize를 수여함
- 정확한 심사 기준은 3월에 제공될 예정임
- 현재 가장 큰 병목은 두루마리 내부 파피루스 표면을 추적하는 과정임
- 오늘 읽을 수 있는 텍스트를 만들기 위해 수작업 비용이 제곱센티미터당 100달러 이상 들었음
- 이 비용 구조로 모든 두루마리를 세그멘테이션하려면 수억 달러 또는 수십억 달러가 들 수 있음
- 도구 개선으로 효율은 높아졌지만 여전히 너무 수동적이고 비쌈
- Stage 2의 핵심 목표는 자동 세그멘테이션을 완성하는 것임
- 제대로 작동하면 심하게 압축되거나 갈라지거나 박리되거나 손상된 어려운 영역도 읽을 수 있음
- 현재 도구가 들어가지 못하는 영역도 대상이 됨
- 2024년에는 Grand Prize를 유지하면서도 커뮤니티 기여를 위한 상금 비중을 더 키울 계획임
- 전임 세그멘테이션 팀에 더해 작은 소프트웨어·ML 팀을 고용해 커뮤니티와 공개적으로 협업할 계획임
더 큰 목표와 남은 가능성
- 이후 목표는 모든 두루마리를 스캔하고 읽는 것임
- Naples에 있는 두루마리에는 16MB 이상 텍스트가 들어 있을 것으로 추정함
- 파피루스학 팀 일부는 이 텍스트 공개가 르네상스 이후 고전학의 가장 큰 혁명이 될 수 있다고 봄
- Villa of the Papyri에는 아직 발굴되지 않은 두 층이 남아 있음
- 최소한 캐비닛과 운반 케이스 안에 더 많은 파피루스가 있을 가능성이 있음
- 아직 villa의 주요 도서관은 발견되지 않았음
- 그 도서관에는 더 넓은 범위의 그리스어·라틴어 문헌과 수천 또는 수만 개의 두루마리가 묻혀 있을 수 있음
- 다음 계획의 자세한 내용은 Master Plan에 있음