GN⁺: 검색 없는 그랜드마스터 수준 체스
(github.com/google-deepmind)체스 그랜드마스터 수준의 알고리듬 없이
- 이 저장소는 "체스 그랜드마스터 수준의 알고리듬 없이"라는 논문의 구현을 제공함
- 최근 머신러닝의 성공은 주로 대규모 주의 기반 아키텍처와 전례 없는 규모의 데이터셋 덕분임
- 이 논문은 체스를 위한 대규모 학습의 영향을 조사함
- 전통적인 체스 엔진과 달리 복잡한 휴리스틱이나 명시적 탐색에 의존하지 않음
- 2억 7천만 개의 매개변수를 가진 트랜스포머 모델을 1천만 개의 체스 게임 데이터셋으로 지도 학습함
- Stockfish 16 엔진의 액션 값을 사용하여 각 보드에 주석을 달아 약 150억 개의 데이터 포인트를 생성함
- 가장 큰 모델은 인간과의 Lichess blitz Elo 2895를 기록하며, 명시적 탐색 알고리듬 없이도 어려운 체스 퍼즐을 해결함
- AlphaZero의 정책 및 가치 네트워크(탐색 없이)와 GPT-3.5-turbo-instruct를 능가함
- 모델과 데이터셋 크기에 대한 체계적인 조사를 통해 충분한 규모에서만 강력한 체스 성능이 나타남을 보여줌
- 결과를 검증하기 위해 설계 선택과 하이퍼파라미터에 대한 광범위한 실험을 수행함
GN⁺의 정리
- 이 프로젝트는 체스에서 전통적인 탐색 알고리듬 없이도 높은 성능을 달성할 수 있음을 보여주는 중요한 연구임
- 대규모 데이터셋과 트랜스포머 모델을 활용하여 체스 엔진의 새로운 가능성을 탐구함
- AlphaZero와 같은 기존의 강력한 체스 엔진과 비교하여 더 나은 성능을 보임
- 체스에 관심 있는 사람들에게 흥미롭고 유용한 정보를 제공하며, 머신러닝의 새로운 응용 가능성을 제시함
- 유사한 기능을 가진 프로젝트로는 AlphaZero와 Leela Chess Zero가 있음
Hacker News 의견
-
사용자가 원하는 수준의 체스 상대를 찾기 어려움. 대부분의 엔진은 검색 깊이를 줄여 난이도를 낮추지만, 이는 효과적이지 않음
- 사용자는 인간 플레이어처럼 느껴지는 컴퓨터 상대를 원함
-
한 사용자는 체스와 관련된 지식 증류에 대한 발표를 했으며, 복잡한 비선형 검색 기능을 체스와 같은 표준 입력에 대해 준선형 변환기 모델로 증류하는 방법을 설명함
-
체스 신경망에 관심이 있는 사람들에게 PyTorch를 사용한 쉬운 코드와 현재 최고 성능의 체스 신경망과 유사한 아키텍처를 제공하는 GitHub 저장소를 추천함
-
LC0 네트워크와 DeepMind의 변환기 네트워크를 비교한 블로그 게시물이 있음
-
"Grandmaster-Level Chess Without Search" 논문은 대규모 주의 기반 아키텍처와 데이터셋의 중요성을 강조하며, 270M 파라미터 변환기 모델을 사용하여 체스를 학습함
- Stockfish 16 엔진을 사용하여 10억 개 이상의 데이터 포인트를 생성하고, 인간과의 Lichess blitz Elo 2895를 달성함
- AlphaZero의 정책 및 가치 네트워크를 능가함
-
대규모 합성 데이터셋은 전통적인 검색을 사용하여 생성되었으며, 이는 변환기 모델에 검색 트리를 인코딩하는 것과 같음
-
Matthew Sadler는 Leela Zero를 직관적으로 플레이하도록 설정했으며, 이는 검색 없이도 효과적으로 훈련 게임을 수행함
-
체스를 해결하면 너무 큰 트리가 생성되며, 이를 최적화하기 위한 두 가지 접근법이 있음
- 트리를 근사화하고 주석을 근사화하는 것
- 270M 단어의 데이터로 트리를 근사화할 수 있음
-
FEN 문자열을 고정 길이 문자열로 변환하여 보드 상태를 인코딩하고, UCI 표기법을 사용하여 행동을 저장함
- 문제 변형마다 토크나이저를 재작성해야 한다면 이는 단순한 프로그래밍임