KAN: 정확성과 해석성을 위한 MLP에 보다 나은 대안
(arxiv.org)• 콜모고로프-아놀드 표현 정리에서 영감을 받은 다층 지각자(MLP)의 대안으로 콜모고로프-아놀드 네트워크(KAN)가 제안된다.
• 노드에 고정된 활성화 함수를 갖는 MLP와 달리 KAN은 에지에 학습 가능한 활성화 함수를 갖기 때문에 선형 가중치 행렬이 없다.
• KAN은 MLP에 비해 우수한 정확도를 보여 데이터 피팅 및 PDE 해결에서 네트워크 크기가 작을수록 비교 가능하거나 더 나은 결과를 얻을 수 있다.
• KAN은 이론적으로나 경험적으로 MLP보다 더 빠른 신경 스케일링 법칙을 가지고 있다.
• KAN은 향상된 해석성을 제공하여 직관적인 시각화 및 인간 사용자와의 상호 작용을 허용한다.
• 수학과 물리학의 예를 통해 KAN은 과학자들이 수학적, 물리적 법칙을 (재) 발견하는 데 도움이 되는 "협력자"로서 유용하다는 것을 증명한다.
• KAN은 MLP에 크게 의존하는 딥러닝 모델을 향상시켜 정확성과 해석성을 더욱 발전시킬 수 있는 기회를 열어주는 유망한 방법을 제시한다.