물리 기반 딥러닝 서적
(physicsbaseddeeplearning.org)- Physics-based Deep Learning Book v0.3는 물리 시뮬레이션과 딥러닝을 함께 다루는 디지털 서적으로, 실행 가능한 예제를 통해 수치해석과 신경망의 결합 방식을 학습하게 함
- GenAI edition에서는 생성 모델링 비중이 커졌고, denoising, flow-matching, autoregressive learning, 물리 통합 제약, diffusion 기반 graph network를 포함함
- 학습 범위는 지도학습에서 시작해 물리 손실 제약, 미분 가능한 시뮬레이션, diffusion 접근, 강화학습, 신경망 아키텍처 선택까지 확장됨
- 예고된 장들은 airfoil 주변 유동 예측, 방정식 residual 기반 학습, inverse problem, 시뮬레이터를 학습 루프에 넣는 방식처럼 실제 물리 문제에 가까운 사례를 다룸
- 모든 코드 예제는 브라우저에서 실행·수정 가능한 Jupyter Notebook 중심이라, 개념을 읽는 데서 그치지 않고 바로 실험해볼 수 있음
물리 시뮬레이션을 위한 딥러닝 학습서
- Physics-based Deep Learning Book은 물리 시뮬레이션 영역의 딥러닝을 다루는 실습형 종합 가이드임
- 이 문서는 이론 설명과 대화형 Jupyter Notebook을 연결해, 각 개념을 바로 실행하며 확인할 수 있게 구성됨
- 다루는 주요 주제는 다음과 같음
- 전통적 지도학습
- 물리 loss-constraints
- 미분 가능한 시뮬레이션
- 확률적 생성 AI를 위한 diffusion 기반 접근
- 강화학습
- 고급 신경망 아키텍처
- v0.3인 GenAI edition의 주요 추가점은 생성 모델링 장임
- denoising
- flow-matching
- autoregressive learning
- physics-integrated constraints
- diffusion-based graph networks
- 물리 시뮬레이션을 위해 설계된 neural architectures 전용 섹션도 추가됐고, 모든 코드 예제는 최신 프레임워크를 활용하도록 업데이트됨
예고된 장과 실습 방식
- 이후 장에서는 diffusion modeling으로 airfoil 주변 유체 흐름을 예측하는 방법을 다룸
- 이 방식은 기존 시뮬레이터를 대체하고 능가하는 확률적 surrogate model을 제공함
- 모델 방정식을 residual로 사용해 네트워크가 해를 표현하도록 학습시키는 방법도 포함됨
- residual 제약은 미분 가능한 시뮬레이션을 사용해 개선할 수 있음
- 전체 시뮬레이터와 더 긴밀히 상호작용해 inverse problem을 푸는 방법을 다룸
- 시뮬레이터를 학습 루프에 넣는 방식으로 표준 강화학습 기법의 수렴 문제를 우회하는 예를 보여줌
- 적절한 네트워크 아키텍처 선택도 주요 주제임
- global interaction과 local interaction
- continuous representation과 discrete representation
- structured graph mesh와 unstructured graph mesh
- PBDL 접근들은 물리 모델을 딥러닝에 통합하는 강도가 점점 높아지는 순서로 소개됨
- 각 접근의 장단점과 유용한 시나리오도 함께 다룸
- 코드 예제는 브라우저에서 바로 실행할 수 있는 Jupyter Notebook 중심임
- Google Colab teaser notebook에서 예제를 실행하고 수정할 수 있음
- 이 책은 TUM의 Physics-based Simulation Group이 유지하며, 최근 연구 논문을 모은 링크 컬렉션도 함께 제공함
댓글과 토론
Hacker News 의견들
-
Chris Rackauckas가 2022년 10월의 밀도 높은 개요 발표에서 Scientific Machine Learning을 전염병, 중력파, 약물계량학, 해양 시뮬레이션 등 다양한 분야 예시로 소개함
SciML용 오픈소스 및 독점 Julia 라이브러리들도 다뤄서 정보량이 많음
https://www.youtube.com/watch?v=yHiyJQdWBY8- “물리 시뮬레이션 ML 엔지니어” 같은 직군의 채용 시장이 어떤지 아는 사람이 있는지 궁금함
-
제목은 강하게 바꾸는 게 맞아 보임. 이건 물리 기반 딥러닝에 관한 책이 아님
이 연구 그룹이 개발한 물리 문제용 딥러닝 접근법을 다루는 책에 가깝고, 그 점은 매우 중요한 단서라고 봄
게다가 사실상 이들의 시뮬레이션 프레임워크 Phi-Flow를 강하게 밀어주는 용도로 쓰이고 있어서, 분야 전체를 정확히 묘사한 책이라고 부르긴 어렵다 -
Chris는 이 장르에서 좋은 작업을 해왔고, 물리 또는 Scientific ML을 지원하는 Julia 미분방정식 패키지도 꽤 멋짐
https://www.stochasticlifestyle.com/the-essential-tools-of-s... -
전체 책을 PDF로 내려받는 방법을 못 찾겠음. 위쪽 다운로드 버튼은 개별 페이지만 받는 것처럼 보임
알기로는 Jupyter Book으로 만들어졌는데, 문서에서도 관련 내용을 찾지 못함
[1] https://jupyterbook.org/en/stable/intro.html -
괜찮은 추가 자료로 CRUNCH group YouTube의 수학+ML 강연, Steve Brunton의 Physics Informed Machine Learning 재생목록, Steve Brunton의 책 “Data Driven Science and Engineering”, ETH Zurich의 Deep Learning in Scientific Computation이 있음
CRUNCH group YouTube: https://m.youtube.com/channel/UC2ZZB80udkRvWQ4N3a8DOKQ
Steve Brunton 재생목록: https://m.youtube.com/playlist?list=PLMrJAkhIeNNQ0BaKuBKY43k...
ETH Zurich 강의: https://m.youtube.com/playlist?list=PLJkYEExhe7rYY5HjpIJbgo-... -
2021년에 있었던 이전 논의도 있음
https://news.ycombinator.com/item?id=28500577