GN⁺: 확률 미적분학 입문

확률 미적분 소개

0. 소개

• 이 문서는 확률 미적분에 대한 간단한 소개임. 확률 이론의 복잡한 형식보다는 물리적 직관과 브라운 운동의 유도에 중점을 둠.
• 확률 공간, 측도 이론, 필터링 등의 기술적 형식은 피하고 잘 정의된 사례만 고려함.
• 확률 미적분이 물리적 세계에서 자연스럽게 발생하는 방법을 널리 알리고자 함.

응용

• 브라운 운동과 이토 미적분은 실제 세계를 모델링하는 데 사용되는 고급 수학의 예임.
• 물리학: 아인슈타인은 브라운 운동을 사용하여 원자의 존재를 증명함.
• 금융: 옵션 가격 책정은 확률 미분 방정식에 의존함.
• 생물학: 무작위 걷기는 종의 확산이나 뉴런의 발화를 모델링함.
• 기계 학습에서도 점점 더 많은 응용이 나타나고 있음.

1. 동기

• 파스칼의 삼각형은 이항 분포를 설명하는 데 사용됨.
• 독립적인 시도에서 성공과 실패의 수를 모델링함.
• 실제 세계는 종종 연속적인 과정을 포함하므로 미적분이 더 자연스러움.

2. 이산 단계에서 연속 한계로

• 이항 분포가 연속적으로 변환될 때의 수학적 의미를 탐구함.
• 이산적인 무작위 걷기가 연속적인 한계에서 정규 분포로 수렴함을 설명함.
• 중심 극한 정리에 따라 많은 독립적인 무작위 변수의 합은 정규 분포에 가까워짐.

3. 브라운 운동 정의 (위너 과정)

• 브라운 운동은 연속적이고 무작위적이며 시간에 비례하는 분산을 가짐.
• 브라운 운동의 수학적 모델은 예측 가능하지만 지역적으로는 완전히 예측 불가능함.

4. 이토 미적분

• 브라운 운동은 불규칙하여 미분 불가능함.
• 이토 미적분은 브라운 운동의 무작위성을 처리하기 위한 새로운 시스템을 개발함.
• 이토의 보조정리는 무작위성을 위한 체인 룰을 제공함.

5. 확률 미분 방정식

• 이토 미적분은 확률 미분 방정식을 다루는 도구를 제공함.
• 확률 미분 방정식은 결정론적 행동과 확률적 노이즈를 결합하여 시스템을 모델링함.

6. 스트라토노비치 미적분

• 스트라토노비치 미적분은 이토 미적분의 두 번째 미분 항을 제거하여 표준 체인 룰을 유지함.
• 물리적 시스템이나 계산을 단순화하는 데 유용함.

부록

A.0. 추가 읽기

• 확률 미분 방정식에 대한 직관적 소개 및 해결 방법을 제공하는 자료들.

A.1. 표기법

• 문서에서 사용된 표기법 목록 제공.

[neo]

Hacker News 의견

• Langevin Dynamics는 시스템의 감쇠된 운동량과 운동량에 삽입된 노이즈를 사용하는 방법임. 이는 분자 동역학 시뮬레이션과 베이지안 MCMC 샘플링에 사용될 수 있음

  • AI와 관련하여 Langevin Dynamics가 언급될 때 운동량 사용이 생략되는 경우가 많음. 이는 AI에서 운동량을 사용하는 경사 하강법이 널리 사용되기 때문임
  • "확률적"이라는 용어는 각 단계에서 데이터의 하위 샘플을 사용하여 경사를 근사하는 것을 의미함. 두 형태의 확률성을 동시에 적용할 수 있음
  • 고급 학부/대학원 수준의 수학 지식을 가진 독자를 위한 유용한 소개 자료가 있음: 링크

• 확률 미적분학은 컴퓨터를 사용하여 많은 가능한 사건 전개를 자극해야 하는지, 아니면 dW의 분포를 알면 중요한 최종 출력과 확률 분포를 해결할 수 있는 더 우아한 수학적 방법이 있는지에 대한 질문이 있음. 이 기사는 훌륭하며, 확률 미적분학을 처음으로 이해하기 시작한 느낌을 줌

• 최근에 겪은 예시가 있음

  • "게임"을 한다고 가정. 0과 1 사이의 무작위 숫자 A를 뽑음 (균등 분포). 같은 분포에서 두 번째 숫자 B를 뽑음. 만약 A > B이면, B를 다시 뽑음 (A는 유지됨). 평균적으로 몇 번의 뽑기가 필요한가? (다시 말해, A의 평균 "승리 연속"은 얼마인가?)
  • 답은 무한임. 이유는 A가 매우 높을 때가 있어 수백만 번의 뽑기가 필요할 수 있기 때문임

• HN 독자에게 질문: 쥐의 유전자에서 사망률을 조절하는 DNA 차이를 포함하는 약 50개의 위치(좌위)를 정의했음. 대부분은 복잡한 연령 의존적 "보험" 효과를 가짐. 사망 연령을 예측하고 싶음

  • 확률 미적분학이 쥐의 기대 수명에 대한 보험 예측에 유용한 접근법이 될 수 있을까?

• 금융 분야의 사람들에게 이 중 얼마나 많은 것이 일상적으로 유용한지에 대한 질문이 있음

• 문장을 해석하는 데 도움을 줄 수 있는지에 대한 요청이 있음

  • "브라운 운동과 이토 계산은 현실 세계를 모델링하는 데 적용되는 상당히 고급 수학의 주목할 만한 예임"이라는 문장에서 "Itô calculare"가 무엇을 의미하는지 궁금해하는 의견이 있음

• 이토 미적분학에 대한 이해를 공유함

  • 우리가 처음 이해하는 유일한 무작위 과정은 브라운 운동임
  • 다행히도 좌표를 변경할 수 있음

• 확률 미적분학을 공부했던 기억이 있음

  • 일반 통계에서 표준 편차가 "이차 변동"과 약간 다르다는 것을 주목했음. 왜 그런지 조사하려고 메모를 남겼음. 아마도 확률적 변동성 때문일 것임

• 확산 모델이 AI 이미지 생성의 비밀 소스로 빠르게 자리 잡고 있다는 것이 여전히 놀라움. 그러나 그 뿌리는 확률 미적분학에 깊이 묻혀 있음

  • 브라운 운동이 결국 고양이 밈을 만드는 데 도움이 될 줄 누가 알았겠음