22P by xguru 2022-07-19 | favorite | 댓글 4개
  • 인간의 뇌는 8~35헤르츠에서 15와트로 작동함
  • ~900억개의 뉴런을 가지고 있지만, 특정 시간에는 약 10억개만 활성화 됨
  • 뇌의 에너지 소비량은 매우 밝은 LED전구 와 비슷하거나 표준 백열전구의 1/5 정도여서 데이터 센터와는 다름
  • 평균 난이도의 ARC작업을 해결하는데 관련된 뉴런의 수는 몇초당 수십억개
  • 1칼로리의 일부 정도의 비용으로 수천억개의 이벤트가 발생
  • 그중 많은 부분이 시각적 신호를 심볼릭 표현으로 바꾸는 것에 관한 것이고, 심볼릭 처리량은 최소
    → 어떤 기계도 할수 없지만 당신은 가능함
  • 현재까지 개발된 가장 효율적인 ARC solver인 "Program synthesis approach"는 후보 솔루션을 찾기위해 수백만개의 다른 프로그램을 살펴봐야함
  • 뇌는 그렇게 하지 않음. 그렇게 많은 가능성을 고려하고 시뮬레이션 할수 있는 자원이 없음
  • 주목할 다른 사항은 대부분의 뇌 활동이 무의식적이며 세상과의 인터페이스(지각 및 운동 제어)와 관련되어 있다는 것
  • 의식적인 추론(conscious reasoning)은 빙산의 일각에 불과하지만, 그런데도 엄청나게 강력함

이제 제 뇌를 LED 전구로 바꾸면 되겠네요!

뇌의 의사결정 과정을 classical probability 관점에서가 아니라, quantum probability 로 해석하는 연구가 생각나네요 (뇌가 양자역학적으로 동작한다는 주장은 아니고, 뇌의 의사결정을 양자역학에서 쓰이는 수학으로 모델링 할 수 있을 것이다, 요런 주장인듯해요)

원론적으로, 양자컴퓨팅의 연산은 가역연산을 기반으로 하기 때문에 계산에서 발생하는 열을 무시할 수 있을 정도로 줄일 수 있습니다.
뇌가 "그렇게 많은 가능성을 고려하고 시뮬레이션 할수 있는 자원이 없음"에도 불구하고 "어떤 기계도 할수 없지만 당신은 가능"한 일을 해낼 수 있는 이유는 뇌에서 고전적인 컴퓨팅 이론이 아닌, 양자적인 컴퓨팅 과정 일어나기 때문일수도 있겠네요.

뇌가 정말 quantum 하게 동작할 것인가는 논란이 되는 주제고, 또 제가 뇌과학이나 머신러닝에 대해 아는 바는 없지만.. 뇌라는건 참 여러가지 상상력을 자극하네요.

글쓴이인 François Chollet 은 구글의 딥러닝 연구자로, Keras를 만든 사람입니다.