지속적인 사고 기계

 (pub.sakana.ai)
2P by GN⁺ | ★ favorite | 댓글 1개
  • Continuous Thought Machine(CTM) 은 신경망 계산에 시간적 신경 동역학을 명시적으로 넣어, 정적 feed-forward 처리만으로는 다루기 어려운 “생각의 전개”를 모델 내부에서 구현하려는 새 아키텍처임
  • 구조의 중심에는 데이터 순서와 분리된 internal ticks, 뉴런별 MLP가 최근 pre-activation 이력을 처리하는 neuron-level models, 뉴런 쌍의 시간적 동기화를 표현으로 쓰는 방식이 있음
  • ImageNet, 2D 미로, parity, Q&A MNIST, CIFAR-10/100, 실수 정렬, 강화학습 실험에서 핵심 구조를 유지하고 입력·출력 모듈만 바꾸며 적용 가능성을 보임
  • 미로 실험에서는 위치 임베딩 없이 L/R/U/D/W 경로를 직접 예측했고, 39×39 미로와 길이 100까지 학습한 모델이 99×99 미로와 약 6배 긴 경로에도 일반화하는 사례를 보임
  • CTM은 동기화 표현을 통해 메모리 회상, 적응형 계산, 해석 가능한 주의 이동, 내부 월드 모델 형성 같은 동작을 보였지만, 실제 뉴런을 문자 그대로 모사하는 모델은 아님

CTM이 겨냥하는 문제

  • 기존 신경망은 생물학적 뇌에서 나타나는 시간적 신경 동역학을 의도적으로 단순화해, 대규모 딥러닝에 적합한 정적 활성값 중심으로 처리해 왔음
  • 뇌에는 spike-timing-dependent plasticity(STDP), 신경 진동, spike timing과 synchrony에 기반한 시간 코딩이 있지만, 현대 신경망은 주로 단순성과 계산 효율을 우선함
  • 인간 인지의 유연성과 일반성에 비해 현재 AI가 부족한 부분이 있으며, 그 일부는 시간 처리와 관련될 수 있음
  • CTM의 기여는 세 요소로 정리됨
    • 분리된 내부 차원: 인공 신경 시스템에서 사고가 펼쳐질 수 있는 시간 축
    • neuron-level models(NLMs): 각 뉴런이 고정 ReLU 같은 정적 함수 대신 입력 신호 이력을 처리해 활성화됨
    • neural synchronization: 관찰과 예측에 직접 쓰이는 잠재 표현

추론 모델과 recurrence

  • 기존 모델을 키우는 방식은 큰 진전을 냈지만, 계산 비용과 데이터 요구가 커 장기적 지속 가능성에는 의문이 남아 있음
  • 순차 데이터에서는 RNN 계열이 오래 쓰였으나 Transformer 기반 접근이 많이 대체했고, 최근에는 recurrence가 모델 복잡도를 확장하는 경로로 다시 주목받음
  • 텍스트 생성의 reasoning models는 중간 생성을 통해 테스트 시점 계산을 늘리는 recurrence 형태를 사용함
  • CTM은 recurrence 자체보다, recurrence가 열어 주는 정확한 타이밍과 신경 활동의 상호작용을 핵심으로 봄
  • 기존 접근과의 차이는 세 가지임
    • 데이터 모달리티와 분리된 내부 차원에서 순차적 사고가 가능함
    • 뉴런별 private model이 정밀한 신경 타이밍을 다룸
    • 신경 동기화를 과제 해결 표현으로 직접 사용함

CTM의 세 가지 핵심 메커니즘

  • CTM은 데이터를 처리하는 동안 내부적으로 신경 활동을 여러 tick에 걸쳐 펼쳐 나가는 구조임
  • 한 internal tick에서 최근 pre-activation 이력이 수집되고, NLMs가 이를 처리해 post-activation을 만듦
  • 시간에 따른 post-activation 이력은 뉴런 간 동기화를 계산하는 데 쓰이며, 이 결과가 Synchronization Representation이 됨
  • 기술 세부사항은 Technical Report에 있으며, GitHub repository도 공개됨

  • Internal ticks: 사고가 펼쳐지는 내부 차원

    • CTM은 t ∈ {1, …, T} 형태의 연속적인 내부 차원을 도입함
    • RNN이나 Transformer처럼 단어, 프레임 등 데이터 자체의 순서를 따라 처리하는 대신, 스스로 생성한 internal ticks를 따라 작동함
    • 이 내부 전개 덕분에 이미지나 미로처럼 정적이거나 비순차적인 데이터에서도 표현을 반복적으로 만들고 다듬을 수 있음
    • 페이지 상단의 인터랙티브 미로 데모는 75 ticks를 사용함

  • Recurrent weights와 neuron-level models

    • CTM의 synapse model은 U-NET 형태의 recurrent MLP이며, 매 tick에서 pre-activation을 생성함
    • 최근 M개의 pre-activation이 각 뉴런의 입력 이력으로 모임
    • 각 뉴런 d는 고유 파라미터 θd를 가진 private MLP로 자기 pre-activation 이력을 처리하고 post-activation을 생성함
    • 모든 뉴런의 post-activation은 attention output과 결합되어 다음 tick의 recurrent 계산에 들어감

  • Synchronization representation

    • CTM은 특정 시점의 뉴런 상태 스냅샷이 아니라, 시간에 따른 뉴런 활동 동역학에 따라 입력을 소비하고 출력을 만들도록 설계됨
    • post-activation 이력 Zt의 내적 St = Zt · (Zt)^T로 뉴런 간 synchronization matrix를 계산함
    • 이 행렬은 O(D²)로 커지기 때문에 실제 사용에서는 (i, j) 뉴런 쌍을 부분 샘플링해 Sout과 Saction 표현을 만듦
    • Sout은 출력 공간으로 투영되어 logits 같은 예측을 만들고, Saction은 attention query처럼 관찰을 위한 행동에 사용됨
    • 모델 폭 D가 커질수록 가능한 동기화 표현은 D × (D+1) / 2 규모로 커짐

  • 데이터 입력 방식

    • 데이터는 각 internal tick에서 현재 synchronization에 기반해 attention으로 관찰됨
    • 대부분의 실험에서는 표준 cross attention을 사용함
    • FeatureExtractor가 데이터에서 key와 value에 쓸 지역 특징을 만들고, synchronization에서 투영된 query가 이를 조회함
    • attention output은 다음 recurrence 사이클에서 post-activation과 함께 사용됨

학습 손실: internal ticks 전체를 최적화

  • CTM은 각 internal tick마다 출력을 생성함
  • 각 tick의 예측에 대해 cross-entropy 같은 표준 손실을 계산하고, certainty는 1 - normalized entropy로 계산함
  • 최종 손실은 두 tick을 동적으로 골라 평균함
    • 손실이 최소인 tick t1 = argmin(L)
    • 확신도가 최대인 tick t2 = argmax(C)
  • 이 방식은 마지막 step 하나에만 의존하지 않아, 여러 internal ticks에서 의미 있는 계산이 일어나도록 만듦
  • 손실 설계는 curriculum 효과를 자연스럽게 만들고, 문제 난도에 맞춰 계산량을 조정할 수 있게 함

ImageNet 실험

  • ImageNet 실험의 목적은 새로운 state-of-the-art 달성이 아니라, CTM이 데이터와 상호작용하는 방식을 보여주는 데 있음
  • CTM은 이미지를 관찰하면서 예측을 쌓아 올리고, 이 과정에서 neural synchronization을 직접 표현으로 사용함
  • internal steps를 중간에 끊을 수 있어 adaptive compute가 가능함
    • 일정 지점 이후 정확도 향상은 작지만, 추가 이득은 존재함
  • 데모에서는 16개 attention heads의 attention weights, 클래스 예측, 시간에 따른 certainty가 표시됨
  • 신경 활동은 UMAP 투영으로 2D 시각화되며, 각 뉴런은 점으로 표시되고 크기는 절대값, 색은 값의 부호와 크기를 나타냄

2D 미로 실험

  • 미로 풀기는 모델이 출발점에서 도착점까지 경로를 단계적으로 구성해야 하는 과제로 설정됨
  • CTM은 경로를 이미지가 아니라 L/R/U/D/W 단계 시퀀스로 직접 예측하도록 학습됨
  • 페이지 상단에는 작은 버전의 인터랙티브 데모가 있고, 더 큰 모델의 데모도 제시됨
  • 데모에서는 75 internal ticks 동안 경로가 만들어지는 과정을 보여주며, 벽을 통과하는 예측은 유효 경로 표시에서 제외됨
  • 16개 attention heads의 가중치와 평균 attention이 함께 표시되어 모델이 어디에 집중하는지 볼 수 있음

  • 일반화와 월드 모델

    • 길이 100까지의 경로를 39×39 미로에서 풀도록 학습한 CTM을 더 큰 99×99 미로에 적용함
    • 예시 미로의 전체 경로는 학습 조건보다 대략 6배 김
    • CTM은 위치 임베딩을 사용하지 않았고, 경로를 클래스 문자열로 직접 예측해야 했음
    • 위치 임베딩이 없기 때문에, CTM은 데이터를 질의하고 미로를 탐색하기 위해 internal world model을 만들어야 함
    • 연구진은 게임이나 비디오 같은 더 복잡한 환경에서 명시적 위치 인코딩 없이 CTM이 어떻게 길을 찾는지 보고 싶다고 밝힘

Parity 실험

  • parity task는 이진 시퀀스의 누적 parity를 64개 위치 각각에서 예측하는 과제로 구성됨
  • 전체 64-length binary vector가 한 번에 주어지므로, 단순한 순차 입력보다 더 어려운 설정임
  • CTM은 internal ticks 수를 달리해 학습됐고, 파라미터 수를 맞춘 LSTM과 비교됨
  • 75 internal ticks를 넘는 CTM은 이 과제를 안정적으로 풀 수 있었고, 일부 실행은 100% 정확도에 도달함
  • LSTM은 10 internal ticks를 넘으면 학습에 어려움을 보였으며, 내부 사고 차원을 펼치는 데 적합하지 않은 결과를 보임
  • 데모에서는 일부 attention heads가 뒤쪽에서 앞쪽으로 데이터를 훑고, 첫 번째 attention head가 negative parity 위치에만 attend하는 등 해석 가능한 행동이 나타남
  • 두 CTM 예시는 서로 다른 전략을 학습함
    • 하나는 데이터를 역순으로 attend한 뒤 누적 parity를 한 번에 예측함
    • 다른 하나는 정방향으로 attend하며 parity를 점진적으로 예측함
    • 둘 다 완벽한 정확도에 도달함

Q&A MNIST 실험

  • Q&A MNIST는 CTM의 기억과 회상 능력을 평가하기 위한 과제임
  • 모델은 먼저 MNIST digit 시퀀스를 보고, 이후 어떤 digit을 회상하고 어떤 modular operation을 적용할지 지정하는 index와 operator embedding을 받음
  • 모든 digit과 index/operator embedding이 제시된 뒤 zero-tensor flag가 최종 답변 생성을 지시함
  • 실험에서 CTM의 memory length는 MNIST digit이 neuron-level models의 activation history window 밖에 놓이도록 설정됨
  • 따라서 CTM은 나중에 digit을 회상하려면 활성화를 조직해 정보를 보존해야 함

  • 결과와 일반화

    • LSTM은 input당 internal tick이 하나일 때 CTM보다 성능이 높지만, internal ticks가 늘어나면 더 불안정해짐
    • CTM은 internal ticks가 증가할수록 성능이 강해졌고, 가장 어려운 in-distribution task에서 95% 이상 정확도를 달성함
    • CTM은 오래전 timestep에서 본 digit 값을 회상할 수 있었고, 이는 뉴런의 조직화와 동기화에서 나온 결과로 해석됨
    • 일반화 실험에서는 학습 때보다 더 많은 digits 또는 index-operator embeddings가 입력될 때 정확도를 측정함
    • CTM과 LSTM baseline 모두 operation 수 증가에는 일반화할 수 있었음
    • empirical 결과에서, 새 index embedding이 제시될 때마다 모델이 지정된 operation 결과를 계산하고 저장하기 때문에 final answer flag를 기다리지 않고 계속 처리할 수 있었음
    • CTM은 internal ticks가 많을수록 성능이 커졌고, LSTM은 반대 경향을 보임

추가 실험

  • CIFAR-10: 인간, feed-forward, LSTM과 비교

    • CIFAR-10 실험은 CTM을 human performance, feed-forward baseline, LSTM baseline과 비교하기 위한 설정임
    • 차이를 드러내기 위해 제한된 backbone을 사용함
    • 인간 라벨 데이터셋으로 CIFAR-10D와 CIFAR-10H를 사용함
    • CIFAR-10D는 난이도 수준 보정과 관련됨
    • CIFAR-10H는 인간 불확실성을 정량화하는 데 쓰인 데이터셋임
    • CIFAR-10D는 여기, CIFAR-10H는 여기에 있음
    • calibration 계산에는 CIFAR-10H의 확률이 사용됐고, CTM은 인간과 비교해도 가장 좋은 calibration을 보임
    • CTM의 신경 활동은 풍부하고 다양하며 복잡한 동역학을 보였고, periodic driving function 없이도 periodic behavior가 나타남
    • CTM과 LSTM의 신경 활동 차이는 neuron-level models와 synchronization representation이 계산 메커니즘으로 신경 동역학을 가능하게 한다는 근거가 됨

  • CIFAR-100 ablation

    • CIFAR-100 실험에서는 뉴런 수, 즉 모델 폭을 바꾸면서 다른 조건과 학습 시간을 고정함
    • 더 넓은 네트워크는 더 긴 학습 시간이나 다른 hyper-parameters가 필요할 수 있어 일부 정확도 감소가 나타남
    • neuron-level models가 얼마나 고유해지는지 보기 위해 뉴런 간 동역학의 cosine similarity를 측정함
    • 모델 폭이 커질수록 뉴런 간 다양성이 줄어드는 것이 아니라 더 커지는 현상이 관찰됨
    • internal ticks 수와 예측의 관계도 분석됨
    • 25, 50, 100 internal ticks 설정에서 CTM이 가장 확신하는 step의 분포를 확인함
    • 각 설정에서 두 개의 집중 영역이 나타났고, CTM이 데이터에 따라 별도의 내부 프로세스를 따르는 것으로 해석됨

  • 실수 정렬

    • CTM은 N(0, I30)에서 나온 30개 실수를 정렬하도록 학습됨
    • 목적은 통제된 환경에서 CTM이 언제 더 많거나 적은 계산을 적용하는지 보고, CTC loss로 순차 출력을 학습할 수 있는지 확인하는 것임
    • 이 CTM은 길이 30 실수 리스트를 약 80% 확률로 정렬할 수 있었음

  • 강화학습

    • CTM은 continuous thought dimension으로 비순차 데이터를 처리하는 데서 나아가 외부 환경과 상호작용하는 과제에도 적용됨
    • proximal policy optimization으로 navigation task와 partially observable CartPole, Acrobot 변형을 학습함
    • 이 설정에서 CTM은 관찰을 받고 고정된 수의 internal thought steps로 처리한 뒤 다음 action을 출력함
    • activation history는 환경 step 사이에서 연속적으로 유지되어, 과거 environment step의 activation이 현재 의사결정에 영향을 줄 수 있음
    • 결과적으로 CTM은 LSTM baseline과 비교 가능한 성능을 냈고, continuous environment에서도 학습할 수 있음을 보임

결론과 한계

  • CTM은 pointwise activation function을 private neuron-level models로 대체해 더 풍부한 뉴런 동역학을 만들고, activation vector가 아니라 neural synchronization을 새로운 표현으로 사용함
  • 이 접근은 이미지 분류에서 시간에 따른 표현 구축, 위치 임베딩 없는 미로 attention과 내부 지도 형성, adaptive computation, activation history 밖의 기억 저장과 회상을 가능하게 함
  • 핵심 CTM 아키텍처는 다양한 과제에서 대체로 유지됐고, 주로 입력·출력 모듈 조정만 필요했음
  • 미로 탐색 같은 복잡한 시나리오에서 CTM은 적은 튜닝으로 동작했으며, LSTM은 상당한 튜닝 뒤에도 어려움을 겪음
  • CTM은 생물학적 뉴런을 엄격하게 문자 그대로 모사하려는 모델은 아님
    • 실제 뉴런이 CTM처럼 activation history에 접근하지 않을 수 있음
    • 그럼에도 traveling waves 같은 emergent phenomena가 나타남
  • CTM은 생물학에서 개념을 빌려 실용성과 생물학적 영감을 절충하는 방식이며, 현재 AI에 부족한 능력을 여는 연구 방향이 될 수 있음

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 이 논문은 우려스럽다. 표준 기계학습 문헌과는 떨어져 있지만, 생물학적으로 그럴듯한 스파이킹과 시간 의존 인공신경망 연구는 이미 많다
    여기서 쓰는 명명법은 그 연구 흐름을 충분히 인정하지 않는 듯하고, 기계학습/LLM 쪽에서 그 방대한 연구 영역으로 한 걸음 들어가면서도 이미 많이 다뤄진 기반을 제대로 이해하지 못한 인상이다
    또한 시냅스 통합 단계를 생각이라고 부르면 많은 사람이 혼동할 수 있다. 보통 사람이 말하는 생각은 아이디어를 만들고, 평가하고, 수정하고, 반복하는 과정인데, 여기서는 단일 단위 과정에 “생각”을 부여하려는 듯하다
    시냅스 통합과 발화 수준에서 패턴 인식이나 신호 구분은 잘 알려져 있지만, “생각”이라는 표현은 기계학습과 인공신경망 문헌 양쪽 모두에서 꽤 급진적인 이탈이라 도움이 되지 않는다
    인용을 전부 검토한 것은 아니고, 두 연구 흐름에 익숙한 입장에서 본문 표현에 반응한 것이다

    • 놀랍지는 않다. 지난 10~20년 동안 신경과학 관련 연구를 인정한 기계학습 연구자들은 자기 연구를 생물학적 뇌와 비교했다는 이유로 대체로 오만하다는 비판을 받았던 인상이 있음
    • 저자들이 단일 시냅스 통합을 “생각”이라고 부르지는 않는다. 외부 입력 뒤에 펼쳐지는 네트워크 전체의 내부 루프, 즉 internal ticks에 그 용어를 쓰고, 단지 “생각과 유사하다”고 명시한다
    • 신경과학 영감 알고리즘이나 구현 세부를 다룬 통찰력 있는 책/논문 목록, 가능하면 짧은 리뷰를 공유해 주면 좋겠다
    • 이 댓글에 답했어야 했는데 상위 스레드에 따로 썼다. 그 PDF/논문은 아주 느슨한 의미, 즉 활성화 시퀀스와 “뉴런” 층이 있다는 정도를 빼면 스파이킹 생물학적 네트워크를 모방하려는 것 같지는 않았다
      주요 기여는 출력의 전치와 출력 사이의 내적을 쓰는 것이고, 나머지는 입력에 대한 확산/어텐션에 가깝다. 개념적으로는 일종의 단계적 재귀 모델로 “입력 어텐션”과 “출력 어텐션”을 결합한 형태로 보인다
    • 동의한다. 수십 년간의 스파이킹 신경망 및 유사 연구를 거의 참조하지 않은 채 새 아이디어처럼 제시하고 있다

  • 중요한 주제에 다시 초점을 맞추는 건 좋고, 분야 사이에 다리가 놓이는 모습이 흥미롭다
    생물학적 두뇌에서는 “시간”을 시계가 밀어주는 선형 뉴턴식 시간으로 떠올리기 쉽다. 하지만 뇌와 몸의 맥락에서 핵심은 더 두껍거나 얇은 “현재”의 조각 안에 박힌 행동과 연산의 잘 정렬된 시퀀스를 만들어내는 것이다
    그 범위는 “겉보기 현재”의 300ms부터 소리의 위치를 평가하는 세포, 즉 내측상올리브핵의 50µs까지 이를 수 있다
    우발적 시간성에 대한 더 많은 맥락은 John Bickle이 The European Journal of Neuroscience에 실은 RW Williams 인터뷰를 보면 된다: https://pubmed.ncbi.nlm.nih.gov/40176364/

  • 이번 주말에 나온 것들을 보면, Continuous Thought Machines는 시간적으로 인코딩하는 신경망이고 생물학적 뇌와 더 비슷한 방향이며, Zero Data Reasoning은 거대한 데이터셋으로 훈련받기보다 실행하면서 배우는 코딩 AI이고, Intellect-2는 전 세계 분산 강화학습 아키텍처다
    이 분야 전문가는 아니지만, 특이점에 조금 더 가까이 토끼뜀한 느낌이 든다

    • 그런 느낌은 들지 않는다. 논문도 연구 방향도 너무 많아서, 확산 논문이나 트랜스포머 논문, AlphaZero, ChatGPT-3처럼 무엇이 크게 터질지 예측하기가 매우 어렵다
      계단식 도약처럼 보이는 연구나 제품 발전도 사실 많은 연구와 시행착오 위에 쌓인 것이다. 나열한 세 가지를 어떻게든 결합할 수 있을지도 모르지만, 실제로는 모르겠다
    • 개별 논문에 너무 큰 의미를 두면 안 된다. 좋게 봐도 그 논문으로 이어진 모든 선행 작업을 대부분 무시하게 되고, 나쁘게 보면 장밋빛 안경으로 분석되고 의도적 생략이 많은 아이디어에 지나치게 믿음을 두게 된다
    • 전문가는 아니지만, 이건 카메라와 액추에이터와 배터리를 발명했으니 로봇이 세상을 지배할 거라고 말하는 것과 비슷해 보인다
      즉 토끼뜀이 아니라 아기 걸음이다
    • Intellect-2와 Zero Data Reasoning은 둘 다 LLM에서 작동한다. “Zero Data Reasoning”이라는 이름은 꽤 오해를 부르고, 아주 획기적인 방법도 아니다
      LLM의 큰 도약을 보고 싶다면 InceptionLabs가 최근 확산 모델로 추론을 16배 빠르게 만든 작업을 보는 편이 낫다: https://www.inceptionlabs.ai/
      시계열 강화학습 알고리즘은 추론 모델에 비해 형편없다. AI 분야가 폭발적으로 커졌는데도 로보틱스와 자율주행은 큰 진전 없이 막혀 있다
      이 방법은 잠재력이 있어 보이지만, 누군가가 좀 더 간결하게 정리하고 용어도 바꿔야 한다. 노력은 보이지만 쉽게 소화되는 글은 아니다
      또 이런 모델들이 제대로 행동하게 만드는 데도 아직 한참 멀었다. 모델이 커질수록 보상 함수의 허점을 찾을 가능성이 커지고, 이 때문에 여러 영역에서 유용한 AI로 가는 길이 막힌다
    • 그 결론에 반박하는 답들을 읽고 나서 덧붙이면, 특정 논문/프로젝트 자체가 이륙이나 AGI, 초지능으로 가는 구체적 진전이라는 좁은 해석에는 비판이 타당하다
      하지만 이 논문들이 더 넓은 연구 방향의 대리 지표라면 그 비판은 덜 타당하다. 실제로 다른 댓글들도 관련 선행 연구 목록을 제공하고 있다
      즉 이 논문 하나하나가 도약이라는 게 아니라, 토끼가 올바른 방향을 향하고 있고 많은 미세한 점프가 일어나고 있다는 뜻이다. 여러 떨림과 움직임 중 무엇을 “점프”라고 부를지는 까다로운 사람들의 문제다
      그 사이 토끼는 움직이고 있을지도 모른다

  • 이런 기계의 아이디어가 완전히 새로운 것은 아니다. 2002년에 Liquid State Machines가 소개된 연구가 있다[1]
    이들은 대체로 스파이킹 신경망에 연속 입력을 넣고, 그 네트워크의 모든 뉴런에 연결된 밀집 층이 이른바 액체 상태를 읽어내는 구조다
    LSM은 2019년 논문[2]처럼 Atari 게임에도 쓰였는데, 때로는 인간을 능가하지만 항상 그렇지는 않고, 당시의 더 전통적인 신경망이 실패하던 부분에서 비슷하게 실패하는 경향을 보였다. 전통적 네트워크보다 낫지도 않았다
    솔직히 오디오 같은 입력을 연속 처리하고 연속 출력하는 방향, 그리고 그 아이디어에 기반해 뉴런으로 구성된 완전한 스파이킹 신경망을 훈련하는 연구가 더 많아지면 흥미로울 것 같다
    가소성의 일부 아이디어는 이해하고 있고 이런 연구에도 적용됐지만, 역전파나 비슷한 알고리즘 없이 뇌에서 보이는 종류의 가소성만으로 이런 네트워크를 만든 사례는 잘 모르겠다. 직접 시도해 봤지만, 뇌가 작동하는 방식을 내가 오해하고 있거나 아직 전체 그림을 모르는 것 같다
    [1] doi.org/10.1162/089976602760407955
    [2] doi.org/10.3389/fnins.2019.00883

  • 제대로 된 시간 영역을 실용적인 하드웨어에서 시뮬레이션하는 것은 매우 어렵다. 못 하는 게 아니라, 이런 타이밍 마법에는 탐색해야 할 하이퍼파라미터 차원이 추가된다
    공간이 이렇게 방대하면 유효한 파라미터 집합을 찾기 어려워 보인다. 파라미터는 늘리는 게 아니라 줄이고 싶어야 한다
    실행 효율이 좋은 계산 기판은 훨씬 빠르게 탐색할 수 있다. 미래 시점에 전달될 스파이크를 모델링해야 하는 순간, 이벤트를 직렬화하기 위해 우선순위 큐 같은 구조를 유지해야 해서 몇 자릿수의 비용이 바로 날아간다
    강한 실시간 상호작용이 실제 설계 목표가 아니라면, 엔지니어링/제품 관점에서 이 토끼를 쫓을 가치가 있는지 모르겠다
    STDP의 우아함과 온라인 비지도 학습을 가능하게 할 수 있다는 점은 여전히 매우 매력적이다. 다만 지금의 실리콘이나 가까운 미래에서 그 길은 보이지 않는다. 전용 하드웨어는 가능할 수 있지만, 일부 하이퍼파라미터를 코드에서 const로 박아 두는 큰 믿음의 도약에 가깝고, 돈이 떨어지기 전에 맞힐 가능성은 낮아 보인다

    • 논의를 위해, 어느 정도 큰 순전파 아키텍처에 데이터 배치를 통과시키는 데 대략 100ms가 걸린다고 해 보자. 여러 파라미터에 달렸지만 많은 작업/네트워크에서 그럴듯한 수치다
      대신 CTM이 표준 순전파 축에 10ms를 배정하고, 내부 “틱”/재귀 단계 10개로 곱해 나간다고 가정하면 어떨까
      숫자는 임의지만 요지는 두 번째 아키텍처도 그만큼 쉽게 탐색할 수 있지 않겠느냐는 것이다
      결국 명시적 시간 축을 넣는 귀납적 편향이 실제로 가치가 있느냐의 문제 아닌가

  • 논문을 읽어보면 이건 생물학적/스파이킹 네트워크와 정말 비슷하다는 느낌이 들지 않는다. 입력의 실행 이력을 유지하고, 다중 머리 어텐션으로 과거의 “시냅스 전” 입력이 현재 “시냅스 후” 출력에 어떻게 반영되는지 내부 모델을 만든다
    이는 변형된 트랜스포머, 즉 입력 이력을 보관하고 그 위에 어텐션을 적용해 출력을 만드는 것과 비슷하다
    “동기화”는 모든 사후 활성화의 내적을 쓰는 것일 뿐이다. 이 활성화들은 계속 커지는 큰 목록에 저장되고 성능 때문에 부분표본추출을 쓴다
    최적화도 여전히 경사하강법으로 한다. 다만 손실을 적용하는 시간 단계를 최소 손실 또는 최소 불확실성의 시간 단계로 고르며, 불확실성은 출력 항의 데이터 엔트로피로 설명된다
    이것이 어떤 면에서 시간 시뮬레이션을 쓰는 스파이킹 뉴런 모델과 비슷하다고 읽히는지 잘 모르겠다. 여기서 시간은 데이터가 시스템을 반복적으로 순환하는 단계 수일 뿐이고, 확산 모델이나 LLM이 토큰을 재귀적으로 처리하는 방식과 비슷하다
    “뉴런 동기화”도 생물학적 의미와는 좀 다르다. 출력 항의 내적을 써서 정사각 행렬을 만들고, 이를 출력 공간/차원으로 투영한다. 올바른 답을 내기 위해 서로 곱해지는 여러 출력이 올바른 시간 단계에 올바른 값을 만들어야 한다는 의미에서는 “동기화”라고 부를 수도 있겠다
    다만 개별 값보다 여러 출력을 더 큰 행렬로 결합하는 성질이 더 중요해지는 점에서 희소성을 도입하는 느낌도 있다. 각 시간 단계에서 올바르게 결합해야 한다는 점을 “동기화”라고 부르는 듯하다
    이런 기법은 어텐션의 기본 메커니즘, 즉 여러 하위 시스템에서 하나 이상의 출력을 만들고 내적으로 결합하는 방식에 깔린 것이다

    • 이 논문의 약점 하나는 주로 더 단순한 재귀 모델인 LSTM과 성능을 비교하고, 유사한 어텐션/확산 모델과는 비교하지 않는다는 점이다
      입력/출력 어텐션 층을 N개 둔 모델을 재귀적 시간 단계 방식으로 쓰면 이 작업들에서 얼마나 잘할지 궁금하다. 성능은 매우 비슷하고 네트워크 아키텍처도 꽤 유사할 것 같다. 물론 진짜 트랜스포머는 이들이 쓰는 입력 어텐션 + UNet과는 조금 다르다

  • 논문을 아직 읽는 중이지만, 작업을 만났을 때 내부 시각 재귀가 실제로 작동하는 모습을 볼 수 있다는 점은 매우 흥미롭다. 예를 들어 2D 퍼즐 같은 작업에서 여러 “시간” 관련 과제의 신경망 해석이 쉬워진다
    이런 내부 재귀 자체는 새롭지 않을 수 있지만, 논문에서 설명한 신경 동기화를 적용하는 부분은 새로워 보인다
    해석 가능하고 직관적인 문제 해결 전략이 떠오른다는 관찰은 정확히 흥미로운 지점이다. 신경 타이밍을 활용하면 더 많은 창발적 이점과 더 효과적인 AI 시스템으로 이어질 수 있다
    기존 또는 새로운 아키텍처에 이 접근이 더 많이 적용돼, 여러 작업에서 사고 과정에 대한 추가적인 투명성을 제공해 주면 좋겠다
    Sakana의 또 다른 좋은 논문이다

답변달기