7P by xguru 7달전 | favorite | 댓글 1개
  • 외부 메모리에 액세스하는 것을 줄여서 컴퓨팅 성능을 높이고 에너지를 절약
  • 메모리와 프로세싱을 함께 제공(컴퓨팅과 메모리의 대규모 통합)
  • 256개의 코어로 되어있으며 각 코어 유닛에는 자체 메모리가 포함되어 있어서 폰 노이만 병목현상을 완화
  • 코어는 인간 대뇌 피질(human cerebral cortex) 사이의 백질 연결(white-matter connections)에서 영감을 얻은 네트워크로 서로 연결됨
  • 이미지 인식에 대한 표준 벤치마크 테스트에서 상당한 차이로 기존 AI 머신을 능가
  • 또한 가장 최신의 소형화된 제조 공정을 사용하지 않음에도 불구하고 최첨단 AI 칩의 에너지를 5분의 1만 사용
    • 최신 제조 공정으로 구현된다면 효율성은 현재 설계보다 25배 더 좋아질 것
  • 하지만 NorthPole의 224MB RAM은 가장 압축된 버전에서도 수천 메가의 데이터를 차지하는 챗봇 ChatGPT에서 사용하는 것과 같은 대규모 언어 모델에는 충분하지 않음
  • 이 칩은 별도의 컴퓨터에서 미리 '훈련'해야 하는 사전 프로그래밍된 신경망만 실행가능
  • 논문의 저자들은 노스폴 아키텍처가 자율주행차와 같이 속도가 중요한 애플리케이션에 유용할 수 있다고 주장

용법과 성능을 보면 약간 FPGA 같은 느낌이네요