# 뇌에서 영감을 받은 IBM의 NorthPole 칩, AI의 속도와 효율성을 크게 향상

> Clean Markdown view of GeekNews topic #11515. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=11515](https://news.hada.io/topic?id=11515)
- GeekNews Markdown: [https://news.hada.io/topic/11515.md](https://news.hada.io/topic/11515.md)
- Type: news
- Author: [xguru](https://news.hada.io/@xguru)
- Published: 2023-10-25T10:57:01+09:00
- Updated: 2023-10-25T10:57:01+09:00
- Original source: [nature.com](https://www.nature.com/articles/d41586-023-03267-0)
- Points: 7
- Comments: 1

## Topic Body

- 외부 메모리에 액세스하는 것을 줄여서 컴퓨팅 성능을 높이고 에너지를 절약   
- 메모리와 프로세싱을 함께 제공(컴퓨팅과 메모리의 대규모 통합)  
- 256개의 코어로 되어있으며 각 코어 유닛에는 자체 메모리가 포함되어 있어서 폰 노이만 병목현상을 완화   
- 코어는 인간 대뇌 피질(human cerebral cortex) 사이의 백질 연결(white-matter connections)에서 영감을 얻은 네트워크로 서로 연결됨   
- 이미지 인식에 대한 표준 벤치마크 테스트에서 상당한 차이로 기존 AI 머신을 능가  
- 또한 가장 최신의 소형화된 제조 공정을 사용하지 않음에도 불구하고 최첨단 AI 칩의 에너지를 5분의 1만 사용  
  - 최신 제조 공정으로 구현된다면 효율성은 현재 설계보다 25배 더 좋아질 것  
- 하지만 NorthPole의 224MB RAM은 가장 압축된 버전에서도 수천 메가의 데이터를 차지하는 챗봇 ChatGPT에서 사용하는 것과 같은 대규모 언어 모델에는 충분하지 않음   
- 이 칩은 별도의 컴퓨터에서 미리 '훈련'해야 하는 사전 프로그래밍된 신경망만 실행가능   
- 논문의 저자들은 노스폴 아키텍처가 자율주행차와 같이 속도가 중요한 애플리케이션에 유용할 수 있다고 주장

## Comments



### Comment 20147

- Author: cosine20
- Created: 2023-10-26T09:15:53+09:00
- Points: 1

용법과 성능을 보면 약간 FPGA 같은 느낌이네요