1P by carnoxen 2023-08-23 | favorite | 댓글과 토론

AI는 제공받은 데이터로 매개변수를 조작하는 학습, 만들어진 매개변수를 토대로 문제를 푸는 추론이라는 두 단계로 작동한다. 그동안 AI는 연구자 사이에서만 운용되는 정도였지만 ChatGPT의 도래로 이제 일반인들도 AI에 익숙해진 실정이다.

이 AI의 성능에는 GPU, NPU같은 하드웨어가 막대한 영향을 끼친다. 이런 하드웨어를 만드는 회사 중에서 NVIDIA가 (특히 학습 면에서) 압도적인 지분을 차지하고 있다. 반면 추론 쪽은 학습보다 난이도가 낮아 NVIDIA에 대항하는 회사가 속속 들어서고 있다. 이 속에서 리벨리온이 도전장을 내밀었다.

인재를 중요시하는 동사는 AI 관련 석/박사 학위를 가진 4명의 이사가 세웠다. 처음엔 금융 회사가 필요한 칩을 설계했고, 후에 범위를 넓혀 AI 추론 칩을 설계하기까지 했다.

동사가 만든 제품은 다음과 같다.

금융업에 특화된 ION은 동사의 첫 제품으로, 칩 설계를 경험한 박성현 대표와 오진욱 CTO가 있기에 가능했다. 정수형과 실수형을 동시에 다룰 수 있고, ISA를 마음대로 조작, 딥러닝과 관련된 다양한 알고리즘을 지원한다. 또한, 전성비(TOPS/Watt)가 높고, 초저지연(Ultra Low Latency, ULL) 서버를 구축할 수 있다고 한다.

다음으로 출시한 ATOM은 AI 추론을 위해 설계된 칩이다. 더 빠른 추론을 위해 ION에 없었던 메모리, 칩 내부의 코어 간 소통(network on chip, NoC) 기능을 추가했다. 이 덕분에 MLPerf의 BERT 모델 성능에서 Qualcomm보다 큰 우위를 차지했다.

동사는 하드웨어 뿐 아니라 AI 칩을 위한 컴파일러도 만들었다. 오픈 소스인 Apache TVM을 기반으로 했고, 클라우드 환경을 고려한 기능도 포함시켰다.

동사는 대규모의 데이터 센터 업체를 고객으로 설정한 듯 하다. 제약이 큰 노트북, 스마트폰과 달리 데이터 센터는 어떠한 워크로드라도 수용할 수 있으며, 손쉽게 시스템을 커스터마이징할 수 있다. 게다가 데이터 센터, AI 추론에 관한 시장이 커지고 있으니 동사가 이를 더더욱 노려야 할 것이다.

아직 ION에 대한 계약 소식은 없으나 ATOM은 2023년부터 KT에 꾸준히 공급되고 있다. 게다가 카카오나 정부에서 어마어마한 투자를 받았으니 앞으로도 더 큰 발전이 있을 거라 느낀다.