IBM이 20년에 걸쳐 개발한 NorthPole 칩의 존재를 확인, 뇌에 영감을 받은 설계로 AI의 고속화가 가능

 
 
캘리포니아주 알데만에 있는 IBM 연구소가 20년에 걸쳐 연구해 왔다는 새로운 타입의 디지털 칩 "NorthPole"의 존재가 밝혀졌습니다. 개발진인 다르멘드라 모다 씨에 의하면, 뇌의 연산방법에서 영감을 얻어 컴퓨터칩의 기본구조를 바꾼 것이라고 합니다.

Neural inference at the frontier of energy, space, and time | Science
https://www.science.org/doi/10.1126/science.adh1174

IBM Research's new NorthPole AI chip | IBM Research Blog
https://research.ibm.com/blog/northpole-ibm-ai-chip

IBM Research's new NorthPole AI chip | IBM Research Blog

컴퓨터 칩은 반도체가 탄생한 이래로 거의 동일한 노이만형의 기본 구조를 하고 있어, 처리 유닛과 처리되는 정보를 저장하는 메모리가 별도로 되어 있습니다. 이로 인해 수십 년 동안 단순 구조로 충분한 확장이 이루어졌지만, 대신 "노이만 병목 현상"이 발생하여 메모리, 프로세서 및 기타 장치 간에 데이터가 지속적으로 이동하는데 시간과 에너지가 소요되었습니다.

그런 가운데, IBM의 모다 씨 등의 연구팀은 2014년에, 뇌로부터 영감을 받은 칩 「TrueNorth」를 개발하였고, 그에 이어서 모다 씨는 신경추론용의 새로운 타입의 디지털 AI칩인 「NorthPole」의 연구 · 개발을 8년에 걸쳐서 진행해 왔습니다.

IBM의 「뇌」를 본뜬 초전력 칩 「TrueNorth」가 꾸준히 진화하여, 쥐의 두뇌 수준에 도달

IBM's 'Rodent Brain' Chip Could Make Our Phones Hyper-Smart

NorthPole을 탑재한 프로토타입 디바이스를 사용하여, 이미지 인식 모델 「ResNet-50」과 물체 검출 모델 「YOLOv4」의 테스트를 실시했는데, 프레임당 필요한 전력으로 따지면, 에너지 효율은 일반적인 12nm 프로세스 GPU나 14nm 프로세스 GPU 대비 25배나 우수했고, 지연도 어느 칩보다 적었다는 것.

기존 제품과 NorthPole의 가장 큰 차이점은 256개의 코어에 각각 독자적인 메모리가 탑재되어 있어, 기존의 모든 칩보다 고속으로 AI 추론을 실행하는 것이 가능하다는 것입니다.

모다 씨는 "아키텍처 적으로 NorthPole은 컴퓨팅과 메모리의 경계를 모호하게 만듭니다. 개별 코어 수준에서 NorthPole은 니어 메모리 컴퓨팅 (memory-near-compute)으로 보이지만 칩의 외부 및 입출력 레벨에서 활성 메모리로 보입니다."라고 설명합니다.

그러나 NorthPole의 가장 큰 장점은 동시에 제약이기도 하며, 온보드 메모리에서만 쉽게 꺼낼 수 있다는 문제가 있다는 것. 각 코어에는 충분한 메모리를 탑재하고 있지만, 이 메모리는 「무엇이든 가능한」동작을 상정한 것이 아니라, 「어디까지나 NorthPole는 추론 전용입니다」라고 모다 씨는 말하고 있습니다.

이 추론 전용의 칩을 사용하면 AI의 발전이 더욱 가속화되겠네요.