거대 인공신경망은 언어 모델부터 영상 및 음성 처리까지 다양한 분야에서 중요한 역할을 하며, 그 규모가 커짐에 따라 신경망을 학습하고 추론하는 데 높은 연산량을 필요로 한다. 따라서 고성능 지능형 반도체 하드웨어와 이를 위한 소프트웨어 플랫폼의 중요성이 커지고 있다. 국내외 다양한 업체 및 연구기관에서는, 인공신경망의 연산 가속을 위한 뉴럴 프로세서 유닛(NPU), 높은 메모리 대역폭을 해결하기 위한 고대역폭 메모리(HBM) 및 프로세싱 인 메모리(PIM) 등의 지능형 반도체 하드웨어를 개발하고 있으며, 이를 최적으로 동작시키고 지원하기 위한 소프트웨어 플랫폼은 인공신경망 학습, 추론에 매우 중요하다. 또한, 거대 인공신경망 학습을 위해서는 다수의 연산 가속기 하드웨어를 병렬, 분산 처리하기 위한 소프트웨어 플랫폼이 필요하다. 거대 인공신경망의 활용이 점차 증가함에 따라 과거의 CPU 기반의 소프트웨어 플랫폼에서 지능형 반도체 기반의 소프트웨어 기술을 포함한 플랫폼의 수요가 증가하고 있다. 본 고에서는 거대 인공신경망의 학습과 추론을 위한 NPU, HBM, PIM 하드웨어 기반 소프트웨어 플랫폼에 대한 국내외 기술 동향을 살펴보고 앞으로 거대 인공신경망을 위한 소프트웨어 플랫폼이 나아가야 할 방향성에 대해 고찰한다.

[원문보기]