| AI 프로세싱, 클라우드에서 에지로 이동해
| 슈퍼플래시 기술 기반 신경망 VMM 최적화
| 멤브레인 솔루션, 시스템 지연 시간 개선

AI 프로세싱이 클라우드에서 네트워크 에지로 이동함에 따라, 배터리 전력으로 구동하는 고성능 임베디드 디바이스는 컴퓨터 비전, 음성 인식 등과 같은 AI 기능을 수행해야 하는 상황에 직면하고 있다.

마이크로칩 테크놀로지는 자회사인 실리콘 스토리지 테크놀로지를 통해 자사의 아날로그 메모리 기술인 멤브레인(memBrain) 뉴로모픽(neuromorphic) 메모리 솔루션을 적용하여 소비전력을 대폭 줄임으로써 이러한 상황에 대처할 수 있다고 12일 밝혔다.

슈퍼플래시(SuperFlash) 기술을 바탕으로 신경망의 벡터 행렬 곱셈(Vector-by-Matrix Multiplication; VMM) 수행에 최적화된 마이크로칩의 아날로그 플래시 메모리 솔루션은 아날로그 인메모리 컴퓨팅 접근방식을 통해 VMM의 시스템 아키텍처 구현을 개선하여 에지 디바이스에서의 AI 추론 기능을 끌어올린다.

현행 신경망 모델들의 경우 프로세싱에 필요한 시냅스(Synapse; 가중치)가 5000만 이상 필요해 오프칩 DRAM 대역폭을 충분히 확보하기가 어려웠고, 이로 인해 신경망 컴퓨팅에 병목 현상이 발생하여 전체 컴퓨팅 소비전력이 증가했다.

이와 달리 멤브레인 솔루션은 시냅스 가중치를 온칩 플로팅 게이트에 저장하여 시스템 지연 시간이 개선됐다. 기존 디지털 DSP 및 SRAM/DRAM 기반 접근 방식과 비교할 경우 멤브레인 솔루션은 소비전력이 10배에서 20배가량 낮고 BOM도 줄였다.

SST 라이선스 사업부 부사장인 마크 라이튼(Mark Reiten)은 “자동차, 산업 및 소비자 시장을 대상으로 하는 기술 제조사들이 계속해서 신경망용 VMM을 구현하고 있으므로, SST의 아키텍처는 이들 전향적 솔루션들이 전력, 비용, 지연 시간 측면에서 효과를 거두는 데 도움을 준다”라며 “마이크로칩은 신뢰도 높고 다재다능한 AI 애플리케이션용 슈퍼플래시 메모리 솔루션을 지속적으로 제공할 것”이라고 말했다.

신티언트(Syntiant)의 CEO 커트 부시(Kurt Busch)는 “마이크로칩의 멤브레인 솔루션은 향후 출시될 신티언트의 아날로그 신경망 프로세서로 하여금 초저전력 인메모리 연산(Ultra-Low-Power In-Memory Computation)을 수행할 수 있도록 해준다”라며, “신티언트는 에지 디바이스의 음성, 이미지 및 기타 센서 방식 분야에서 상시 접속(Always-On) 상태 애플리케이션에 대한 전반적인 머신러닝을 지원하고 있어 마이크로칩과의 파트너십을 통해 여러 중요한 이점을 지속적으로 누릴 수 있게 됐다”고 밝혔다.