SoC의 복잡한 뉴럴 프로세싱 비용, 전력 및 성능 요건을 충족할 수 있도록 지원
인메모리 컴퓨팅(computing-in-memory) 기술은 네트워크 에지에서 인공지능 음성 프로세싱을 수행할 때 발생하는 대규모 데이터 통신 병목 현상을 제거하기 위해 사용된다. 그러나 이를 위해서는 신경망 연산을 수행하는 동시에 가중치를 저장할 수 있는 임베디드 메모리 솔루션이 필요하다.
이러한 문제를 해결하기 위해 마이크로칩테크놀로지(이하 마이크로칩)는 자회사인 실리콘 스토리지 테크놀로지를 통해 SuperFlash memBrain 뉴로모픽 메모리 솔루션을 WITINMEM의 뉴럴 프로세싱 SoC에 통합했다. 해당 SoC는 현재 양산되는 제품 중 최초로 서브 mA 시스템이 전원 공급 직후 실시간으로 음성 노이즈를 줄이고 수 백여개의 명령어를 인식할 수 있도록 지원한다.
마이크로칩은 WITINMEM과 협력해 SuperFlash 기술 기반의 마이크로칩 memBrain 아날로그 인메모리 컴퓨팅 솔루션을 초저전력 SoC에 통합시켰다. 해당 SoC는 음성 인식, 성문(voice-print) 인식, 딥스피치 노이즈 감소, 장면 감지, 건강 상태 모니터링 등의 신경망 프로세싱을 위한 인메모리 컴퓨팅 기술을 특징으로 한다. WITINMEM은 2022년 내 해당 SoC 기반 제품을 출시하고자 여러 고객들과 협력하고 있다.
WITINMEM의 CEO인 샤오디 왕은 “WITINMEM은 고급 신경망 모델을 기반으로 하는 네트워크 에지에서 실시간 AI 음성의 컴퓨팅 집약적 요구사항을 해결하고자 마이크로칩의 memBrain 솔루션으로 새로운 지평을 열었다"고 전했다.
SST 라이선스 사업부 부사장 마크 라이튼은 "WITINMEM의 SoC는 memBrain 기술을 활용해 인메모리 컴퓨팅 뉴럴 프로세서를 기반으로 하는 단일 칩 솔루션을 개발했다"며 "이러한 프로세서는 기존 프로세서가 디지털 DSP 및 SRAM/DRAM 기반 접근 방식을 사용해 머신러닝 모델을 저장하고 실행할 때 발생하는 문제점을 해결할 수 있다"고 말했다.
마이크로칩의 memBrain 뉴로모픽 메모리 제품은 신경망의 벡터 행렬 곱셈 수행에 최적화됐다. 해당 제품은 배터리 전력으로 구동되는 고성능 임베디드 엣지 디바이스가 최고 수준의 와트당 AI 추론 성능을 제공할 수 있도록 지원한다. 외부 DRAM 및 NOR이 필요하지 않기 때문에 전반적인 프로세서 BOM이 절감되며 소비 전력이 여타 접근 방식보다 10배에서 20배 가량 낮다.
헬로티 이동재 기자 |
