반도체 프라임마스, 메모리 병목 해소로 GPU 활용률 극대화한다

팹리스 반도체 혁신 기업 프라임마스(Primemas)가 AI 인프라의 최대 병목으로 지목돼온 메모리 용량 한계를 해결하기 위한 수십~수백 테라바이트(TB)급 메모리 확장 솔루션 'JBOM(Just a Bunch of Memory)'을 올해 하반기부터 양산 공급한다고 28일 밝혔다. 마이크론에 대한 양산 공급을 시작하는 한편, 삼성전자와는 차세대 CXL 메모리 솔루션을 공동 개발하며 글로벌 메모리 생태계 진입에 속도를 내고 있다. JBOM은 CXL(Compute Express Link) 기반으로 대용량 메모리 모듈을 다수 묶어 서버 메모리를 수백 TB 규모의 메모리 풀로 확장하는 솔루션이다. 기존 CPU의 D램 용량은 2~4TB 수준에 머물러 있었으나, JBOM은 이를 CPU 서버당 수백 TB 이상의 메모리 풀로 끌어올린다. 프라임마스는 올해 40TB에서 최대 120TB급 JBOM 솔루션을 공급하고, 내년에는 240TB 이상으로 확장하는 로드맵을 추진하고 있다. 메모리 용량의 한계는 곧 GPU 활용률 저하로 직결된다. 현재 AI 데이터센터의 가장 큰 비효율은 값비싼 GPU가 충분히 활용되지 못하는 구조에서 발생하며, 그 핵심 원인으로 메모리 병목이 거론돼 왔다

• 김재황 기자
• 2026-05-28 10:46