프라임마스가 CXL 기반 메모리 확장 솔루션 ‘JBOM’을 앞세워 AI 데이터센터의 메모리 병목 시장을 공략한다. 생성형 AI 확산으로 GPU 수요가 급증한 가운데, 대규모 모델을 구동하는 데 필요한 메모리 용량과 접근 구조가 새로운 인프라 과제로 떠오르고 있다.

프라임마스는 28일 수십~수백TB급 JBOM을 올해 하반기부터 양산 공급한다고 밝혔다. 회사는 마이크론과 공급 협력을 추진하고 있으며, 삼성전자와는 차세대 CXL 메모리 솔루션 공동개발을 진행 중이다.

JBOM은 여러 대용량 메모리 모듈을 묶어 서버가 하나의 큰 메모리 풀처럼 활용할 수 있도록 하는 솔루션이다. 기존 CPU 서버의 D램 용량 한계를 넘어, CXL 기반 구조로 메모리 확장성을 수십~수백TB 단위까지 키우는 방식이다.

프라임마스는 올해 40TB에서 최대 120TB급 제품을 공급하고, 내년에는 240TB 이상으로 확대한다는 계획이다. 이는 GPU를 추가하는 방식만으로 해결하기 어려운 AI 인프라 효율 문제를 메모리 확장으로 완화하려는 전략이다.

AI 서버에서는 연산 장비가 충분해도 데이터를 제때 불러오지 못하면 GPU 활용률이 떨어진다. 특히 대규모언어모델 추론에서는 모델 파라미터와 캐시 데이터를 처리할 메모리 용량이 성능을 좌우하는 요인으로 꼽힌다.

CXL은 CPU, GPU, 메모리 장치를 고속으로 연결해 메모리 확장과 공유를 가능하게 하는 차세대 인터커넥트 기술이다. 삼성전자, SK하이닉스, 마이크론 등 주요 메모리 기업도 AI 서버 구조 변화에 대응해 CXL 생태계 확대에 나서고 있다.