이강욱 SK하이닉스 부사장(PKG개발 담당)이 3일 SEMICON TAIWAN에서 ‘AI 시대를 대비하는 HBM과 어드밴스드 패키징 기술(HBM (High Bandwidth Memory) and Advanced Packaging Technology for AI Era)’을 주제로 발표하며, 2025년 HBM4 12단을 출시하겠다고 밝혔다.
▲이강욱 SK하이닉스 부사장(PKG개발 담당)
HBM, 2025년까지 연평균 109% 성장
HBM4 12단 Advanced MR-MUF 적용
SK하이닉스가 2025년까지 연평균 109%의 성장이 예상되는 HBM 시장에서 2025년 HBM4 12단을 출시하며, 시장 주도권을 확고히 다진다.
이강욱 SK하이닉스 부사장(PKG개발 담당)은 3일 SEMICON TAIWAN에서 ‘AI 시대를 대비하는 HBM과 어드밴스드 패키징 기술(HBM (High Bandwidth Memory) and Advanced Packaging Technology for AI Era)’을 주제로 세션 발표를 진행했다.
이강욱 부사장은 AI와 고성능 컴퓨팅(HPC) 시대에는 데이터 트래픽(Traffic)이 급증하며 메모리 대역폭 향상에 대한 요구가 커지고 있음. 메모리 성능에서 오는 시스템 병목 현상을 극복하기 위한 현존 최고 사양의 D램은 HBM이며, 이는 AI 시스템의 훈련, 추론에도 최적의 제품이라고 밝혔다.
이어 HBM은 AI 서버와 고성능 컴퓨팅용 메모리로 광범위하게 채택되고 있는데, 응용제품(Application)에 따라 다르지만 HBM 세대가 발전하며 훈련, 추론 AI 서버에 탑재되는 평균 채택 숫자도 더 늘어날 것으로 전망했다.
현재의 8단, 12단 HBM3E는 초당 1.18TB 이상의 데이터를 처리하며 최대 36GB의 용량을 지원하는데, HBM4는 12, 16단으로 공급되며 용량은 최대 48GB까지, 데이터 처리 속도는 초당 1.65TB 이상으로 성능이 발전했고, HBM4부터는 베이스 다이에 로직 공정을 적용함으로써, 성능 및 에너지 효율 향상을 기대하고 있다고 언급했다.
이러한 HBM 성능 발전에 따라 HBM에 대한 수요도 AI 시장에서 더 늘어날 것으로 전망되는데, 2023년부터 2032년까지 생성형 AI 시장은 연평균 27% 성장할 것으로 예상되는데, HBM 시장은 2022년부터 2025년까지 이미 연평균 109%의 성장이 예상됐다.
이와 같은 시장 성장세에 맞춰 HBM 분야 리더인 SK하이닉스는 2025년에는 HBM4 12단 제품도 출시할 예정이다. 특히 SK하이닉스는 독자적으로 개발한 혁신적인 패키징 기술을 통해 HBM 제품의 에너지 효율 및 열 방출(방열 성능) 측면에서 압도적인 제품 경쟁력을 갖추고 있다.
SK하이닉스가 HBM 제품에 적용한 MR-MUF 패키징 기술은, 낮은 본딩(칩 접합) 압력/온도 적용과 일괄 열처리가 가능해 생산성과 신뢰성 측면에서 타 공정 대비 유리하다.
또한 높은 열전도 특성을 갖는 Gap-Fill 물질(빈 공간을 채우는 물질) 및 높은 밀도의 메탈 범프(HBM D램을 수직으로 적층할 때 회로 연결 역할을 하는 초소형 돌기 형태의 소재) 형성이 가능해 타 공정 대비 열 방출 면에서 30% 이상의 성능 장점을 가진다.
SK하이닉스는 HBM3와 3E 8단 제품에 MR-MUF, 12단 제품에 Advanced MR-MUF기술을 적용해 양산을 하고 있으며, 내년 하반기 출하 예정인 HBM4 12단 제품에도 Advanced MR-MUF를 적용해 양산할 계획이다.
16단 제품을 위해 Advanced MR-MUF와 하이브리드 본딩 방식 모두에 대한 준비를 하고 있으며, 고객 니즈에 부합하는 최적의 방식을 선택할 계획이다.
SK하이닉스는 16단 제품 대응을 위한 기술을 개발 중인데, 최근 연구에서 16단 제품에 대한 Advanced MR-MUF 기술 적용 가능성을 확인했다.
하이브리드 본딩 기술을 적용할 경우 제품 성능, 용량 증가 및 열 방출 측면에서 장점이 있으나, 기술 완성도 및 양산 인프라 준비 측면에서 해결해야 할 여러 선결 과제들이 있다.
두 가지 방식에 대한 기술 완성도를 빠르게 높여, 메모리 고용량화에 대한 고객 니즈에 선제적으로 대응할 예정이다.
이강욱 부사장은 “SK하이닉스는 HBM4 및 이후 세대 제품 개발을 준비하고 있으며, 대역폭, 용량, 에너지 효율 측면에서의 기술적 난제들을 해결하기 위해 2.5D 및 3D SiP(System in Package) 패키징 등을 포함 다양한 대응 방안을 검토하고 있다”며 “HBM4E 부터는 커스텀(Custom) 성격이 강해질 것으로 예상돼 다양한 고객 요구에 효율적으로 대응하기 위한 생태계 구축 관점에서도 글로벌 파트너들과의 협력을 강화해 가고 있다”고 밝혔다.