잠재 추론 트랜스포머 모델 출현, HBM 지고 PIM 도래

[혁신포커스] 잠재 추론 트랜스포머 모델 출현, HBM 지고 PIM 도래

기사입력 2025.02.17 17:33

*This article is paid content provided to e4ds+ membership members.

Read it now for free! 무료 열람

#AI #삼성전자 #AI반도체 #HBM #LLM #생성AI #메모리 #SK하이닉스 #엣지AI

권신혁 기자kwonsh@e4ds.com

기사 전체보기

댓글
Facebook

관련뉴스

온디바이스 AI 시대 차세대 메모리, 모바일서 PIM-LPDDR6 결합 전망

생성형 AI가 촉발한 AI 서버, 데이터센터 인프라 확충으로 인해 SK하이닉스의 HBM이 업계 큰 주목을 받고 있다. 이러한 상황에서 AI 연산에 활용되는 CPU·GPU 성능 발전을 메모리가 따라가지 못하면서 병목현상을 일으키고 있다는 평가가 나오면서 차세대 메모리로의 패러다임 전환 압박이 심화되고 있다.

2024-11-19 오후 4:07:47by 권신혁 기자
SK대 삼성 ‘PIM’에서 격돌...AI 시대 차세대 시장 ‘PIM’ 포커스

AI 모델 발전에 따라 메모리 인텐시브 영역에서 혁신의 병목현상이 발생하고 있는 가운데 HBM에 이은 PIM 반도체에서 차세대 메모리 시장 격돌이 예고되고 있다.

2024-12-03 오후 4:46:48by 권신혁 기자
딥시크 충격, 온디바이스 AI 부흥 단초...사전학습모델 구축 비용은 高

중국 AI 스타트업 딥시크(DeepSeek)에서 만든 추론모델 딥시크 R1의 등장으로 AI 업계 파문이 일고 있다. 경량화된 파라미터를 기반으로 저렴한 비용 대비 뛰어난 성능으로 AI 발전방향의 패러다임을 제시했다는 점에서 대표격으로 주목 받고 있다. 딥시크 R1은 강화 학습을 통해 스스로 추론 능력을 발전시키는 방식을 채택해 AI 모델 개발 비용과 리소스를 크게 낮췄으며, 이를 통해 적은 파라미터만으로도 높은 정확도와 성능 지표를 보여줘 ‘효율성’면에서 AI 상용화를 한 단계 진일보시켰다고 평가받는다.

2025-02-03 오후 5:04:40by 권신혁 기자
엔비디아, NIM에서 딥시크 R1 지원 시작

엔비디아가 지난 3일 엔비디아 NIM에서 딥시크(DeepSeek) R1의 지원을 시작한다고 3일 발표했다.

2025-02-04 오전 10:44:10by 권신혁 기자