Arm이 하드웨어에서부터 소프트웨어에 이르기까지 AI 기반 컴퓨팅 솔루션을 토탈 지원하면서 최근 모바일 및 안드로이드에 적합한 AI 최적화 인프라·솔루션을 출시했다.
"AI 전환, AI 스마트폰과 AI PC로 집약"
Arm CPU·GPU, AI 모바일 컴퓨팅 구현
Kleidi 출시, AI 프레임워크 개발자 지원
Arm이 하드웨어에서부터 소프트웨어에 이르기까지 AI 기반 컴퓨팅 솔루션을 토탈 지원하면서 최근 모바일 및 안드로이드에 적합한 AI 최적화 인프라·솔루션을 출시했다.
Arm이 30일 온라인 미디어 브리핑을 열고 클라이언트용 Arm 컴퓨팅 서브시스템(CSS)과 더불어 Arm Kleidi를 함께 발표했다.
클라이언트용 Arm CSS는 플래그십 모바일 시스텝온칩(SoC)를 위한 기본 컴퓨팅 요소를 제공한다. 최신 Armv9 CPU, Immortalis GPU, 3나노미터에서 생산 가능한 CPU 및 GPU용 물리적 구현과 최신 Corelink 시스템 메모리 관리 유닛(SMMU)을 특징으로 한다.
Arm Kleidi에는 AI 워크로드를 위한 KleidiAI와 컴퓨터 비전 애플리케이션을 위한 KleidiCV가 포함된다.
황선욱 Arm 코리아 사장은 “ 최근 AI 전환은 AI 스마트폰과 AI PC로 집약되고 있다”면서 “최근 새로운 AI 사용 사례와 폼펙터를 확인했으며, AI가 스마트폰의 스마트를 재정의하고 있다”고 말했다.
황 사장은 “Arm은 차세대 컴퓨팅 성능 요구의 기반이 되며 대규모 컴퓨팅 에코시스템을 위한 광범위하고 개발자 친화적인 명령어 세트를 제공한다”고 강조하며 “시장의 요구사항은 에너지 효율적인 Arm 아키텍처로 귀결되고 있다”고 자부했다.
■ Arm표 CPU·GPU로 AI 모바일 컴퓨팅 구현
클라이언트용 Arm CSS는 30% 향상된 컴퓨팅·그래픽 성능을 기반으로 AI, 머신러닝 및 컴퓨터 비전(CV) 워크로드에서 59%의 향상된 AI 추론 성능을 제공한다.
클라이언트용 CSS의 핵심은 성능과 전력 효율을 극대화하기 위한 Arm의 다용도 CPU 클러스터에 있다. 새롭게 출시된 Arm Cortex-X925는 Cortex-X 역사상 전년 대비 가장 높은 성능 향상을 제공한다. 3.8GHz 클럭 속도와 최대 캐시 크기를 기준 해 최첨단 3나노 공정 노드를 활용할 경우 2023년 스마트폰 플래그십 4nm SoC와 비교했을 때 단일 스레드 성능이 36% 향상되는 엄청난 결과를 얻을 수 있다.
AI의 경우, Cortex-X925는 41%의 성능 향상을 제공해 LLM(대규모 언어 모델)과 같은 온디바이스 생성 AI의 응답성을 개선한다.
Arm의 새로운 Cortex-A725 CPU는 최첨단 효율성과 결합돼 AI 및 모바일 게임 사용 사례를 대상으로 35%의 성능 향상을 제공한다. 이는 최신의 Armv9 CPU 클러스터를 채택하는 소비자 기기를 위해 Arm Cortex-A520 CPU와 업데이트된 DSU-120에 의해 지원된다.
높은 성능과 효율성을 갖춘 Arm의 새로운 Immortalis-G925 GPU는 광범위한 주요 모바일 게임 애플리케이션에서 37% 더 높은 성능을 제공하며, 여러 AI 및 머신러닝 네트워크에서 측정할 경우 34% 더 높은 성능을 제공한다.
Immortalis-G925는 플래그십 스마트폰 시장을 위해 출시된 반면, 확장성이 뛰어난 새로운 GPU 제품군인 Arm Mali-G725 및 Mali-G625 GPU는 프리미엄 모바일 핸드셋부터 스마트워치 및 XR 웨어러블에 이르기까지 광범위한 소비자 기기 시장을 대상으로 한다.
■ Arm Kleidi 출시, AI 프레임워크 개발자 지원
Arm은 전세계 개발자가 차세대 AI 지원 애플리케이션을 개발하는 데 필요한 성능, 툴 및 소프트웨어 라이브러리에 지원할 준비를 마쳤다.
Arm은 AI 워크로드를 위한 KleidiAI와 컴퓨터 비전 애플리케이션을 위한 KleidiCV를 포함하는 Arm Kleidi를 출시했다. KleidiAI는 AI 프레임워크 개발자를 위한 컴퓨팅 커널 세트로, NEON, SVE2 및 SME2와 같은 주요 Arm 아키텍처 기능을 지원해 다양한 디바이스에서 Arm CPU에서 설정 가능한 최고 성능을 원활하게 이용할 수 있도록 한다.
KleidiAI는 △파이토치 △텐서플로우 △미디어파이프 △메타 라마 3와 같은 인기 있는 AI 프레임워크와 통합되며, 이후 Arm이 새롭게 출시할 추가 기술과도 적합하도록 이전 버전과 호환이 가능하다.