인텔이 업계 최초로 MLPerf Client v0.6 벤치마크에서 완전한 NPU 지원을 달성하며 AI PC 혁신을 주도하고 있다.

인텔은 새로운 MLPerf Client v0.6 평가에서 클라이언트 NPU 성능을 측정하는 표준화된 최초의 벤치마크 결과를 19일 공개했다.

이번 평가에서 인텔® 코어™ Ultra 시리즈 2 프로세서는 CPU, GPU, NPU 기반 AI 컴퓨팅 성능에서 업계 최고 수준을 입증했다.

특히 GPU와 NPU 모두에서 일반적인 인간의 읽기 속도를 초월하는 출력을 생성하며 강력한 성능을 보여줬다.

다니엘 로저스 인텔 PC 제품 마케팅 총괄은 “인텔은 클라이언트 PC 플랫폼에서 AI 워크로드를 위한 NPU 가속화를 구현하며 업계를 선도하고 있다”며 “이번 성과는 AI PC의 혁신을 이끌기 위한 인텔의 지속적인 노력과 소프트웨어 최적화의 결과”라고 말했다.

인텔의 코어 Ultra 시리즈 2 프로세서는 CPU, GPU, NPU 전반에서 전례 없는 AI 연산 성능을 제공하며 AI PC 환경을 새롭게 정의하고 있다.

MLPerf Client v0.6은 Llama 2 7B 모델 기반으로 4가지 콘텐츠 생성 및 요약 작업을 평가하며, 인텔은 자사 NPU와 내장 인텔® Arc™ GPU를 통해 업계를 선도하는 성능을 기록했다.

NPU 응답 속도에서 인텔은 최고 기록을 달성했으며, 첫 토큰을 생성하는 데 단 1.09초밖에 걸리지 않아 즉각적인 반응이 가능했다.

또한 초당 18.55 토큰의 처리 속도를 기록, 실시간 AI 상호작용을 끊김 없이 지원하는 성능을 입증했다.

GPU 성능에서도 인텔은 경쟁사보다 더 빠른 첫 토큰 생성 속도를 기록하며, NPU와 GPU를 활용한 AI 가속 기술의 리더십을 확고히 했다.

MLPerf Client v0.6은 기존 GPU 중심 테스트에서 벗어나 NPU 전용 벤치마킹까지 포함하며 평가 범위를 확대했다.

이번 벤치마크는 인텔, AMD, 마이크로소프트, 엔비디아, 퀄컴 등 MLCommons 컨소시엄 기업들이 공동 개발한 테스트로, AI 컴퓨팅 성능을 평가하는 새로운 기준을 제시하고 있다.

인텔은 NPU 하드웨어 팀과 OpenVINO™ 소프트웨어 팀 간의 협업을 바탕으로 최종 벤치마크에서 NPU 평가 요구사항을 완전히 충족한 유일한 프로세서로 기록됐다.