분산형 아키텍처·균형 설계 중요
AMD가 에이전틱 AI 확산에 따른 데이터센터 인프라 변화 방향을 제시했다. AI가 단순 추론 중심에서 자율형 작업 수행으로 확대되면서 CPU와 GPU의 역할 구조도 변화하고 있다는 설명이다.
AMD는 최근 공식 블로그를 통해 AI 시스템이 에이전틱 AI 기반으로 진화함에 따라 CPU의 중요성이 높아지고 있다고 8일 밝혔다.
에이전틱 AI는 AI가 스스로 추론하고 작업을 수행하며 워크플로우를 관리하는 형태의 AI 기술이다. 기존 챗봇 중심 구조와 달리 데이터 처리, 작업 실행, 시스템 조정 기능이 함께 요구된다.
■ CPU-GPU 비율 변화와 구조 재편
기존 AI 인프라는 GPU 중심 구조였다. 일반적으로 CPU와 GPU의 비율은 약 1:4에서 1:8 수준으로 운영됐다.
AMD에 따르면, 에이전틱 AI 환경에서는 CPU와 GPU 비율이 1:1 수준에 가까워지는 경향이 나타나고 있다. 일부 환경에서는 CPU 자원 비중이 더 높아질 수 있다고 설명했다.
이는 AI 시스템이 단순 연산을 넘어 △데이터 처리 △메모리 관리 △워크플로우 오케스트레이션 △툴 실행 등 복합 작업을 수행하기 때문이다.
AMD는 이러한 변화가 컴퓨팅 자원의 양이 아니라 구성 방식의 변화를 의미한다고 밝혔다.
■ 전용 CPU 계층과 분산형 AI 구조
AMD는 차세대 AI 인프라가 CPU와 GPU의 역할 분리에 기반한 구조로 발전하고 있다고 설명했다. GPU는 학습과 추론 등 고밀도 연산을 담당하고, CPU는 시스템 제어와 데이터 처리를 수행하는 방식이다.
특히 AI 시스템에는 대규모 에이전틱 워크로드를 처리하기 위한 전용 CPU 계층이 필요하다는 점이 강조됐다. CPU는 에이전트 간 상호작용 관리, 데이터 접근 제어, 작업 실행 조정을 담당한다.
AMD는 향후 AI 인프라가 단일 서버 중심 구조에서 벗어나 분산형 시스템으로 전환될 것으로 전망했다.
이 과정에서 CPU, GPU, 네트워크, 소프트웨어가 통합돼 하나의 플랫폼처럼 작동하는 구조가 요구된다는 설명이다.
■ 성능보다 시스템 균형 강조
AMD는 AI 성능이 단일 구성 요소가 아니라 전체 시스템 균형에 의해 결정된다고 밝혔다.
CPU 자원이 부족하면 GPU 활용도가 떨어지고, 네트워크와 데이터 이동이 병목이 되면 전체 성능이 저하될 수 있다.
또한 대규모 동시 작업을 처리하는 오케스트레이션 성능도 중요한 요소로 지목됐다.
AMD는 이러한 환경에서 CPU와 GPU를 포함한 전체 인프라 설계 최적화가 필요하다고 설명했다.
■ 기업 환경에서 CPU 역할 확대
AMD는 자사 EPYC 프로세서를 기반으로 기업용 AI 환경에서 CPU 활용 범위가 확대되고 있다고 밝혔다.
일부 AI 추론 작업은 CPU만으로도 수행 가능하며, CPU는 가속기 활용도를 높이는 역할을 한다고 설명했다.
또한 AI 인프라 투자에서는 특정 프로세서 성능보다 다양한 워크로드에 맞는 컴퓨팅 자원 조합이 중요하다고 강조했다.
AMD는 기업들이 AI 도입 확산에 대비해 인프라 설계를 조기에 준비할 필요가 있다고 밝혔다.