ASIC 한계 보완하는 FPGA
AI 발전 속도 따라갈 하드웨어 구축
SK텔레콤이 자사의 데이터 센터에 인공지능(AI) 가속기로 자일링스의 FPGA를 배치했다.

AI는 4차 산업혁명 시대의 '전기'와 같은 존재다. 현재도 AI는 광범위한 분야에 적용되어 기존 방식의 한계를 보완하고 새로운 가치를 창출하고 있다. 그러나 AI 알고리즘과 머신 러닝 모델의 빠른 발전 속도와 달리 AI 컴퓨팅 플랫폼, 즉 하드웨어의 발전 속도는 한계에 봉착해있다. 가령 하드웨어가 1번 향상될 동안, AI는 8번까지 향상될 수 있다.

업계에서 두루 쓰이는 ASIC(Application Specific Integrated Circuit)는 반도체 업체가 사용자의 목적에 맞춰 설계하고 제작하는 주문형 반도체라 AI의 발전 속도에 즉각적으로 대응하기 매우 어렵다. 그에 따라 설계 가능 논리 소자와 프로그래밍 가능 내부선이 포함된 반도체, FPGA(Field Programmable Gate Array)가 대안으로 떠오르고 있다. 현장에서 빠른 하드웨어 프로그래밍이 가능하기 때문이다. FPGA는 데이터 센터에 있는 서버에서 CPU와 GPU의 가속화를 돕는다. 인텔의 알테라 인수도 기존 X86 서버의 CPU 가속화를 위함이었다.

자일링스와 SK텔레콤은 8월 16일, 강남에서 기자간담회를 열고 현재 자일링스 킨텍스 울트라스케일 FPGA가 SK텔레콤의 음성인식 플랫폼 누구(NUGU)를 가속화하기 위해 SK텔레콤의 데이터 센터에 배치된다고 공동발표했다. 이는 한국에서 대규모 데이터 센터를 위해 AI 도메인에서 FPGA 가속기를 상용 채택한 최초 사례다. 자일링스의 FPGA 가속기는 현재 자동 음성 인식(automatic speech recognition, ASR) 애플리케이션을 성공적으로 구동하고 있다.

FPGA 가속기는 기존 CPU 전용 서버에 자일링스 FPGA 애드 인(Add-In) 카드를 추가하여 ASR 애플리케이션 서버의 총 소유 비용(TCO)을 낮춘다. ASR 서버는 빈 슬롯에 자일링스 FPGA 카드를 장착하여 쉽고 간단하게 여러 음성 서비스 채널을 가속화한다. 하나의 FPGA 카드는 단일 서버보다 성능이 5배 이상 뛰어나므로 비용 절감 효과가 크다.

SK텔레콤 데이터 센터의 FPGA 가속기는 올해 6월부터 탑재되었다. 그동안 FPGA 가속기는 ASR 애플리케이션에서 GPU 대비 최대 5배 이상의 성능을 달성했으며, 전력효율은 16배나 향상했다. 그리고 모든 작업 사이클에서 DSP 효율이 전보다 95% 상승했다.

SK텔레콤 이강원 소프트웨어 기술원장은 “지난 몇 년간 이 산업이 성장하고 발전하는 것을 지켜봤으며, AI 가속기를 개발하는데 앞장서고 있다는 것에 자부심을 느낀다. 자일링스 KCU1500 보드와 SK텔레콤의 자체 비트스트림 이미지를 기반으로 한 솔루션을 설계함으로써, 비용 효율적이며 고성능 애플리케이션을 개발했다”고 말했다.
자일링스 FPGA의 적응형 특성은 급속도로 진화하는 AI 및 딥 러닝 분야에 맞춤형 하드웨어 가속기를 신속하게 배치할 수 있도록 한다. 또한 FPGA는 CPU 및 GPU에 비해 낮은 전력으로 더 높은 성능과 낮은 대기 시간을 제공한다. SK텔레콤은 컴퓨팅 가속을 위해 FPGA를 배치한 유수의 상용 데이터 센터 기업에 이름을 올리게 되었다. 바이두, 텐센트, 알리바바, aws, 화웨이, 님빅스 등을 포함한 이 기업들의 숫자는 계속해서 증가하고 있다.

자일링스의 데이터 센터 마케팅 부사장 매니시 뮤탈(Manish Muthal)은 “한국에서 최초로 SK텔레콤의 AI 데이터센터에 자일링스의 FPGA를 공급할 수 있는 기회를 갖게 되어 기쁘다. 이번에 공급하는 자일링스의 킨텍스 울트라스케일 KCU1500 FPGA는 애플리케이션에서 자일링스가 경쟁력을 갖고 있음을 보여준다. 앞으로도 자일링스는 데이터 센터 가속화에 우리의 기술 역량과 혁신을 집중해 나갈 것이다” 라고 말했다.

SK텔레콤와 자일링스는 앞으로 ASR 이상의 분야에서 협력을 지속한다. 자연어 처리, 영상 인식 기능을 강화하여 사용자를 파악하는 동시에 질문에 답하고 소통하는 NUGU를 만든다. 또한, 클라우드 영상 보안 서비스인 'T-View'는 FPGA 가속기의 도움을 받은 AI의 영상분석을 통해 잘못된 알람을 5% 이하까지 낮춰 시장 경쟁력을 갖출 계획이다. 향후 출시될 자율주행차 서비스를 위한 'HD 맵' 등의 솔루션도 강화한다.

한편 자일링스는 연말까지 FPGA의 한계를 극복할 수 있는 ACAP(Adaptive Compute Acceleration Platform, 적응형 컴퓨팅 가속화 플랫폼)을 연말까지 개발 완료할 예정이다. ACAP은 다양한 애플리케이션의 막대한 작업량 요구에 적응하기 위해 하드웨어 레벨에서 변경될 수 있는 고도로 통합된 멀티코어 이기종 컴퓨팅 플랫폼이다. 소프트웨어 개발자는 C/C++, OpenCL, Python 같은 툴을 이용해 ACAP을 기반하여 목표 시스템을 개발할 수 있다. 또한 FPGA 툴을 이용해 RTL 레벨에서도 프로그래밍이 가능하다. 최초의 ACAP 제품군인 코드네임 ‘에베레스트’는 TSMC 7nm 공정 기술로 개발 중이다.