AI 프로세서 시장은 2025년, 911억 8500만 달러, 우리 돈으로 약 109.42조 원에 이를 전망이다. 10월 8일부터 11일까지 나흘간 개최됐던 제50회 한국전자전 2019는 발전한 한국의 전자산업의 현황을 목도하고 조망할 수 있는 기회의 장이었다. 올해 한국전자전 두 번째 기조연설 연사로 나선 삼성전자 심은수 센터장은 ‘지능형 반도체 기술의 발전 전망’을 주제로 AI 기술 확산에 따른 지능형 반도체 기술의 현황을 살펴보고 발전 방향을 전망했다.
전자정보통신산업진흥회에 따르면, 한국의 2018년 전자산업 생산액이 1711억 100만 달러로 집계됐다. 중국과 미국에 이은 세계 3위다. 1960년대, 연 10억 달러도 되지 못했던 한국 전자산업이 60년간 얼마나 발전했는지 알 수 있는 수치다.
10월 8일부터 11일까지 나흘간 개최됐던 제50회 한국전자전 2019는 60주년을 맞이한 한국 전자산업의 현재를 파악하고 미래를 조망할 수 있는 기회의 장이었다.
한국전자전(Korea Electronics Show; KES)은 1969년 최초로 개최된 이래 올해로 50주년을 맞아 해외 104개 업체를 포함한 총 443개 업체가 1,100개 부스를 구성했다.
개막 첫날에는 LG전자 이상용 A&B센터장, 삼성전자 심은수 AI&SW센터장, 퓨처소스 컨설팅(Futuresource Consulting) 잭 웨더릴(Jack Wetherill) 총괄 애널리스트가 기조연설을 맡아 전자산업계 트렌드와 인사이트를 공유했다.
▲삼성전자 심은수 센터장 (사진=이수민 기자)
두 번째 기조연설 연사로 나선 삼성전자 심은수 센터장은 ‘지능형 반도체 기술의 발전 전망’을 주제로 AI 기술 확산에 따른 지능형 반도체 기술의 현황을 살펴보고 발전 방향을 전망했다.
AI, 인간보다 정확하다
심은수 센터장은 AI 기술이 얼마나 발전하고 있는지 ILSVRC 사례를 들어 설명했다.
ILSVRC(ImageNet Large Scale Visual Recognition Challenge)는 대용량 이미지셋을 주고 이미지 인식 알고리즘의 성능을 평가하는 대회로 2010년부터 시작됐다.
2012년에 우승을 차지한 CNN 기반 딥러닝 알고리즘 AlexNet은 약 26%였던 인식 오류율을 16%까지 낮췄다. 이후 딥러닝 기반 알고리즘이 보편화되면서 인식 오류는 점점 낮아졌다.
2015년에는 사람의 인식 오류율인 5%보다 낮은 오류율을 기록했다. 2017년에 우승한 SENet의 오류율은 고작 2.3%로 사람보다 정확하다.
지능형 반도체, 이젠 스스로 AI 연산해야
삼성전자의 음성인식기반 개인비서 애플리케이션 ‘빅스비’는 클라우드로 사용자의 음성을 보낸다. 클라우드는 AI 엔진으로 음성인식을 수행하고 그 결과를 빅스비로 보낸다. 스마트폰에서 AI 연산을 할 수 없었기 때문이다.
클라우드의 도움 없이 디바이스 자체적으로 AI 엔진을 구동하려는 움직임이 일면서 지난 7월엔 국내에서 지능형반도체포럼도 출범했다. AI에 최적화된 지능화 반도체를 구현하기 위해서는 패키징을 비롯한 칩 제조 기술, 칩 설계 기술, 그리고 적합한 소프트웨어 개발이 필요하다.
반도체는 메모리 반도체와 비메모리 반도체로 나뉜다. 시스템 반도체는 비메모리 반도체의 한국식 표현이다. 메모리 반도체 대부분은 AI와 관련 있으며, 비메모리 반도체 중에선 특히 프로세서인 CPU, GPU, 가속기, AP가 AI와 관련 있다.
AI 프로세서 시장은 빠르게 발전하고 있다. AMR에 따르면, AI 프로세서 시장은 2018년부터 2025년까지 연평균 45.4%의 성장세를 기록할 전망이다. 이를 통해 2025년도 관련 시장 규모는 911억 8500만 달러, 우리 돈으로 약 109.42조 원에 이를 전망이다.
AI 연산에 최적화된 반도체, NPU
CPU는 AI 운영에 최적화된 프로세서가 아닌 범용 프로세서다. AI 전용 프로세서는 CPU보다 AI 효율이 100% 높다. AI 프로세서의 효율은 구글의 사례를 통해 알 수 있다.
2015년, 첫 알파고의 분산 버전은 1,920개의 CPU와 280개의 GPU를 썼다. 구글은 이후 딥러닝에 적합한 TPU를 개발했다. 48개의 TPU를 탑재한 알파고 Lee는 이세돌과의 대국에서 4승 1패로 승리를 거뒀다. 2017년에 발표된 알파고 제로는 4개의 TPU를 탑재한 1개의 TPU 모듈을 사용하는데, 성능이 향상됐음에도 첫 알파고보다 전력 효율이 30~80배가량 개선됐다.
성능 향상과 함께 전력 효율은 반도체에 있어 중요한 요소다. 특히 데이터센터의 주요 목표는 전력 효율을 줄이는 것이다. 동일 성능 대비 전력 효율을 30~80배가량 높일 수 있다면 더 많은 작업을 할 수 있다.
▲NPU를 탑재한 삼성전자 엑시노스 980
(사진=삼성전자)
삼성전자가 주력하는 NPU(Neural Processing Unit; 신경망처리장치)는 딥 러닝 알고리즘 연산에 최적화된 프로세서다. 딥 러닝 알고리즘은 수천 개 이상의 연산을 동시에 처리해야 하는 병렬 컴퓨팅 기술이 요구된다. NPU는 이러한 대규모 병렬 연산을 효율적으로 할 수 있다.
NPU는 별도의 칩으로 제작될 수 있으며 모바일 AP에 컴포넌트로 들어갈 수 있다. 삼성전자는 갤럭시 S9부터 자체 개발한 NPU가 탑재된 모바일 AP를 사용하고 있다.
AI 반도체의 구현 기술 및 응용 분야
반도체 기술력은 칩 하나만 잘 만든다고 높다고 할 수 없다. 특히 AI는 다양한 레이어의 기술이 차곡차곡 쌓여야 잘 구동할 수 있다. AI 하드웨어, 컴파일러, 라이브러리, 프레임워크, 플랫폼, 애플리케이션과 서비스 등 다양한 분야에서 전반적인 역량을 갖추고 있어야 한다. 이러한 소프트웨어 스택을 갖고 있지 못한다면 AI에서 가치를 창출할 수 없다.
심은수 센터장은 엔비디아가 AI 시장에서 어떻게 경쟁력을 확보했는지 설명했다. 엔비디아는 GPU가 탑재된 칩, 보드, 서버를 만들고 있으며 클러스터까지 구성했다. 칩만 만들 수 있는 것이 아니라 칩으로 시스템을 만들 수 있다는 것을 증명하여 경쟁력을 높인 것이다.
AI가 응용될 분야는 다양하다. 무선 이어폰부터 스마트폰, TV, 배달로봇, 자율주행차량, 서버, 데이터센터까지 모두 AI를 활용할 수 있다. AI 기술을 개발하는 회사들이 늘어나는 이유다. AI 응용 코어 기술이 있을 경우 자사의 제품과 서비스 가치를 높이기 쉽다.
AI 프로세서의 단점을 보완하려는 움직임
기술의 발달로 사람들의 사이가 공간의 제약 없이 점점 가까워지면서 음성인식, 즉 자연어 처리 기술이 급격히 발달하고 있다. 자연어 처리에 활용되는 다층 퍼셉트론(Multilayer Perceptron; MLP), 순환 신경망(Recurrent Neural Networks; RNN) 기술을 활용하기 위해 페이스북과 구글은 AI 전용 프로세서를 많이 채택하고 있다.
다만 AI 프로세서는 메모리 액세스가 많다는 단점이 있다. 따라서 기존의 메모리 대역폭으로는 성능 향상에 제약이 있을 수밖에 없다. 또 메모리 액세스는 전력 소모가 많다. 전력 효율적인 AI 프로세서를 만들어야 하는 또 다른 이유다.
AI 프로세서의 전력 효율 향상을 위해 업계에선 다양한 기술들을 고심하고 있다. 주로 메모리와 프로세서의 거리를 줄이거나 메모리에 프로세서를 넣는 방향을 검토하고 있다.
반도체 업계에서는 현재 NVM 크로스바 어레이를 사용한 인메모리 컴퓨팅 기술, 전송될 데이터를 32비트에서 8비트로 줄이면서 정확도를 유지하는 기술, 스파이킹 뉴럴 네트워크(Spiking Neural Networks; SNN) 기술, 광신호로 계산하는 포토닉스 기술, 소프트웨어 정의 하드웨어(Software-defined hardware; SDH) 기술 등을 연구 중이다.
▲AI 반도체 시장에 뛰어든 수많은 플레이어들
(사진=이수민 기자)
심은수 센터장은 기조연설을 마치면서 “AI 반도체 시장은 엄청난 잠재력을 갖고 있으며, 이미 수많은 플레이어들이 뛰어들었음에도 그 숫자는 더욱 증가할 것”이라면서 “수년 내에 시장에서 살아남기 위해선 전력 효율과 소프트웨어 스택 측면에서 경쟁력을 갖춰야 할 것”이라고 조언했다.