AI 통합을 위한 클라우드 애플리케이션 가속화

2018-07-03 10:30~12:30

XILINX / 정 웅 부장

웨비나정보 웨비나Q&A

강*석2018-07-03 오전 11:04:22
그러면 xilinx platform을 사용할 때의 장점은 추론에 특화된 제품을 이용함으로 빠르게 추론할 수 있다는 것인가요? 결국 새로운 데이터로 계속적으로 네트워크를 구성하는 서버에서 사용하기보다 임베디드 부분에 특화된 부분인가요?
xilinx32018.07.03
오늘 소개드리는 내용은 Server + Xilinx Accel. Card 구성에 대한 내용 입니다. Embedded 지원 Solution도 향후 지원 계획이 있습니다.
지*호2018-07-03 오전 11:03:22
[질문]기능에 의한 칩 설계 후,AWS를 이용하여 AI 통합을 클라우드를 통해 가속화하면 기존 방식에 비해 얼마나 효율이 개선 되는지 궁금합니다.
xilinx12018.07.03
기존 방식이라면 CPU 기반을 말씀하시는 건지요? 성능 비교는 정확한 비교 조건이 있어야 해서 정성적으로 답변 드리기가 골란합니다. 일단 AWS demo 기준으로 googlenet 이 fpga card 한장을 1400fps, 8장 pooling 구조는 10000fps 이상의 성능을 보입니다.
김*호2018-07-03 오전 11:01:10
질문> AWS 외에 다른 클라우드도 지원을 하나요? 아니면 클라우드 벤더에 독립적인가요?
xilinx22018.07.03
AWS에서만 Xilinx를 사용한 FPGA As a service를 제공하고 있습니다.(VCU1525)
김*로2018-07-03 오전 11:00:25
발표자료는 VCU1525보드를 통해 구현하셧는데, ZCU106 보드를 통해서 구현하는데 문제가 될 부분이 있는지요.
xilinx12018.07.03
네 문제가 됩니다. 사실 cloud 쪽에서는 훨씬 큰 전력소모와 훨씬 높은 성능을 요구하기 때문에 사용되는 보드 또한 다릅니다. ML suite는 굉장 큰 디바이스가 올라간 보드르 사용합니다. ZCU106 에서는 revision stack 을 이용해서 ML application 의 구현이 가능합니다. ML suite나 revision stack의 ML 구성이나 기본적인 구성(processing engine구조,xfDNN lib) 은 동일합니다. 다만 application 의 특성에 따라 logic size, 동작속도 등이 다릅니다.
최*석2018-07-03 오전 10:58:05
내부 기술은 OpenCL을 사용하고 있나요? 만약 그렇다면 OpenCL에 직접 접근할 수 있을까요?
xilinx22018.07.03
내부 기술은 XOCC(Xilinx OpenCL Compile)로 CL/C/C++을 FPGA에 맞도록 언어 변환을 해주는 것이고요, middleware에 runtime sw를 제공하고 있습니다.
여*민2018-07-03 오전 10:57:05
다른 회사 제품이긴한데.. 예전에 FPGA 사용시 코드 변경후 Bulid 및 complie시 생각보다 시간이 상당히 걸리던데요. model 변경시에 소요시간이 많이 걸리나요?
xilinx12018.07.03
기본적으로 ML suite를 접근 방식은 기존 FPGA 사용방식과 다릅니다. ML suite에서는 이미 만들어진(build/complie 된) processing engine을 사용하는 방식입니다. network 이 바뀌어도 사용하는 FPGA 디자인 core는 동일합니다.
xilinx12018.07.03
따라서 network 이 변경되더라도 FPGA에 대한 build나 compile은 없습니다.
김*로2018-07-03 오전 10:55:50
AXI-MM은 AXI4 스트림이고, AXI-Lite는 제어용인가요?
xilinx22018.07.03
잘아시는것처럼 AXI-MM은 memory map 으로 layer가 변경될때 사용이 되며 Lite의 경우 parameter등의 제어용이 맞습니다.
박*희2018-07-03 오전 10:55:20
간단한 실제 모델 예제라도 올려주시는걸 보여주시면 더 좋을 듯 합니다~ ^^
xilinx12018.07.03
마지막 부분에 AWS 에 접속한 demo가 있습니다.
여*민2018-07-03 오전 10:55:01
네.. Training 관련입니다.
xilinx22018.07.03
현재 xilinx platform을 사용하여 training은 지원이 되지 않습니다.
최*석2018-07-03 오전 10:54:47
Training을 지원하는 Feature도 개발되고 있는 것이 있나요?
xilinx32018.07.03
Xilinx는 현재 Training 분야 지원 계획은 없습니다. Inference 지원에 집중하고 있습니다.