마이크로칩 8월
웨비나

AI 통합을 위한 클라우드 애플리케이션 가속화

2018.07.03 10:30~12:30 정 웅 부장 / XILINX
  • 강우석2018-07-03T11:04:21.970Z

    그러면 xilinx platform을 사용할 때의 장점은 추론에 특화된 제품을 이용함으로 빠르게 추론할 수 있다는 것인가요? 결국 새로운 데이터로 계속적으로 네트워크를 구성하는 서버에서 사용하기보다 임베디드 부분에 특화된 부분인가요?
  • 2018-07-03T11:06:44.500Z

    오늘 소개드리는 내용은 Server + Xilinx Accel. Card 구성에 대한 내용 입니다. Embedded 지원 Solution도 향후 지원 계획이 있습니다.
  • 지정호2018-07-03T11:03:21.847Z

    [질문]기능에 의한 칩 설계 후,AWS를 이용하여 AI 통합을 클라우드를 통해 가속화하면 기존 방식에 비해 얼마나 효율이 개선 되는지 궁금합니다.
  • 2018-07-03T11:07:06.400Z

    기존 방식이라면 CPU 기반을 말씀하시는 건지요? 성능 비교는 정확한 비교 조건이 있어야 해서 정성적으로 답변 드리기가 골란합니다. 일단 AWS demo 기준으로 googlenet 이 fpga card 한장을 1400fps, 8장 pooling 구조는 10000fps 이상의 성능을 보입니다.
  • 김지호2018-07-03T11:01:09.510Z

    질문> AWS 외에 다른 클라우드도 지원을 하나요? 아니면 클라우드 벤더에 독립적인가요?
  • 2018-07-03T11:02:12.140Z

    AWS에서만 Xilinx를 사용한 FPGA As a service를 제공하고 있습니다.(VCU1525)
  • 김수로2018-07-03T11:00:25.393Z

    발표자료는 VCU1525보드를 통해 구현하셧는데, ZCU106 보드를 통해서 구현하는데 문제가 될 부분이 있는지요.
  • 2018-07-03T11:04:19.090Z

    네 문제가 됩니다. 사실 cloud 쪽에서는 훨씬 큰 전력소모와 훨씬 높은 성능을 요구하기 때문에 사용되는 보드 또한 다릅니다. ML suite는 굉장 큰 디바이스가 올라간 보드르 사용합니다. ZCU106 에서는 revision stack 을 이용해서 ML application 의 구현이 가능합니다. ML suite나 revision stack의 ML 구성이나 기본적인 구성(processing engine구조,xfDNN lib) 은 동일합니다. 다만 application 의 특성에 따라 logic size, 동작속도 등이 다릅니다.
  • 최용석2018-07-03T10:58:05.277Z

    내부 기술은 OpenCL을 사용하고 있나요? 만약 그렇다면 OpenCL에 직접 접근할 수 있을까요?
  • 2018-07-03T10:59:21.140Z

    내부 기술은 XOCC(Xilinx OpenCL Compile)로 CL/C/C++을 FPGA에 맞도록 언어 변환을 해주는 것이고요, middleware에 runtime sw를 제공하고 있습니다.
  • 여경민2018-07-03T10:57:04.620Z

    다른 회사 제품이긴한데.. 예전에 FPGA 사용시 코드 변경후 Bulid 및 complie시 생각보다 시간이 상당히 걸리던데요. model 변경시에 소요시간이 많이 걸리나요?
  • 2018-07-03T10:59:24.540Z

    기본적으로 ML suite를 접근 방식은 기존 FPGA 사용방식과 다릅니다. ML suite에서는 이미 만들어진(build/complie 된) processing engine을 사용하는 방식입니다. network 이 바뀌어도 사용하는 FPGA 디자인 core는 동일합니다.
  • 2018-07-03T11:00:03.690Z

    따라서 network 이 변경되더라도 FPGA에 대한 build나 compile은 없습니다.
  • 김수로2018-07-03T10:55:49.777Z

    AXI-MM은 AXI4 스트림이고, AXI-Lite는 제어용인가요?
  • 2018-07-03T10:56:42.577Z

    잘아시는것처럼 AXI-MM은 memory map 으로 layer가 변경될때 사용이 되며 Lite의 경우 parameter등의 제어용이 맞습니다.
  • 박선희2018-07-03T10:55:19.527Z

    간단한 실제 모델 예제라도 올려주시는걸 보여주시면 더 좋을 듯 합니다~ ^^
  • 2018-07-03T10:56:27.587Z

    마지막 부분에 AWS 에 접속한 demo가 있습니다.
  • 여경민2018-07-03T10:55:01.447Z

    네.. Training 관련입니다.
  • 2018-07-03T10:55:56.657Z

    현재 xilinx platform을 사용하여 training은 지원이 되지 않습니다.
  • 최용석2018-07-03T10:54:46.750Z

    Training을 지원하는 Feature도 개발되고 있는 것이 있나요?
  • 2018-07-03T10:55:32.160Z

    Xilinx는 현재 Training 분야 지원 계획은 없습니다. Inference 지원에 집중하고 있습니다.